跳到正文

内容形态

模型发布 最新动态

新模型的发布、开源与迭代:大模型厂商的旗舰更新、开源权重放出、性能与价格变化的第一时间记录。

159 条精选近 30 天 14 条共收录 196 条

更新

精选归档 · 第 8 页

8月22日周二第 141–159 条
  1. Hugging Face Blog74

    Hugging Face 开源视觉语言模型 IDEFICS:复现 Flamingo 并提供 9B 与 80B 版本

    Hugging Face 正式开源视觉语言模型 IDEFICS,作为 DeepMind 闭源模型 Flamingo 的开放复现版本,支持图文交错序列输入并生成文本。

    推荐理由:该项目完全基于公开数据和开源模型复现了闭源 Flamingo 的图文交错多模态能力,为多模态研究提供了透明的数据集与权重参考。

7月18日周二
  1. Hugging Face Blog97

    Llama 2 正式上线 Hugging Face 并支持商用

    Meta 正式开源 Llama 2 大语言模型系列,Hugging Face 同步上线模型权重并提供生态集成支持。该系列涵盖 7B、13B 和 70B 参数规格,允许商用,预训练 token 增加 40%,上下文窗口扩展至 4k tokens。平台同步提供了 Transformers 推理示例、Text Generation Inference 部署方案以及单卡 QLoRA 微调脚本。

    推荐理由:文章梳理了该系列模型相比前代在上下文与训练量上的变化,并提供了在消费级显卡上微调与部署的工程配置。

5月4日周四
3月14日周二
  1. OpenAI News96

    OpenAI 发布大型多模态模型 GPT-4

    OpenAI 正式发布大型多模态模型 GPT-4,支持图像和文本输入并生成文本输出。官方表示该模型虽然在许多现实场景中仍逊于人类,但在多项专业和学术基准测试中展现出了人类水平的表现。

    推荐理由:官方说明了模型支持图像与文本双模态输入,读者可以据此了解其能力形态和基准测试定位。

11月30日周三
  1. OpenAI News96

    OpenAI 推出对话模型 ChatGPT

    OpenAI 训练并推出了对话模型 ChatGPT,该模型采用对话形式与用户交互。对话格式使其能够回答后续追问、承认自身错误、质疑不正确的前提,并拒绝不合理的请求。

    推荐理由:官方介绍了对话交互机制的核心特性,读者可以了解模型在处理追问、承认错误与拒绝不当请求上的交互设计。

10月5日周三
  1. Hugging Face Blog62

    rinna 发布日语微调模型 Japanese Stable Diffusion

    rinna 发布针对日语文化微调的文生图模型 Japanese Stable Diffusion,支持直接输入日语提示词生成符合日本本土文化意象的图像。该模型基于约 1 亿张带有日语标注的图像进行训练,采用两阶段方法先训练专属日语文本编码器再与潜在扩散模型联合微调,相关权重和代码已在 Hugging Face 与 GitHub 开源。

    推荐理由:原文详细拆解了在小规模语料下将英文扩散模型迁移至本土语言的两阶段微调方案,为特定语种文生图适配提供了可复用的工程参考。

9月21日周三
  1. OpenAI News82

    OpenAI 推出并开源语音识别模型 Whisper

    OpenAI 训练并开源了一款名为 Whisper 的神经网络模型。该模型在英语语音识别任务上的鲁棒性和准确率接近人类水平。

    推荐理由:原文给出了官方开源语音识别模型的核心能力定位,读者可借此了解其在英语语音识别鲁棒性上的基准表现。

7月12日周二
  1. Hugging Face Blog80

    BigScience 正式发布开源多语言大模型 BLOOM

    BigScience 正式发布 176B 参数的开源多语言大语言模型 BLOOM,能够生成 46 种自然语言与 13 种编程语言的文本。该模型由来自 70 多个国家的研究人员历时 117 天在法国 Jean Zay 超级计算机上训练完成,并同步开源了训练中间检查点和优化器状态。

    推荐理由:该模型完整公开了训练检查点与优化器状态,为学术界深入研究百亿级以上多语言模型的内部机理提供了开放样本。

3月15日周二
  1. OpenAI News73

    OpenAI 发布 GPT-3 与 Codex 新版本:支持文本编辑与插入功能

    OpenAI 发布了 GPT-3 和 Codex 的新版本,新增在现有文本中编辑或插入内容的能力。以往模型仅支持单向补全已有文本,此次更新允许直接对现有内容进行修改与填充。

    推荐理由:新版本将能力从单纯续写补全扩展到对已有文本进行编辑与插入,改变了以往只能单向生成内容的方式。

1月27日周四
  1. OpenAI News88

    OpenAI 发布 InstructGPT:对齐语言模型以遵循指令并设为 API 默认选项

    OpenAI 推出 InstructGPT 模型并将其部署为 API 的默认语言模型,相比 GPT-3 能够更好遵循用户意图。该模型结合了对齐研究成果并引入人类在回路训练,在提升内容真实性的同时降低了输出毒性。

    推荐理由:说明了 InstructGPT 如何通过对齐技术改善指令遵循能力,并直接替代原有基础模型成为接口默认选项。

8月10日周二
1月5日周二
  1. OpenAI News88

    OpenAI 推出 CLIP:连接文本与图像

    OpenAI 推出神经网络 CLIP,可通过自然语言监督高效学习视觉概念。该模型只需提供待识别视觉类别的名称即可应用于任何视觉分类基准,具备类似于 GPT-2 和 GPT-3 的零样本能力。

    推荐理由:原文介绍了利用自然语言监督学习视觉概念的机制,展示了将语言模型零样本能力拓展至视觉分类的方法。

4月30日周四
  1. OpenAI News74

    OpenAI 推出音乐生成模型 Jukebox 并开源代码与权重

    OpenAI 推出音乐生成神经网络 Jukebox,能够直接以原始音频形式生成包含多种流派、艺术家风格以及初步歌声的音乐。官方已同步开源该模型的权重与代码,并提供了用于试听和浏览生成音频样本的工具。

    推荐理由:OpenAI开源了可直接生成原始音频与歌声的音乐生成模型及代码,为音频多模态生成研究提供了可复现的参考实现。

11月5日周二
  1. OpenAI News86

    OpenAI 正式发布 GPT-2 1.5B 完整模型与代码权重

    OpenAI 正式发布 GPT-2 分阶段发布计划中的最大版本(1.5B 参数),并同步公开代码与模型权重以协助检测生成内容。尽管此前已有更大规模语言模型推出,官方仍按原计划完成分阶段发布流程,旨在为未来大模型开发者提供负责任发布的实践测试范例。

    推荐理由:OpenAI 完成了 GPT-2 的分阶段发布并公开完整权重与检测代码,为后续大模型的负责任发布流程提供了实践参考。

8月20日周二
  1. OpenAI News73

    OpenAI 发布 774M 参数 GPT-2 模型及 6 个月进展跟踪

    OpenAI 正式发布 774M 参数的 GPT-2 语言模型,这是继 2 月发布 124M 和 5 月发布 355M 模型后的分阶段发布更新。此外,OpenAI 还发布了一份开源法律协议以促进机构间的模型共享合作,并公布了关于 AI 研究社区发布规范协调经验的技术报告。

    推荐理由:OpenAI 推进了分阶段发布策略并公开更大规模模型,为研究大模型滥用风险与合作共享机制提供了实证参考。

4月25日周四
  1. OpenAI News64

    OpenAI 推出音乐生成模型 MuseNet

    OpenAI 推出深度神经网络 MuseNet,能够使用 10 种不同乐器生成长达 4 分钟的音乐作品,并可融合从乡村音乐到莫扎特、披头士等多种风格。该模型采用与 GPT-2 相同的通用无监督 Transformer 架构,通过预测数十万个 MIDI 文件中的下一个 token 自主学习和声与节奏规律,无需显式编写音乐规则。

    推荐理由:该成果展示了将自回归 Transformer 架构和 token 预测方法从文本扩展到 MIDI 符号音乐生成的可行路径。

2月14日周四
  1. OpenAI News78

    OpenAI:更优质的语言模型及其影响

    OpenAI 训练了一个大规模无监督语言模型,能够在无需针对特定任务训练的情况下生成连贯的文本段落。该模型在多项语言建模基准上达到了 SOTA 表现,并展现出初步的阅读理解、机器翻译、问答及文本摘要能力。

    推荐理由:原文呈现了无监督预训练模型在无需特定任务训练的情况下,直接展现阅读理解与问答等泛化能力的早期范式。

8月11日周五
  1. OpenAI News78

    OpenAI 推出 Dota 2 机器人并在 1v1 比赛中击败顶尖职业选手

    OpenAI 打造了一款在标准比赛规则下于 Dota 2 1v1 对战中击败世界顶级职业选手的机器人。该机器人完全通过自我对弈从零开始学习游戏策略,没有使用模仿学习或树搜索。这一进展旨在探索 AI 系统在涉及人类真实互动的复杂环境中完成明确目标的能力。

    推荐理由:原文展示了仅靠自我对弈训练的强化学习智能体,在不依赖模仿学习或树搜索的情况下应对复杂竞技博弈的可行路径。