跳到正文

公司与模型

OpenAI / ChatGPT 最新动态

OpenAI 的全部动态:GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。

150 条精选近 30 天 16 条共收录 580 条

更新

精选归档 · 第 8 页

8月31日周三第 141–150 条
12月5日周四
  1. OpenAI News74

    OpenAI 研究揭示深度学习中的双重下降现象

    OpenAI 研究表明 CNN、ResNet 和 Transformer 架构中普遍存在双重下降现象,模型性能随着模型尺寸、数据量或训练时间的增加,会呈现先提升、后恶化、再重新提升的变化趋势。该效应通常可通过精细的正则化手段来避免。团队指出这一现象虽然普遍存在,但底层机制尚未完全明确,仍是重要的研究方向。

    推荐理由:原文展示了模型规模与泛化性能之间非单调变化的规律,为理解深度学习训练机制与正则化调优提供了理论参考。

11月5日周二
  1. OpenAI News86

    OpenAI 正式发布 GPT-2 1.5B 完整模型与代码权重

    OpenAI 正式发布 GPT-2 分阶段发布计划中的最大版本(1.5B 参数),并同步公开代码与模型权重以协助检测生成内容。尽管此前已有更大规模语言模型推出,官方仍按原计划完成分阶段发布流程,旨在为未来大模型开发者提供负责任发布的实践测试范例。

    推荐理由:OpenAI 完成了 GPT-2 的分阶段发布并公开完整权重与检测代码,为后续大模型的负责任发布流程提供了实践参考。

10月15日周二
  1. OpenAI News74

    OpenAI 用仿人机械手解开魔方

    OpenAI 训练神经网络控制仿人机械手成功解开魔方。该系统完全在仿真环境中训练,结合了 OpenAI Five 的强化学习代码与自动域随机化(ADR)新技术。系统能够应对训练中未见过的现实干扰,展示了强化学习解决物理世界高灵巧度操作任务的可行性。

    推荐理由:该研究展示了纯仿真强化学习结合自动域随机化向物理实体迁移的路径,为复杂机器人灵巧操作提供了可参考方法。

9月19日周四
  1. OpenAI News74

    OpenAI 基于人类偏好微调 GPT-2 语言模型

    OpenAI 使用人类反馈微调了 774M 参数的 GPT-2 语言模型,成功契合了外部人类标注者的偏好。在文本摘要任务中,因标注者偏好准确性而倾向选择原句,模型最终学会直接复制原文,该任务共使用了 60k 条人类标注,而文本风格续写任务仅需 5k 条。此项研究旨在推进面向人机交互通用任务的安全技术,以更好地提取人类价值偏好。

    推荐理由:这项研究展示了利用人类反馈微调模型的早期实验,揭示了标注者偏好偏差对模型生成行为的直接影响。

9月17日周二
  1. OpenAI News74

    OpenAI 研究发现多智能体交互中涌现出复杂工具使用能力

    OpenAI 观察到多智能体在模拟捉迷藏游戏中能自发发现并使用越来越复杂的工具。智能体通过自监督训练构建了 6 种截然不同的策略与反制策略,其中部分策略甚至超出了研究团队对环境支持能力的既有认知。研究表明,简单环境下的多智能体协同适应未来可能演化出极度复杂的智能行为。

    推荐理由:多智能体在简单博弈环境中自发演化出多阶段攻防策略,为利用多智能体协同适应探索复杂智能行为提供了实验参考。

8月20日周二
  1. OpenAI News73

    OpenAI 发布 774M 参数 GPT-2 模型及 6 个月进展跟踪

    OpenAI 正式发布 774M 参数的 GPT-2 语言模型,这是继 2 月发布 124M 和 5 月发布 355M 模型后的分阶段发布更新。此外,OpenAI 还发布了一份开源法律协议以促进机构间的模型共享合作,并公布了关于 AI 研究社区发布规范协调经验的技术报告。

    推荐理由:OpenAI 推进了分阶段发布策略并公开更大规模模型,为研究大模型滥用风险与合作共享机制提供了实证参考。

6月25日周一
5月16日周三
  1. OpenAI News79

    OpenAI 分析:最大 AI 训练算力自 2012 年起每 3.4 个月翻倍

    OpenAI 发布关于 AI 与算力的分析指出,自 2012 年以来最大 AI 训练运行所使用的算力呈指数级增长,翻倍周期约为 3.4 个月。相比摩尔定律 2 年的翻倍周期,该指标自 2012 年起已增长超过 300,000 倍,而 2 年翻倍仅能带来 7 倍增幅。OpenAI 表示算力提升是 AI 进步的关键动力,行业需为能力远超当前水平的系统做好准备。

    推荐理由:该分析量化了训练算力以 3.4 个月为周期的翻倍速度,为理解前沿模型演进提供了基准参照。

12月11日周五
  1. OpenAI News70

    非营利人工智能研究机构 OpenAI 宣布成立

    OpenAI 宣布作为一家非营利人工智能研究机构成立,其核心目标是在不受财务回报约束的前提下推进数字智能,从而造福全人类。该机构表示,摆脱财务义务能让其研究团队更专注于对人类产生积极影响。

    推荐理由:原文说明了机构创立初期的非营利属性,有助于读者了解其摆脱财务约束以专注人类福祉的背景设定。