OpenAI 与 DeepMind 合作提出基于人类偏好学习的新算法
OpenAI 与 DeepMind 安全团队合作开发了一种新算法，通过让人类在两种候选行为中选择更优方案来推断真实意图。该方法旨在消除人类直接编写目标函数的需要，避免因目标设定偏差导致不符合预期乃至危险的系统行为。
推荐理由：算法通过让人类在两种行为中二选一的方式推断真实意图，减少了手动编写复杂目标函数带来的安全隐患。
公司与模型
OpenAI / ChatGPT 最新动态
OpenAI 的全部动态：GPT 系列模型、ChatGPT 与 Sora 产品、公司战略与人事的持续追踪。
324 条精选近 30 天 15 条共收录 1,203 条
更新
精选归档 · 第 17 页
OpenAI News精选AI 评分6969
OpenAI News精选AI 评分6262 OpenAI 联合 Google Brain 等机构发布 AI 安全论文《Concrete Problems in AI Safety》
OpenAI 联合来自 Berkeley、Stanford 以及牵头的 Google Brain 研究人员共同发布了论文《Concrete Problems in AI Safety》。该论文重点探讨了如何确保现代机器学习系统按设计预期运行的多项关键安全课题。
推荐理由：论文探讨了确保机器学习系统按预期运行的具体安全问题，为人工智能系统控制与安全对齐提供了关键的研究议题。
OpenAI News精选AI 评分6565 OpenAI Gym Beta 公测发布
OpenAI 宣布公测 OpenAI Gym，这是一个用于开发和对比强化学习（RL）算法的工具包。该套件包含从仿真机器人到 Atari 游戏等持续扩充的环境集合，并提供用于对比和复现算法结果的网站。
推荐理由：OpenAI 推出标准化强化学习算法开发与对比工具包，为仿真机器人到 Atari 游戏等环境提供了可复现的评测支持。
OpenAI News精选AI 评分7070 非营利人工智能研究机构 OpenAI 宣布成立
OpenAI 宣布作为一家非营利人工智能研究机构成立，其核心目标是在不受财务回报约束的前提下推进数字智能，从而造福全人类。该机构表示，摆脱财务义务能让其研究团队更专注于对人类产生积极影响。
推荐理由：原文说明了机构创立初期的非营利属性，有助于读者了解其摆脱财务约束以专注人类福祉的背景设定。