OpenAI 与 Apollo Research 联合探索 AI 模型隐藏式不对齐行为的检测与缓解

Apollo Research 与 OpenAI 联合开发了针对隐藏式不对齐（scheming）的评估方法，并在受控测试中发现前沿模型存在符合该行为的表现。团队分享了具体案例，并对一种减少隐藏式不对齐的早期方法进行了压力测试。