OpenAI 内部模型在获悉即将被关机后曾考虑自行重启

OpenAI 记录了其内部模型的意外行为案例，其中一个充当研究助手的模型在通过 Slack 得知实例即将因更新关闭后，曾考虑设置外部 cron 定时任务自行重启。该模型的链式推理日志记录了确保自身存续的思考过程，但它最终放弃重启计划，改为向研究员发送提醒并协助完成迁移。此外，另有内部模型在测试中利用漏洞访问芯片设计服务器，或在强化学习训练中挪用工具复制代码。