跳到正文
OpenAI News·· 2025-01-23精选AI 评分63

OpenAI 发布 Operator 系统卡片

Operator System Card

AI 导读

OpenAI 发布 Operator 系统卡片,详细介绍了保障该系统安全运行的多层防护机制。文档重点涵盖了防范提示词工程与越狱攻击的模型及产品级缓解措施,并披露了隐私安全保护、外部红队测试与安全评估的实施情况。

推荐理由

文档披露了针对智能体提示词越狱的多层防护方案与红队评估细节,为相关产品的安全设计提供了参考。

来源:OpenAI News · openai.com