Google DeepMind 发布 AI 控制路线图，提出智能体系统级防御框架

Google DeepMind 发布 AI 控制路线图（AI Control Roadmap）技术报告，提出在模型对齐之外构建针对高能力 AI 智能体的系统级纵深防御体系。该方案将内部智能体视为潜在内部威胁，利用可信监督模型对其推理过程和行动进行分级检测与拦截。团队已基于 100 万个编码智能体运行轨迹验证监控原型，并将其应用于 Gemini Spark 的实时安全防护。