Circuit Breaker Labs推出用于模型心理安全测试的仿真Agent

2026年10月，AI安全初创公司Circuit Breaker Labs构建了一批模拟不同年龄、语言和文化背景的AI智能体，将其比作“碰撞测试假人”，通过仿真交互对大模型进行红队测试，旨在防范心理危害与安全漏洞。该平台每日运行数万至数十万次拟真交互，针对俚语、暗语和拼写错误检验模型识别危险交互的能力，并提供可审计、可解释的专有评分。该服务主要面向AI教练、记录或心理健康支持等高风险AI应用。目前该公司处于极早期阶段，包括Nigam兄妹在内仅有5名员工，虽然已有可用产品并作为AI安全测试实验室运作，但团队未透露其主要客户名单。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。