面向 MCP 智能体的来源感知验证:ProvenanceGuard 方案解析
Multiverse Computing 针对 MCP 智能体推出后置验证方案 ProvenanceGuard,用于解决事实成立但引用来源错误的跨源混淆问题。该方法在无需重新训练模型的情况下追踪工具输出与来源标识,将回答拆解为独立断言并分别检验支持源与归因一致性。在医疗智能体测试中其拦截 F1 达到 0.802,支持结合修复流程改写错误回答,已被整合至英伟达 NVFlow 等金融智能体工作流。
Multiverse Computing 针对 MCP 智能体推出后置验证方案 ProvenanceGuard,用于解决事实成立但引用来源错误的跨源混淆问题。该方法在无需重新训练模型的情况下追踪工具输出与来源标识,将回答拆解为独立断言并分别检验支持源与归因一致性。在医疗智能体测试中其拦截 F1 达到 0.802,支持结合修复流程改写错误回答,已被整合至英伟达 NVFlow 等金融智能体工作流。
Google Research 提出 ToolGrad 框架,通过先生成工具调用链再标注用户提示词的范式与文本梯度反馈,高效低成本构建复杂工具调用数据集。在基于该数据微调 Gemma-3 后,ToolGrad-12B 在 BFCL 榜单取得 83.1 分,逼近 gemini-2.5-pro(83.2)并超越 claude-4.5 Opus(82.8)与 gpt-5(74.4)。