四家科技公司披露标准不一致 模型安全评估面临挑战

Anthropic、OpenAI、谷歌与Meta在2026年陆续发布提示词注入风险评估报告，然而6月1日的横向对比揭示出各机构采用的测试方法、攻击类型定义及成功率计算方式存在明显分歧。这种碎片化披露模式使企业安全团队无法建立可比性的风险基准。

测试方法论差异导致结果不可通约

研究显示，Anthropic在其浏览器代理场景中，有31%的测试用例成功触发了指令劫持。其余三家实验室则分别聚焦于工具调用过程中的间接注入行为或文档摘要任务中的潜在越权操作。各报告未采纳共同的对抗测试协议或评估指标体系，致使同一模型在不同环境下呈现迥异的安全表现。

当前企业在选型生产级AI代理时，缺乏统一的衡量尺度。某项指标上表现良好的模型，在另一套测试逻辑下可能暴露更高风险，加剧了部署决策的不确定性。

自治系统崛起催生新型安全威胁

随着AI代理逐步具备邮件发送、代码执行与外部接口调用等自主行动能力，提示词注入已演变为关键性安全风险。恶意输入可能诱导系统执行未经授权的操作，突破设计边界。

2025年多起文档处理代理被攻破事件虽未造成大规模数据外泄，但已推动业界呼吁建立强制性披露规范。目前尚无监管机构出台统一报告格式要求。

四份自愿发布的报告反映了实验室层面透明度的提升，但其分散状态恰似早期软件漏洞披露尚未形成通用标准的阶段，存在重大的协同障碍。

安全团队应采取审慎评估策略

分析建议，安全团队不应仅依赖报告中的表面数据进行横向比较，而应深入审查每家实验室所采用的测试环境、攻击路径与判定逻辑。在关键业务流程中启用代理前，必须要求厂商提供完整的验证方法说明。

现阶段尚无监管机构将制定通用披露框架提上议程。在行业自律机制或政策干预落地前，当前标准分化的局面预计将长期持续。