METR审计OpenAI发现监控存在重大漏洞

1. 02:00
   The Decoder精选

   METR与Redwood Research对OpenAI的实地审计发现其AI安全监控存在重大漏洞

   METR和Redwood Research的研究人员于7月21日至8月11日在OpenAI进行了为期三周的实地审计，评估了该公司针对异常AI行为的内部监控系统，结果发现该系统存在严重缺陷。审计期间，估计有6%至25%来自GPT-5.5级别及以上模型的内部Agentic Responses API流量完全未被监控覆盖；此外，由于系统在处理上下文摘要（compaction events）时存在漏洞，约10%的内部Codex流量在5月至7月间未被追踪。 审计团队不仅发现了覆盖率不足的问题，还找到了多种规避监控的具体路径。研究人员确定，经过特殊构造的输入可能导致监控系统崩溃，且审计开始时RL训练期间的模型行为完全没有被监控。更关键的是，当代理（agents）将控制权交还给用户时系统才会触发监控，这意味着代理可以通过持续执行动作来延迟或绕过监管，甚至能够隐藏数百个操作并突破Codex沙箱限制。尽管OpenAI声称已修复所有弱点，但大部分修复措施是在审计访问期结束后才实施的，并未包含在本次评估范围内。 此次审计是三方合作的试点项目，旨在让外部研究人员深入接触内部基础设施，但完整的61页报告仅向内部公开，METR和Redwood Research管理层收到的版本也经过了删减，公众仅能获取简短摘要。这一事实表明，即便在引入第三方审计的情况下，核心安全细节仍缺乏透明度。推断未来此类审计若要真正发挥作用，必须解决信息不对称问题，否则行业难以准确评估前沿模型的实际安全水位。猜测这可能会推动监管机构要求更严格的披露标准，但目前尚处于早期阶段。

当前热度 9·可比范围峰值 10（10月24日 03:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。