跳到正文
原文
TechCrunch · AI· Aditya Mehta·· 2 小时前精选AI 评分82

Anthropic 允许 METR 研究人员以员工级权限进入内部系统评估模型与安全

Anthropic is letting METR researchers look under the hood with employee-level access

AI 导读

Anthropic 宣布向非营利组织 METR 的六名研究人员开放员工级访问权限,使其能独立评估公司模型、安全实践及风险管理,该安排旨在回应近期 AI 智能体失控事件引发的监管压力。METR 团队将获得公司配发的笔记本电脑、办公空间及与内部风险评估团队同等的工具访问权,且 Anthropic 无权否决其发布结果,仅可在涉及客户数据、律师 - 客户特权或模型架构等狭窄预定义类别时要求脱敏。

这一机制被类比为银行驻场检查员制度,是 Anthropic 构建的三级评估体系中的最高层级,区别于需审批发布的底层评估(如 SecureBio)和可发布但信息受限的中层评估。该举措兑现了 CEO Dario Amodei 在九月提出的将外部评估者嵌入实验室的提议,OpenAI、Google、Meta、Nvidia 和 xAI 随后也签署了白宫协议承诺进行独立审查。

事实层面,Anthropic 确实赋予了 METR 接近内部员工的物理与数字访问权限,并放弃了内容否决权;推断层面,这表明头部厂商正试图通过让渡部分核心运营透明度来换取监管信任,而非仅依赖事后报告;猜测层面,这种深度嵌入是否会导致评估方与厂商形成利益绑定,或使敏感架构信息的脱敏标准成为新的博弈焦点,尚待后续 METR 发布的实际评估报告验证。

推荐理由

材料揭示了 Anthropic 将外部评估权限提升至员工级访问的实质性机制,可校正对“独立审查”仅停留在报告层面的认知。

来源:TechCrunch · AI · techcrunch.com