METR报告揭示Anthropic利用未发布模型推进递归自改进

第三方安全研究组 METR 在获得近三个月内部访问权限后发布报告，指出 Anthropic 正利用现有 AI 模型以极快速度训练尚未发布的未来模型，并采用递归自改进方法加速研发进程。报告显示，Anthropic 在过去六个月完成了三款内部专用模型，分别来自 2022 年、今年七月及八月至十月期间，这些模型显著提升了团队生产力。 具体证据显示，截至 10 月，使用最强大内部模型的员工自报生产力提升约 12 倍，部分研究人员表示 Claude 已使其工作不再受限于编码能力，仅受想法和算力限制。然而，METR 强调 Slack 投票数据存在局限性，可能无法代表全体员工，且受访者回答未必经过深思熟虑。此外，尽管目前未见明显瓶颈或收益递减迹象，但报告警告这可能意味着进一步的能力进步将导致更快的加速，同时也可能隐藏着未被发现的关键瓶颈。 事实层面，Anthropic 确实在使用内部模型进行训练，且递归自改进正在发生；推断层面，这种模式可能导致研发速度指数级增长，带来潜在安全风险；猜测层面，完全自主贡献的角色或将扩大，但这仍需更多验证。该报告为理解头部 AI 公司的实际研发节奏提供了稀缺的一手信息，尤其揭示了其如何通过私有模型实现技术跃迁。