Business Insider · AI·· 4 小时前AI 评分70
前 Anthropic 研究员 Jacob Coxon 在听证会上称自动化 AI 研究正于 2027-2028 年临近
The Anthropic researcher whose resignation made waves last month says he was 'working to automate' himself
AI 摘要
前 Anthropic 和 OpenAI 研究员 Jacob Coxon 在纽约市议会关于 AI 风险的听证会上作证,警告自动化 AI 研究已成为顶级前沿实验室的首要目标,并指出人类可能很快失去对 AI 的控制。Coxon 表示,他在上一份工作中实际上是在“自动化自己”,并声称自动化 AI 研究者的里程碑预计将在 2027 年至 2028 年实现,且目前进度符合或超越预期。
Coxon 的具体证词揭示了两个关键细节:一是他认为当前大部分代码已由 AI 编写,且人类不再仔细检查;二是他直言公司正在“拿我们的生命赌博”,因为缺乏足够的安全措施。尽管 Anthropic CEO Dario Amodei 和 OpenAI CEO Sam Altman 近期已公开呼吁放缓发展步伐,但 Coxon 强调这种“快速行动、事后修复”的创业心态不适用于构建最强大的技术。
事实层面,Coxon 明确指出了自动化研究的时间表(2027-2028)及其作为首要目标的地位。推断层面,这表明头部实验室内部已将研发范式从辅助工具转向自主代理,而非单纯的能力堆叠。猜测层面,虽然高管表态放缓,但基于 Coxon 描述的“数月内”而非“数年”的时间尺度,实际的技术突破速度可能与公众感知的政策节奏存在显著错位。
来源:Business Insider · AI · businessinsider.com