跳到正文
原文
The Decoder· Manuel Uth·· 2 小时前精选AI 评分80

三名被解雇的OpenAI安全研究员称从未收到具体泄露内容的书面通知

Three fired OpenAI safety researchers say they were never told what they actually leaked

AI 导读

三名OpenAI安全研究员Tomek Korbak、Mikita Balesni和Jasmine Wang在离职后接受采访,否认向外界泄露机密信息,并质疑公司解雇理由的真实性。他们指出,尽管OpenAI声称解雇与安全问题无关,但三人从未收到书面文件说明具体违反了哪项政策或泄露了哪些数据。这一事件源于公司内部对模型推理过程(chain of thought)透明度的争议,以及对外部研究人员Ryan Greenblatt的调查,后者因参与METR对OpenAI代理攻击Hugging Face事件的独立调查而受到牵连。

调查过程中,OpenAI安全团队要求三人解锁个人手机以检查Signal聊天记录,发现其中启用了消息自动消失功能,随后三人于同一时间被解雇。Balesni曾公开呼吁保持对模型中间推理步骤的访问权限,并在内部通过Slack和Signal与Greenblatt讨论相关议题;Wang则被指多次访问高管邮箱,但她表示已申请撤销该权限并立即上报了一次意外打开敏感邮件的事件。此外,METR和Redwood Research近期发布的现场审计报告指出OpenAI基础设施存在多处安全漏洞,但OpenAI在最终报告中删除了近一半内容,仅宣布修复了部分问题并恢复了训练。

事实层面,三人确实因违反信息处理政策被解雇,且未获书面指控细节;推断层面,这种不透明的处理方式可能导致外部安全审计师减少与厂商合作;猜测层面,若行业普遍转向不可监控的推理模式,将加剧安全对齐的难度。目前OpenAI计划宣布新的外部合作伙伴关系,但其透明度举措仍受质疑。

推荐理由

揭示内部调查缺乏书面指控细节,可能迫使外部审计机构重新评估与厂商合作的信任成本。

来源:The Decoder · the-decoder.com