Cathedral利用AI智能体攻破Anthropic第三方软件暴露内部数据引发安全争议
AI agents hacked Anthropic, maker of arguably the most capable AI models for cyberdefense
网络安全初创公司Cathedral利用AI智能体在12小时内通过第三方业务软件渗透进Anthropic内部系统,获取了部分销售、人力资源及IT系统数据,包括客户联系人信息和基础用户账户数据,但未触及聊天记录、源代码或模型权重。Anthropic确认已关闭受影响的访问点并通知美国联邦当局,但双方对入侵持续时间、数据范围及是否违反漏洞赏金计划规则存在严重分歧,前OpenAI员工Will Depue更声称获得了完全管理员权限的传闻。
事件核心证据显示攻击路径并非直接针对核心模型,而是利用了外部管理程序和第三方集成应用作为跳板。Anthropic红队成员Logan Graham指出,攻击者甚至使用了落后于当前前沿一代的模型即可成功,且攻击者全天候运行AI智能体专门针对外部依赖进行探测。尽管Anthropic拥有最强的AI防御模型,但其自身仍未能阻止此类基于供应链和第三方工具的渗透,暴露出在快速扩张中对外部服务的安全控制不足。
这一事件标志着AI安全战场的关键转折:攻击者不再需要顶级算力,只需利用现有工具链即可突破防线。推论认为,行业必须将安全重心从单纯的模型对抗转向持续的内部渗透测试和形式化验证的软件重构,以应对日益自动化的攻击面。事实层面是数据泄露范围和入侵路径的争议;推断层面是传统边界防御失效;猜测层面是Depue关于完全接管Slack的说法尚未被官方证实,但反映了行业对内部协作工具风险的普遍焦虑。
材料揭示了第三方依赖成为AI模型防御者最大短板,迫使行业从单纯模型对抗转向全链路工程加固。
来源:The Decoder · the-decoder.com