跳到正文
原文
InfoQ 中文· Tina·· 2 小时前精选AI 评分80

Cathedral 用 AI Agent 12 小时攻破 Anthropic 内部系统并访问部分数据

Anthropic 内部系统被 AI Agent 12 小时攻破!会议记录、员工薪酬、内部模型讨论遭访问

AI 导读

Cathedral 研究人员通过 Anthropic 的漏洞奖励计划,利用商业软件中的漏洞,在不到 12 小时内攻入其内部系统,访问了会议记录、薪酬信息和 Slack 消息等有限数据。Anthropic 确认客户对话、模型回复、源代码及模型权重未被访问,且监控系统在报告发布前已发现活动并关闭权限。

双方对事件细节存在分歧:Cathedral 称严格遵循最佳实践控制数据访问量,而 Anthropic 指责对方夸大国家安全影响且未完全遵守计划规则。Cognition 首席信息安全官 Alex Stamos 指出,将第三方应用连接到公司系统带来的风险是行业普遍难题,暴露了 Anthropic 在管理外部供应商使用方式上的不足。

该事件引发对 AI 公司过度依赖传统商业软件安全性的担忧,普通企业软件的弱点可能成为攻击先进组织的入口。结合近期 OpenAI 员工被捕及黑客警告,显示 AI 行业尚未准备好应对自身技术带来的安全风险。事实为 Cathedral 确实访问了部分非核心数据;推断为第三方软件集成是当前防御体系的重大短板;猜测为未来监管或保险政策可能因此收紧对 AI 公司的供应链审计要求。

推荐理由

材料揭示第三方商业软件漏洞可被AI Agent在12小时内利用,直接修正对AI公司供应链防御能力的判断。

来源:InfoQ 中文 · infoq.cn