跳到正文
原文
TechCrunch · AI· Aditya Mehta·· 1 小时前精选AI 评分82

OpenCode 遭遇蒸馏攻击致用户 API 密钥泄露,防御模型因安全过滤失效

Hackers hit AI coding tool OpenCode, running up charges on users’ AI accounts

AI 导读

开源 AI 编码工具 OpenCode 的在线平台 Console 发生安全漏洞,导致部分用户存储的 API 密钥被窃取,攻击者利用这些密钥进行大规模模型蒸馏并产生高额费用。受影响用户比例约为 1.4%,涉及 OpenAI、Anthropic 和 Google 等厂商的账户,其中部分用户账单超过 1000 美元。OpenCode 团队在应对攻击时面临严峻挑战,其调用的防御性 AI 模型因检测到恶意代码触发了安全过滤器而拒绝执行分析任务,导致响应受阻。

这一事件暴露了当前 AI 安全对齐机制在实战中的不对称性:当企业试图使用前沿模型进行入侵分析时,模型的安全护栏无法区分“防御者”与“攻击者”,从而拒绝处理必要的攻击载荷。为突破此限制,OpenCode 最终获得了 OpenAI Daybreak Blue 项目的访问权限,该计划允许经过验证的用户使用限制较少的模型进行安全防御工作。此前 Hugging Face 也曾在类似场景下遭遇相同困境,且有安全研究人员指出,这种不一致的限制正推动部分开发者转向可本地运行的开源权重模型。

事实层面,此次攻击针对的是旧版系统,未波及开源应用和命令行工具;OpenAI 已协助恢复访问并退款,Anthropic 和 Google 则封锁了疑似泄露的密钥。推断层面,攻击者利用受限地区的 API 密钥生成大量输出以进行知识蒸馏,这反映了 AI 驱动的网络攻击正在向自动化和规模化演进。猜测层面,随着更多组织遭遇此类因安全策略导致的防御瘫痪,未来行业可能会加速建立专门用于安全运营的“白名单”模型通道,或促使监管机构对 AI 模型的防御豁免机制出台明确标准。

推荐理由

事件揭示防御模型因触发安全过滤而拒绝分析攻击载荷,迫使企业转向低限制模型或付费白名单以维持运营。

来源:TechCrunch · AI · techcrunch.com