The Decoder· Manuel Uth·· 3 小时前精选AI 评分82
Anthropic 称通过新防御将 Claude 推理 token 窃取量削减 90% 至 99%
Anthropic says it cut Claude reasoning token theft by up to 99% in fight against industrial-scale distillation
AI 导读
Anthropic 宣布其针对大规模知识蒸馏攻击的新防御机制已生效,成功将提取的推理 token(即模型内部思维链步骤)数量减少了 90% 到 99%。该图表显示,在安全措施全面开启后,每日暴露给成功蒸馏请求的推理 token 平均倍数从之前的 8,800 倍降至 135 倍。
攻击者利用数十万个虚假账户组成的网络进行系统性窃取,Anthropic 指出 Zhipu 和 Moonshot 是参与者,前者涉嫌从其 GLM-5.3 模型中窃取能力,后者则秘密路由查询以获取数据。作为回应,Anthropic 限制了访问推理步骤,部署了检测提取尝试的分类器,并自动封禁了数万个被标记的账户。
事实层面,Anthropic 确认了防御措施实施前后的具体数据变化及被封禁账户数量;推断层面,这表明头部模型厂商正面临有组织的商业或技术对抗,且防御手段已从单纯的技术限制转向主动识别与封禁;猜测层面,虽然 Anthropic 呼吁其他开发者采用类似保护,但承认合法用户也被误伤,这可能导致行业在安全与可用性之间出现新的权衡。
推荐理由
材料披露了工业级蒸馏攻击的具体规模与防御效果,并点名中国厂商,能校正对模型资产保护现状的判断。
来源:The Decoder · the-decoder.com