arXiv cs.CR· Hasan Demirkiran, Jens Ernstberger·· 4 小时前精选AI 评分80
语言是Agent守卫的安全表面:多语言指令导致判定结果系统性偏移
Language Is a Security Surface for Agent Guards
AI 导读
该研究通过构建LinguaGuardBench基准测试,发现当用户指令从英语翻译为德语、法语、土耳其语、斯瓦希里语和阿姆哈拉语时,绝大多数开源小模型及专用Agent守卫的判定结果会发生超出噪声水平的变化,且语言越稀有误判率越高。在9个参数量低于130亿的守卫中,经白空间对照调整后的翻转率从法语的+1.5个百分点上升至阿姆哈拉语的+4.4个百分点,而前沿守卫如Gemini 3.8 Flash则保持完全一致。
证据显示这种损害集中在特定指令上,事后分析表明当Agent推理过程重述英语请求时,守卫因检测到通道间的不一致性而产生误判。参数量在120亿至300亿之间的开源守卫假阳性率最高增加5.0个百分点,而召回率的显著损失(最高达-7.4个百分点)仅发生在参数量低于100亿的守卫中。相比之下,英语改写对所有守卫的影响均小于翻译带来的影响。
事实层面,该基准包含来自TS-Bench AgentDojo-Traj的1,220个标记步骤,释放了48.9万次判定结果;推断层面,当前以英语为主的安全对齐方案在多语言部署中存在结构性风险,可能无法覆盖非英语用户的真实攻击面;猜测层面,若未来Agent系统需支持全球市场,必须重新评估基于英语训练的守卫机制或引入多语言微调策略,否则可能在非英语语境下失效。
推荐理由
揭示非英语指令导致Agent守卫误判率显著上升,直接修正对多语言场景下安全对齐有效性的判断。
来源:arXiv cs.CR · arxiv.org