跳到正文
热点事件持续更新

多语言指令致Agent守卫判定显著波动

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

2026年10月16日,arXiv发布研究指出,当用户指令从英语翻译为德语、法语、土耳其语、斯瓦希里语和阿姆哈拉语时,绝大多数开源小模型及专用Agent守卫的判定结果发生系统性偏移。在9个参数量低于130亿的守卫中,经白空间对照调整后的翻转率从法语的+1.5个百分点上升至阿姆哈拉语的+4.4个百分点,且语言越稀有误判率越高。前沿守卫如Gemini 3.8 Flash则保持完全一致。损害主要集中在特定指令类型。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv cs.CR精选
    语言是Agent守卫的安全表面:多语言指令导致判定结果系统性偏移

    该研究通过构建LinguaGuardBench基准测试,发现当用户指令从英语翻译为德语、法语、土耳其语、斯瓦希里语和阿姆哈拉语时,绝大多数开源小模型及专用Agent守卫的判定结果会发生超出噪声水平的变化,且语言越稀有误判率越高。在9个参数量低于130亿的守卫中,经白空间对照调整后的翻转率从法语的+1.5个百分点上升至阿姆哈拉语的+4.4个百分点,而前沿守卫如Gemini 3.8 Flash则保持完全一致。 证据显示这种损害集中在特定指令上,事后分析表明当Agent推理过程重述英语请求时,守卫因检测到通道间的不一致性而产生误判。参数量在120亿至300亿之间的开源守卫假阳性率最高增加5.0个百分点,而召回率的显著损失(最高达-7.4个百分点)仅发生在参数量低于100亿的守卫中。相比之下,英语改写对所有守卫的影响均小于翻译带来的影响。 事实层面,该基准包含来自TS-Bench AgentDojo-Traj的1,220个标记步骤,释放了48.9万次判定结果;推断层面,当前以英语为主的安全对齐方案在多语言部署中存在结构性风险,可能无法覆盖非英语用户的真实攻击面;猜测层面,若未来Agent系统需支持全球市场,必须重新评估基于英语训练的守卫机制或引入多语言微调策略,否则可能在非英语语境下失效。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。