自动化安全系统因语言依赖导致保护不均

1. 12:00
   arXiv cs.CL精选

   论文指出自动化安全系统因依赖词汇而非行为导致跨语言保护不均

   该研究通过测试五个开源系统在十一种语言中的表现，发现自动化内容审核系统普遍存在将有害行为误判为无害形式的问题，导致非英语社区受到不成比例的审查或保护不足。核心结论是：有害意图（如要求保密、索要付款）比表达这些意图的特定词汇更容易跨越语言传播，而现有系统仅基于词汇和表面形式进行判断，造成非洲裔美国人英语被标记为攻击性的概率是其他英语变体的两倍，且某些系统在高能力下反而加剧了歧视。 证据显示，在55个系统与语言的组合中，有51个未能达到母语者区分有害功能与无害形式的准确率；当系统能力提升时，九种语言中的歧视现象增加，而阿拉伯语和罗马化印地语的表现仍接近随机水平。此外，仅报告假阳性时，系统阅读最差的语种可能看起来受对待最公平，这种统计偏差掩盖了实际的不公。作者提出评估协议应直接展示服务最佳与最差语言群体之间的差距，并指出传统置信区间计算不可靠。 事实层面，研究证实了现有多语言安全模型在功能识别上的系统性缺陷；推断层面，这意味着单纯提升模型参数规模无法解决对齐问题，甚至可能恶化边缘语言群体的体验；猜测层面，未来若不改进以行为为核心的评估机制，全球部署的AI系统将持续放大文化偏见，迫使开发者重新设计从训练数据到推理逻辑的安全架构。

当前热度 9·可比范围峰值 9（10月23日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。