arXiv cs.CL· Anastasiia Ivanova·· 3 小时前AI 评分68
Qwen2.5-14B 测试显示拒绝方向在强未对齐低资源语言中不具备通用性
Is Refusal Direction Universal across Low-Resourced Languages?
AI 摘要
该研究通过复现 Wang 等人 (2025) 的 Pipeline 并在 Qwen2.5-14B-Instruct 上扩展至白俄罗斯语、巴什基尔语和塔吉克语,发现拒绝方向(refusal directions)的跨语言迁移并非二元通用,而是呈现分级特征。原本声称在安全对齐语言间具有近乎完美效果的拒绝方向,在强未对齐的低资源语言环境中无法可靠调节拒绝行为。
实验证据表明,当排除天花板效应后,来自强未对齐语言的几何对齐向量无法在包括其他未对齐语言在内的任何目标语言上实现有效的行为迁移。这一结果揭示了几何对齐与行为迁移之间存在部分解离现象,即向量空间中的相似性并不等同于实际推理或防御能力的转移。此前仅以约鲁巴语为单一低资源样本的研究结论被进一步证伪,显示出更广泛的非通用性。
事实层面确认了拒绝方向在强未对齐语境下的失效机制;推断层面指出当前基于高资源语言构建的安全对齐策略可能无法覆盖最边缘的语言群体;猜测层面认为这可能导致特定用户面临更弱的安全保障。产业链推论是,若忽视语言资源分布的不均衡性,盲目假设安全机制的全球通用性,将在产品落地时产生系统性盲区。
来源:arXiv cs.CL · arxiv.org