热点事件持续更新
Qwen2.5-14B测试显示低资源语言拒绝方向无通用性
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
该研究复现Wang等人(2025)的Pipeline,在Qwen2.5-14B-Instruct上扩展至白俄罗斯语、巴什基尔语和塔吉克语。研究发现拒绝方向的跨语言迁移并非二元通用,而是呈现分级特征。原本声称在安全对齐语言间具有近乎完美效果的拒绝方向,在强未对齐的低资源语言环境中无法可靠调节拒绝行为。实验证据表明,当排除天花板效应后,来自强未对齐语言的几何对齐向量无法在其他未对齐语言中有效工作。
AI 根据报道生成 · 1 小时前更新
最新进展10月22日 12:00
2026年10月22日研究显示拒绝方向在强未对齐低资源语言中不具备通用性。报道时间线
沿着报道,了解事件的不同侧面。
10月22日
- arXiv cs.CLQwen2.5-14B 测试显示拒绝方向在强未对齐低资源语言中不具备通用性
该研究通过复现 Wang 等人 (2025) 的 Pipeline 并在 Qwen2.5-14B-Instruct 上扩展至白俄罗斯语、巴什基尔语和塔吉克语,发现拒绝方向(refusal directions)的跨语言迁移并非二元通用,而是呈现分级特征。原本声称在安全对齐语言间具有近乎完美效果的拒绝方向,在强未对齐的低资源语言环境中无法可靠调节拒绝行为。 实验证据表明,当排除天花板效应后,来自强未对齐语言的几何对齐向量无法在包括其他未对齐语言在内的任何目标语言上实现有效的行为迁移。这一结果揭示了几何对齐与行为迁移之间存在部分解离现象,即向量空间中的相似性并不等同于实际推理或防御能力的转移。此前仅以约鲁巴语为单一低资源样本的研究结论被进一步证伪,显示出更广泛的非通用性。 事实层面确认了拒绝方向在强未对齐语境下的失效机制;推断层面指出当前基于高资源语言构建的安全对齐策略可能无法覆盖最边缘的语言群体;猜测层面认为这可能导致特定用户面临更弱的安全保障。产业链推论是,若忽视语言资源分布的不均衡性,盲目假设安全机制的全球通用性,将在产品落地时产生系统性盲区。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。