利用道德基础理论对LLM进行越狱攻击的研究

1. 12:00
   arXiv cs.CL

   Moral Combat 论文揭示利用道德基础理论可高效越狱大语言模型且基准测试存在偏差

   该研究提出一种基于道德基础理论（MFT）的多智能体框架，成功将原本被拒绝的有害请求重构为符合某种道德准则的“美德”行为，从而绕过大型语言模型的安全护栏。实验在五个开源和专有模型上验证，显示模型极易受到此类道德化攻击，单次尝试即有较高成功率，且重复尝试会进一步提升越狱率。 核心证据在于攻击机制与基准测试的错位：攻击者首先诊断提示词违反了哪一道德基础，随后识别出能将其合理化为善行的另一基础，并生成可比对的道德重构先例进行强化。研究发现现有安全基准测试在违反的道德基础上分布不均，过度集中在模型本身已表现出偏好的方向，导致这些基准无法全面反映模型在面对不同道德框架时的真实防御能力。 事实层面，该框架通过多步推理实现了越狱；推断层面，当前以单一道德视角构建的评估体系可能系统性低估了模型在复杂社会心理场景下的安全风险；猜测层面，若攻击者掌握更多人类社会的道德叙事策略，未来针对特定文化或群体价值观的定向越狱可能成为新的威胁向量。

当前热度 9·可比范围峰值 9（10月15日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。