Omni-UBench 评测显示跨模态护栏难以识别隐蔽恶意意图且存在显著幻觉

Omni-UBench 作为首个针对多模态大语言模型（OLLM）护栏的综合评估框架，在 18.3 万样本上测试了 15 个代表性模型，发现现代 OLLM 即使未经专门微调也具备较强的内容审核潜力，但现有专用护栏在应对跨模态隐藏恶意意图和复杂越狱攻击时仍表现乏力。该基准覆盖文本、图像、音频、视频及其跨模态组合，基于统一风险分类法标注，揭示了护栏模型在理解跨模态安全语义上的缺陷。

关键证据显示，现有护栏不仅难以识别通过多模态组合隐藏的有害意图，还表现出显著的“安全幻觉”和对文本模式的过度敏感，导致误判率上升。这种对跨模态语义理解的不足意味着单纯依赖文本特征或单一模态训练的护栏无法有效防御复杂的混合攻击场景。研究指出，当前技术在处理异构输入时的鲁棒性远低于预期，特别是在面对精心设计的跨模态越狱时。

事实层面确认了 Omni-UBench 的规模与维度；推断表明未来护栏研发需从单一模态转向真正的跨模态语义对齐；猜测认为若不及时解决此问题，多模态产品的商业化部署将面临更高的合规与安全风险。产业链可能因此调整数据标注策略，增加跨模态对抗样本的构建投入。