跳到正文
原文
arXiv cs.AI· Mohammad Khalooei, Mohammad Sabokrou·· 5 小时前AI 评分65

黑盒因果审计显示大语言音频模型的幻觉证据定位依赖具体模型架构

Does Location Matter? A Black-Box Causal Audit Reveals Model-Dependent Audio Grounding in LALM Hallucination

AI 摘要

该研究通过黑盒因果测试发现,针对大语言音频模型(LALMs)中常见的物体幻觉问题,现有的音频感知解码(AAD)策略所依赖的“全零波形”对比可能处于分布外状态,且其有效性在不同模型间存在显著差异。实验在 Qwen2-Audio-7B 和 Audio Flamingo 3 等三个模型上进行,结果显示原始检测值高度依赖模型本身,并未形成统一的因果接地特征。

关键证据来自对声称证据区域的定位与消融测试:当保持时长固定时,基于 CLAP 相似度的定位消融在随机窗口控制下优于空白波形移除;但在未控制时长时,Qwen2-Audio-7B 上定位消融的 AUROC(0.613)低于空白移除(0.721),这被证实是时长混淆而非定位失败。此外,结合空白对比与语言先验对比的门控集成解码方法,将 Qwen2-Audio 的准确率从 57.1% 提升至 71.9%,证明了多策略组合的有效性优于单一 AAD 策略。

事实层面,不同模型对音频证据的响应机制存在本质区别,导致单一的因果接地配置文件无法跨模型迁移。推断层面,这意味着当前行业试图用一套通用的解码或对齐方案解决所有 LALM 幻觉问题的路径可能受阻,需针对不同模型架构定制验证流程。猜测层面,未来若出现新的音频基准测试,可能会发现更多此类因模型内部表征差异导致的评估偏差,建议开发者在部署前进行特定模型的因果审计而非直接套用通用模板。

来源:arXiv cs.AI · arxiv.org