MechScam 基准与 ScamCourt 辩论框架揭示多模态模型难以区分诈骗视频与相似非诈骗内容

该论文发布 MechScam 基准（6,614 个视频）与 ScamCourt 辩论框架，旨在解决现有诈骗视频检测仅关注二分类、缺乏机制洞察且易受误导论证影响的问题。实验显示，当前最先进的多模态大语言模型（MLLMs）在区分诈骗视频与外观相似的广告等非诈骗内容时表现不佳，而 ScamCourt 通过引入检辩双方基于带验证引用的转录文本进行对抗辩论，显著降低了误报率并提升了抗误导能力。

核心证据在于数据集构建了从真实证据推导出的误导性论证，迫使模型不仅识别表面特征，还需处理逻辑陷阱；ScamCourt 框架中训练有素的检方、辩方和裁判角色，使得决策基于经过验证的引用而非单纯的模式匹配。这一设计直接针对了“真实证据仍可被用于支持错误结论”的挑战，填补了现有研究在解释性和鲁棒性上的空白。

事实层面，MechScam 包含 6,614 个视频及对应标注，ScamCourt 为一种新的评估框架。推断层面，这表明单纯依赖端到端分类的多模态模型在复杂社会工程场景中存在根本性局限，未来系统需引入显式的逻辑验证或辩论机制。猜测层面，若该框架能推广至其他高风险领域（如虚假新闻），可能重塑多模态内容审核的标准范式，但具体落地效果仍需观察其在动态网络环境中的泛化能力。