arXiv cs.AI· Chi Wang, Min Gao, Yifei Zhang, Bincheng Gu, Zongwei Wang, Wentao Li·· 1 天前AI 评分60
论文提出 DelSA 智能体解决时序错乱假新闻检测中的证据连贯性陷阱
Beyond the Evidence Coherence Trap: Agent-Driven Evidence Selection for Temporally Disordered Fake News Detection
AI 摘要
该研究指出当前假新闻检测面临“证据连贯性陷阱”:当虚假新闻将真实事件重新排列成错误时间线时,检索系统可能找到语义合理但时间错位的证据,导致模型误判文章为真。为此,作者构建了 ChronoFake 基准数据集,包含 30,706 篇源自真实事件的独立来源文章,专门区分时间操纵与合法叙事(如倒叙)。
针对此问题,团队提出 DelSA(Document Selection Self-Updating Agent),一种在训练阶段迭代优化证据选择、推理阶段使用冻结规则书进行单次选择的智能体。DelSA 利用大语言模型对候选证据进行特征刻画,并通过基于验证器训练的排序器平衡局部相关性与时间线一致性,最后由分类器比较文章隐含的时间线与证据推导的时间线以发现全局冲突。实验显示,DelSA 在 ChronoFake 上优于现有方法,同时在 PolitiFact 和 GossipCop 上保持竞争力。
事实层面,本文引入了新基准和新方法;推断层面,这表明单纯依赖局部语义匹配的检索增强生成或传统分类器在处理复杂时间逻辑时存在系统性缺陷;猜测层面,若此类陷阱未被广泛认知,未来部署的 AI 内容审核系统可能在处理历史重构类谣言时出现大规模漏报。
来源:arXiv cs.AI · arxiv.org