arXiv cs.CL· Chenyi Tong, Ping Nie, Yu Zhang·· 6 小时前AI 评分68
CiteAnchor 提出源感知 grounding 框架以检测和解决模型幻觉引用
CiteAnchor: Source-Aware Grounding for Hallucinated Citation Detection and Resolution
AI 摘要
CiteAnchor 是一个针对模型生成幻觉引用的源感知 grounding 框架,配合 CiteResolve 基准(包含 423 个真实世界的幻觉引用样本)共同发布。该框架针对不同来源类型自适应检索和字段级验证,分别判定引用有效性及唯一来源的可恢复性。在现有检测基准上,使用 GPT-5.6 Luna 作为骨干时达到 0.841 F1 分数,使用开源权重骨干时达到 0.784,分别比同骨干基线高出 7.9 和 36.8 个百分点;在 CiteResolve 基准上端到端任务成功率分别为 74.7% 和 70.7%,优于对应网络搜索基线 16.3 和 65.3 个百分点。
核心证据在于其处理 bibliographic records 不完整或跨来源差异的能力,通过区分“引用是否有效”与“能否恢复唯一来源”两个独立判断来解决 plausible match 无法验证的问题。代码和数据已公开,但具体实现细节如微调策略、数据清洗流程未在摘要中披露。
事实层面确认了该框架在特定基准上的性能提升;推断层面表明该方案可能成为 RAG 系统中引用验证的标准组件;猜测层面认为若开源骨干表现稳定,将降低企业部署可信引用检查的成本。目前尚无法确定其在非学术场景(如商业报告生成)中的泛化能力。
来源:arXiv cs.CL · arxiv.org