跳到正文
原文
arXiv cs.AI· Mohammed Saqlain·· 3 小时前AI 评分72

生物医学声明验证智能体中检索是主要瓶颈且引用存在性检查不足

Real PMIDs, Wrong Papers: Harness Design for Biomedical Claim-Verification Agents

AI 摘要

该研究通过受控消融实验发现,在生物医学声明验证任务中,检索能力而非推理能力是限制智能体准确性的主要瓶颈。当使用真实 PubMed API 作为唯一工具时,让模型自主生成查询的 ReAct 风格智能体将金标准论文召回率提升至单轮检索的三倍,达到 62% 准确率,而仅依赖声称作为查询的单次检索召回率仅为 6%。

核心证据显示,若直接提供金标准摘要,模型准确率可跃升至 79-86%,与自主搜索智能体之间存在 17-24 个百分点的显著差距,这直接证明了检索环节是性能短板。此外,引用审计揭示了一个关键安全隐患:闭源模型生成的 PubMed ID 虽然几乎都存在(327/335),但仅有不到 1% 与声明相关;相比之下,搜索智能体的引用相关性高达 67%。这表明仅检查引用 ID 是否存在无法作为科学智能体的有效安全防线。

事实层面,实验对比了四种策略并确认了检索对准确率的决定性影响。推断层面,当前 Agent 框架过度关注推理优化,却忽视了查询构建和检索质量。猜测层面,若行业继续忽视检索模块的改进,未来基于 LLM 的科学助手将在复杂文献验证中持续产生高置信度的错误结论。

来源:arXiv cs.AI · arxiv.org