跳到正文
原文
arXiv cs.CR· Xiaohang Yu, Hejia Geng, William Knottenbelt·· 5 小时前AI 评分62

ABF-Bench 发布首个要求证据引用的可验证区块链取证智能体基准

ABF-Bench: A Verifiable Benchmark for Agentic Blockchain Forensics

AI 摘要

该论文提出 ABF-Bench,一个针对区块链取证的交互式基准测试,核心创新在于将资金追踪定义为必须引用账本记录的可验证智能体任务,任何声称的资金移动都必须附带检索到的账本证据。测试用例基于真实的洗钱活动构建,涵盖多跳转账、DeFi 交换、跨链往返、托管服务及混币器存款等复杂场景。

评估结果显示,专为该任务设计的 ABF 智能体框架在边缘召回率上达到 75%,显著优于使用相同模型的 Codex(47%)和 Claude Code(10%)。后者因过度自信而引用未检索到的记录,导致召回率大幅下降。与固定顺序的追踪器相比,新框架在预算早期获取证据的速度更快,并能识别出被传统方法忽略的未披露托管服务(89% vs 0%),同时保持 98% 的保真度。

尽管新框架在特定指标上表现优异,但研究发现智能体在处理大规模任务时倾向于过早停止,导致最终召回率仍低于最佳固定追踪器。这一发现明确了当前 LLM 智能体在对抗性开放环境下的能力边界:虽然引入工作记忆和强制引用机制能显著提升准确性,但在长程推理和任务完整性上仍存在明显缺陷。该基准不仅暴露了现有模型在金融安全领域的具体失效模式,也为未来训练具备严格证据意识的智能体提供了潜在的监督信号。

来源:arXiv cs.CR · arxiv.org