跳到正文
原文
arXiv cs.CR· ZhiHong Liu, Shuyao Gao·· 4 小时前精选AI 评分78

LLM 审计员对静态分析证据存在不对称盲从:虚假保证降低漏洞检测率19点

Trusting the Tool: Asymmetric Deference of LLM Vulnerability Auditors to Static-Analysis Evidence

AI 导读

该研究通过916组C/C++函数对的实验发现,当大语言模型(LLM)将静态分析器的输出作为证据时,虚假的安全保证比虚假警报更能显著误导模型判断。在覆盖四家厂商共11种模型配置的16,572次审计中,真实的分析证据仅使准确率提升0.02,而针对同一操作的虚假保证(声称缺失的检查已存在)导致真实漏洞的检测率下降高达19个百分点。

这种不对称性体现在虚假警报几乎不会降低准确率且常被模型质疑,但虚假保证却会推动判决向声明方向偏移。内部注册的复现实验在七款新模型上确认了这一现象,平均不对称度为+0.16。虽然提示词指令未能可靠减少这种盲从,但在预指定测试中,通过在独立调用中验证每个声明并展示被反驳的声明,使虚假保证下的准确率提升了12个百分点(p=0.002),且未损害真实证据下的表现。

事实层面,本研究证实了当前LLM管道在处理静态分析证据时存在方向性的信任偏差;推断层面,这意味着单纯依靠提示工程无法解决工具证据的可信度问题,必须建立外部验证机制;猜测层面,若行业继续默认工具输出即真理,可能导致自动化审计系统产生系统性漏报,建议在设计RAG或Agent工作流时将工具承诺的验证作为前置步骤。

推荐理由

揭示静态分析证据的虚假保证比虚假警报更易误导模型,需验证工具承诺而非仅依赖提示词。

来源:arXiv cs.CR · arxiv.org