LLM漏洞发现工具因工程流程产生结构性假阴性与隐藏漏洞

该论文指出基于大语言模型的漏洞发现工具会因外围工程架构（harness）的设计缺陷而遗漏真实可达的漏洞，这种漏报独立于模型本身的能力，且报告通常不显示此类情况。作者通过维护的两个工具及额外十个开源工具的代码分析，映射出13个导致漏洞在模型运行前被过滤或合并后丢失的节点，并建立了相应的分类体系。

实证数据显示，在被测试的工具中，有六个工具在模型看到代码前就丢弃了包含漏洞的单个文件，其中五个未发出任何通知。这些“丢失”源于工程选择与错误，不仅导致漏洞未被检测，还使攻击者能够利用已知的规则故意隐藏漏洞。文章将此类工程失败模式与Ptacek和Newsham关于入侵检测规避的研究联系起来，同时探讨了内容导向的裁决和提示词注入问题。

研究提出了一套设计原则和测试方法，旨在构建能准确报告分析内容的工具。结论认为，描述性规则若用于定义典型代码和回复，实际上会变成规定性规则，导致不符合规范的内容被视为不存在。这一可靠性发现可能适用于其他LLM工具，而规避发现则适用于任何攻击者可编写或影响待检查代码的场景。事实部分基于对12个工具代码的直接审查，推断部分涉及规则如何从描述性转变为规定性，猜测部分在于该机制在其他非安全领域的具体应用程度。