arXiv cs.CR· Frank Breitinger, Jan Gruber, Christopher Hargreaves, Jan-Niclas Hilgert, Ga\"etan Michelet, Mark Scanlon·· 3 小时前精选AI 评分78
论文提出通过伪造证据诱导LLM进行反取证攻击的新分类与概念验证
Prompt Injection Through Forensic Evidence: A Taxonomy and Proof of Concept of Anti-Forensic Attacks on LLM-Assisted Digital Investigations
AI 导读
该论文将大语言模型引入数字取证场景后,发现其面临一种独特的间接提示词注入风险:被分析的电子证据本身由攻击者控制,且调查员必须仔细审阅,这使得推理层成为继数据和工具之后的新反取证目标。作者扩展了现有的反取证模型,提出了一种针对对抗性证据的攻击分类法,并展示了三个仅通过植入文本即可改变报告结论、向分析师工作站写入内容或触发外联网络流量的概念验证攻击。
核心机制在于观察到的“感知差距”:确定性工具、人类调查员和模型对同一份证据会产生不同的理解,这种差异使得注入内容能绕过人类和工具的检测而直达模型。攻击分类包含四个维度:攻击目标、技术手段、载荷位置以及隐藏方法。文中并未声称这是首次发现提示词注入,而是强调在数字取证这一特定逆向设定下,传统防御方案未能预见此类针对推理层的操纵。
事实层面,论文证明了利用设备上的纯文本植入物即可驱动上述三种攻击行为;推断层面,这意味着当前的取证工作流若直接依赖LLM处理原始证据而不做隔离或校验,将面临严重的完整性风险;猜测层面,未来可能需要建立专门的证据预处理层来消除感知差距,但这尚未在文中得到实证。该研究为评估AI辅助取证系统的安全性提供了新的理论框架和测试用例。
推荐理由
揭示数字取证中证据即攻击面的新范式,指出确定性工具、人与模型对同一证据的感知差异是注入成功的关键机制。
来源:arXiv cs.CR · arxiv.org