arXiv cs.CR· Jisung Park, John Le, Heath Cooper·· 5 小时前精选AI 评分84
Hop-Decayed Influence 攻击证明 GraphRAG 辅助索引结构存在高杠杆漏洞
Hop-Decayed Influence: New Vulnerabilities of Structural Auxiliary Indexing in GraphRAG Pipelines with LLM
AI 导读
该论文提出一种针对 GraphRAG 管道中辅助索引结构的新型攻击方法 Hop-Decayed Influence (HDI),指出此前攻击仅关注节点、边等实例级组件,而忽略了决定检索优先级的语义摘要、层级边和预计算分数等模式级结构。在 HotpotQA 和 2WikiMultiHopQA 两个基准上,针对 Microsoft GraphRAG 和 HippoRAG2 两种架构的攻击成功率达到 88-94%,仅需修改 0.016% 的辅助结构即可影响多达 6.00 次查询。
实验显示,被操纵的结构因保持语言连贯的系统生成伪影特征,能以超过 99% 的比率规避困惑度和改写防御。这种 1:N 的放大效应是实例级攻击无法实现的,表明当前 GraphRAG 防御体系对辅助模式实体存在隐式信任且缺乏运行时验证。
事实层面确认了辅助索引结构可被低成本篡改并产生广泛影响;推断层面认为这暴露了 GraphRAG 架构中离线构建与在线推理之间的信任断层;猜测层面需进一步观察行业是否会在后续版本中引入对预计算分数的动态校验机制以修复此结构性盲点。
推荐理由
揭示GraphRAG离线索引结构存在未被验证的信任盲点,修正对现有防御机制有效性的判断。
来源:arXiv cs.CR · arxiv.org