GraphRAG-LTM框架揭示检索增强生成多层级攻击风险

1. 12:00
   arXiv cs.CL

   GraphRAG-LTM框架揭示检索增强生成在证据图层面的多层级攻击风险

   该论文提出GraphRAG-LTM分层威胁建模框架，系统测试针对图检索增强生成（GraphRAG）系统的三种嵌套层级攻击：基于排名反馈的查询编辑、利用检索器梯度的白盒查询攻击，以及针对特定查询证据图的桥接三元组删除。研究发现，仅凭排名反馈即可降低回答质量，而获取梯度信息能显著增强查询攻击效果，进一步删除桥接三元组则会破坏多跳证据传播，导致支持事实检索失败。 实验覆盖多个数据集、检索器和大语言模型骨干网络，证实了种子块检索与图证据组装在安全链条中的双重依赖关系。攻击者通过语义相似约束下的查询微调或局部图编辑，能够精准干扰证据链的完整性，这种攻击面在传统文本RAG中并不存在，是GraphRAG特有的结构性弱点。 事实层面确认了三层攻击的有效性及其对答案质量的递减影响；推断表明当前GraphRAG部署需重新评估其对抗鲁棒性，特别是涉及多跳推理的场景；猜测部分指出未来可能涌现针对图结构优化的防御算法，但短期内缺乏标准化对抗训练数据。

当前热度 9·可比范围峰值 9（10月15日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。