东南大学提出GuardRAG防御RAG协同投毒攻击

东南大学等机构团队在 arXiv 发布 GuardRAG，一种无需训练且即插即用的检索后防御方法，旨在解决检索增强生成（RAG）系统中协调投毒攻击导致证据过滤失效的问题。该方法不依赖模型微调，而是直接利用检索到的外部证据的语义结构来识别可疑文档组，从而在保持答案可用性的同时大幅降低攻击成功率。 GuardRAG 的核心流程包含三个步骤：首先扩大检索范围并移除近重复候选项；随后使用基于查询自适应阈值的层次聚合聚类（HAC）将保留的文档进行分区；最后根据查询相关性、簇大小和语义紧凑度对可疑簇进行评分和剪枝。实验在三个问答数据集、多种投毒攻击场景及六个大语言模型上进行验证，结果显示该方法能有效抵御多份相互强化的投毒文档带来的威胁。 事实层面，该研究属于 cs.CR 领域的学术论文，由 Linghui Jiao 等人完成，提交于 2026 年 10 月 26 日。推断层面，这种“检索后”策略意味着它可作为现有 RAG 系统的独立模块集成，无需重新训练底层 LLM，降低了部署门槛。猜测层面，其实际效果可能受限于聚类算法对复杂语义关系的捕捉能力，以及在极端稀疏或高噪声数据下的表现，具体边界需结合更多工业级测试数据评估。