Web搜索型LLM面临数据空洞攻击漏洞研究

该研究揭示了一种针对Web搜索型大语言模型的新型漏洞——数据空洞利用（data-void exploit）。攻击者通过在缺乏可靠内容的搜索空间中发布叙事，利用模型的联网检索功能获取并引用这些稀疏、未经验证甚至恶意的来源。实验表明，仅需一个受控页面即可成功实施攻击，在所有测试条件下，攻击者内容出现在LLM响应中的概率高达31%。 研究通过调整用户提示语气（怀疑、兴奋或中性）和模型选择（ChatGPT、Gemini、Sonar Pro），以及控制五种已知策略、内容可见性层级和生成优化引擎特征，验证了攻击的可行性。结果显示，虽然怀疑性提示能略微降低成功率并增加警告，但提示语气和模型选择对成功率没有显著影响。这一发现将数据空洞确立为推理时攻击面，证明了通过战略性放置网页内容操纵搜索结果的实际风险。 事实层面，该论文基于2026年10月的实验数据，确认了单页攻击的成功率及防御措施的局限性。推断层面，这意味着当前依赖外部搜索的RAG系统若缺乏严格的源质量过滤机制，极易成为虚假信息传播渠道。猜测层面，未来可能需要引入专门针对“数据空洞”的检测算法或强制多源交叉验证机制，但这尚未在现有主流产品中明确部署。