LLM提示注入攻击后攻击代码复用与防御修订研究

1. 12:00
   arXiv cs.CR精选

   提示词注入攻击后受害者对攻击代码的复用与防御修订实证研究

   该研究基于Tensor Trust在线游戏平台的563,349条攻击记录，实证分析了LLM提示词注入攻击中受害者对攻击载荷的处置行为。研究发现，攻击日志在帮助受害者修补防御的同时，也直接提供了可复用的攻击武器：成功突破防御的攻击被受害者复用于攻击他人的比例高达10.0%，而同期未触达目标的同类攻击复用率仅为0.03%。这种复用行为主要受“收益偏差”驱动，即只有实际生效的攻击才会被广泛传播，而非仅仅因为回复中包含“访问已授权”等字样。 数据进一步显示，遭受入侵后的防御调整能显著降低同类型攻击的成功率，使针对该目标的攻击成功率相对下降24.5个百分点。然而，攻击历史本身构成了新的风险源，分析表明，此前接收到的攻击文本占到了所分析成功劫持案例的23.2%。这一发现挑战了当前安全报告通常包含完整攻击载荷的做法，证明直接公开攻击代码会加速攻击面的扩散。 基于上述事实，本文提出推断性结论：现有的AI安全工具在披露攻击事件时，应仅描述攻击技术原理而隐去完整的攻击文本（payload），以切断“攻击-学习-再攻击”的闭环。这并非猜测，而是基于观测到的10%高复用率与23.2%的历史贡献率得出的机制性推论。对于安全从业者而言，这意味着在构建红队报告或漏洞披露机制时，必须将“防止攻击代码外泄”作为核心设计原则，而非默认假设受害者只会单向利用信息进行防御。

当前热度 9·可比范围峰值 9（10月28日 15:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。