LLM推理通过Rowhammer攻击增加延迟与成本
先了解这件事
2026年10月23日,arXiv发布论文提出LLVMhammer攻击。该研究利用CPU DRAM中的Rowhammer位翻转技术,针对基于GPU的大语言模型(LLM)推理服务器发起攻击。攻击者在Triton即时编译框架的关键优化阶段引发位翻转,生成功能相同但次优的GPU内核。由于Triton将生成的内核缓存于磁盘,单次成功的位翻转会导致后续推理执行出现持久性延迟。实验在NVIDIA RTX 4090和AMD RX 7系列显卡上验证了该方法,导致推理延迟增加4-16%且输出可能受损。这是首个利用Rowhammer降低LLM推理性能的攻击方法。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- arXiv cs.CR精选LLM 推理服务器因 Rowhammer 攻击导致延迟增加 4-16% 且输出可能受损
这篇 arXiv 论文提出 LLVMhammer,这是首个利用 CPU DRAM 中的 Rowhammer 位翻转攻击来降低基于 GPU 的大语言模型(LLM)推理性能的攻击方法。攻击者通过在 Triton 即时编译框架的关键优化阶段引发位翻转,生成功能相同但次优的 GPU 内核。由于 Triton 将生成的内核缓存于磁盘,单次成功的位翻转会导致后续推理执行出现持久性延迟。 实验在 NVIDIA RTX 4090 和 AMD RX 7900 XTX 等多款 GPU 上验证了该攻击对 Qwen2.5、Llama-3.1、Mistral 和 Deepseek 等模型的影响。结果显示,单卡 LLM 推理服务器的延迟增加了 4-16%,在多卡部署规模下可转化为显著的年度运营成本增加。此外,攻击还能破坏模型输出,使 BERTScore 降至 25%,证明了 Triton 编译管道中位翻转的广泛安全风险。 事实层面,该研究证实了跨厂商 GPU 的通用攻击可行性及具体的性能损耗数据;推断层面,这意味着现有的推理服务安全模型需纳入硬件层面的物理攻击防御;猜测层面,若此类攻击被自动化或规模化,可能成为针对特定算力基础设施的新型勒索或干扰手段,但目前尚无证据表明其已大规模商用化。
本事件热度走势
当前热度 9·可比范围峰值 9(10月23日 14:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。