NeMo-Guardrails 代理将 SIEM/XDR 中 LLM 注入攻击召回率提升至 94.5%

该论文针对安全运营中心（SOC）利用大语言模型自动处置告警时面临的远程代码执行风险，提出了一种受限动作架构。该架构由两层组成：一是基于关联主机事件的 SIEM/XDR 控制平面，将 LLM 输出限制在封闭意图词汇表中，并通过细粒度端点代理执行模板化命令；二是使用 NeMo-Guardrails 代理包裹分析师使用的 LLM，实施输入和输出护栏策略。

实测数据显示，该方案在 0.1% 的误报率下，将针对特定 SOC 对抗语料库的注入攻击召回率从 25.0% 提升至 94.5%。红队演练证实，封闭意图词汇表与参数校验器能在命令跨越信任边界前拦截观测到的 LLM 失效模式。作者强调，由于护栏评估带来的延迟，该闭环目前仅适用于人机协同或延迟执行的场景，不适合需要实时内联控制的工业环境。

事实层面，该研究已接受 IEEE CSR 2026 会议并公开了对抗语料库。推断层面，这种“受限动作 + 外部护栏”的模式可能成为关键基础设施领域 LLM 自动化响应的标准配置，以规避物理后果风险。猜测层面，随着端侧算力提升，未来或许能优化延迟以支持更实时的响应，但当前架构明确排除了全自动化决策路径。