ADTGuard 提出深度时间动态实现流式 LLM 安全拦截

该论文提出 ADTGuard 框架，旨在解决大语言模型流式推理（streaming inference）中有害内容在生成完成前暴露给用户的风险。现有护栏机制存在滞后干预或监督粒度粗糙的问题，而 ADTGuard 通过逐 token 检查、渐进式细化训练目标以及根据当前前缀自适应选择观察层，实现了更精细的安全控制。 核心创新在于构建了深度 - 时间安全动力学（DTSD），整合各层安全证据并引导风险随 token 累积，同时引入因果深度路由（CDR）动态适配观测层。在仅有响应级标签的情况下，作者开发了风险 onset 目标细化（RTR）方法，为两个组件构建 token 级训练目标。实验显示该方法仅需 16M 可训练参数，在多个安全基准上性能匹配或超越最先进护栏，且保持具有竞争力的每 token 延迟。 事实层面，该研究验证了轻量级参数（16M）配合特定架构设计可在流式场景下实现有效拦截；推断层面，这意味着未来端侧或低延迟服务中的安全模块可能不再依赖重型后处理管道；猜测层面，若 RTR 方法能泛化至更多模态任务，可能重塑流式 AI 产品的安全合规成本结构，但具体部署效果需待实际工程落地验证。