ORL 方法使扩散语言模型在单张 RTX 5090 上达到 2,788 tokens/s 的推理速度

Introspective-Diffusion 团队发布 ORL（On-Policy Residual Learning）研究与配套推理引擎 dlmrt，将扩散语言模型的生成效率显著提升，在单张 RTX 5090 上实现 2,788 tokens/s 的峰值吞吐量。该成果基于 LLaDA-2.1-mini 模型配合 NVFP4 量化，同时 QwenDLM-4B 模型在 H100 上的端到端系统对比中，比 DFlash 快 1.74 倍，比 EAGLE3 快 3.2 倍，且 HumanEval pass@1 从 82.9% 提升至 89.6%。

核心突破在于两项技术机制：一是 On-policy residual learning，即训练时直接使用当前模型生成的残差轨迹而非离线数据，解决了分布不匹配问题；二是 Adjacent Entropy Contraction，通过约束每一步去噪过程中的不确定性收缩来加速收敛。为支撑这些算法，团队开发了专用的 CUDA 图执行引擎 dlmrt，能够捕获整个去噪循环并在 GPU 上直接运行，相比 SGLang/vLLM 在单卡场景下提升 1.2–1.6 倍速度，并支持 Blackwell 架构的 NVFP4 推理。

事实层面，所有性能数据均标注为单请求（batch size 1）下的峰值结果，非并发吞吐量或任意提示词的均值。推断层面，该工作证明了扩散语言模型在低延迟、单用户场景下具备超越自回归模型的潜力，特别是对于 RTX 5090 这类消费级显卡的适配，可能改变本地大模型部署的技术路线选择。猜测层面，其训练仅需 36 H100 GPU-hours 的低成本特性若能在更大规模模型复现，将大幅降低扩散模型的实验门槛，但具体商业落地效果仍需观察多请求并发下的实际表现。