Looped Diffusion Transformer 论文发布与复现进展

arXiv 2609.40305 提出 Looped Diffusion Transformer，通过在每个去噪步骤内多次运行共享的 Transformer 块而非单纯扩大模型规模来提升性能，并声称 2.6 亿参数的循环模型在多个基准上击败了大 6.5 倍的模型，且推理计算量减少 4.9 倍。 作者 /u/Fit-Ant2238 在 M5 Pro 上使用 PyTorch MPS fp32 环境复现了 B/16 版本（权重托管于 Hugging Face sensenova），测试发现循环深度在采样时可动态选择而无需重新训练；在固定提示词下，深度从 1 增至 4 时，单图生成时间从约 23-24 秒延长至 43-47 秒，但图像质量提升主要集中在深度 1 到 3 之间，深度 3 与 4 的结果差异极小。 事实层面，该架构允许在推理阶段根据设备算力灵活权衡单次生成的精细度与耗时，推断其可能成为端侧部署的高效方案，但这依赖于特定硬件上的实测表现；猜测部分在于这种“深度换质量”的策略是否能在更广泛的扩散模型变体中保持同样的边际收益递减特性，目前仅基于单一模型和少量提示词的观察。