Anthropic 发布 FlashProve：单 H100 实现 400B MoE 模型每秒 110 token 的零知识推理证明

Anthropic 发布了名为 FlashProve 的研究原型系统，利用 zkSNARK 技术实现了大型语言模型的零知识推理证明（provable inference），解决了用户无法验证响应是否来自指定模型的安全问题。该系统针对 Llama 4 Maverick（400B 参数混合专家模型）在 4-bit 量化下，使用单张 H100 GPU 即可达到约 110 tokens/秒的证明生成速度，单次请求（1,024 tokens）生成的证明文件约为 19 MB，验证时间仅需数秒。

相比此前同类工作，FlashProve 在性能上实现了数量级提升。例如，VerInf 对同一模型的处理耗时为每千 token 14.3 小时，而 FlashProve 仅需极短时间；其证明生成开销约为原生 vLLM 推理时间的 70-95 倍，远低于早期方案中“几个数量级”的差距。系统采用后验证明（post-hoc）模式，支持批量处理，且通过 Lean 形式化验证语言提供了可机器检查的安全属性证明，包括完整性、健全性和零知识性。代码、Lean 证明及文档已按 Apache 2.0 协议开源。

该进展意味着 AI 监管、合规审计及防篡改机制在技术上开始具备落地条件，监管机构或客户可低成本验证模型身份而不泄露权重信息。事实层面，当前版本仅支持整数算术下的贪婪解码（greedy decoding），不支持浮点采样，且上下文窗口限制在 1,024 tokens，架构隐藏功能尚未实现。推断层面，随着性能瓶颈突破，未来可能推动更多大模型接入此类验证体系。猜测层面，若后续能扩展至长上下文和更复杂解码策略，该协议或将成为行业基础设施标准之一。