Anthropic 发布 FlashProve 原型：用零知识证明验证 AI 回复来源而不泄露权重

Anthropic 发布了名为 FlashProve 的研究原型，利用 zkSNARK 技术在不暴露模型权重的情况下验证 AI 回复是否由声称的模型生成。该系统通过为模型权重创建数字指纹，并在每次响应时提供紧凑的证明，解决了路由服务可能替换廉价模型或攻击者篡改数据流的问题。

在性能方面，FlashProve 在单张 H100 GPU 上对 Meta 的 Llama 4 Maverick（400B 参数）模型生成证明的速度约为每秒 110 tokens，每个证明约 19 MB，可在标准 CPU 上于 17 秒内完成验证。相比此前需要 14 小时处理 1,000 tokens 且产生 93.6 GB 证明的系统，这是显著进步，但仍带来 70x 至 95x 的推理开销。

尽管具备监管合规、代码审查验证和服务器防篡改等潜在用途，FlashProke 目前仅支持最多 1,024 tokens 的上下文窗口，且仅在模型选择最可能的下一个 token 时有效，不适用于日常聊天中常见的随机化输出。该项目的完整代码、Lean 证明及文档已以 Apache 2.0 许可证在 GitHub 开源。事实层面确认其技术路径与性能指标；推断层面认为其短期内难以替代现有推理系统；猜测层面涉及未来是否可扩展至更大上下文或支持采样输出。