Anthropic发布FlashProve验证AI回复来源

1. 01:17
   Hacker News · AI精选

   Anthropic 发布 FlashProve：单 H100 实现 400B MoE 模型每秒 110 token 的零知识推理证明

   Anthropic 发布了名为 FlashProve 的研究原型系统，利用 zkSNARK 技术实现了大型语言模型的零知识推理证明（provable inference），解决了用户无法验证响应是否来自指定模型的安全问题。该系统针对 Llama 4 Maverick（400B 参数混合专家模型）在 4-bit 量化下，使用单张 H100 GPU 即可达到约 110 tokens/秒的证明生成速度，单次请求（1,024 tokens）生成的证明文件约为 19 MB，验证时间仅需数秒。 相比此前同类工作，FlashProve 在性能上实现了数量级提升。例如，VerInf 对同一模型的处理耗时为每千 token 14.3 小时，而 FlashProve 仅需极短时间；其证明生成开销约为原生 vLLM 推理时间的 70-95 倍，远低于早期方案中“几个数量级”的差距。系统采用后验证明（post-hoc）模式，支持批量处理，且通过 Lean 形式化验证语言提供了可机器检查的安全属性证明，包括完整性、健全性和零知识性。代码、Lean 证明及文档已按 Apache 2.0 协议开源。 该进展意味着 AI 监管、合规审计及防篡改机制在技术上开始具备落地条件，监管机构或客户可低成本验证模型身份而不泄露权重信息。事实层面，当前版本仅支持整数算术下的贪婪解码（greedy decoding），不支持浮点采样，且上下文窗口限制在 1,024 tokens，架构隐藏功能尚未实现。推断层面，随着性能瓶颈突破，未来可能推动更多大模型接入此类验证体系。猜测层面，若后续能扩展至长上下文和更复杂解码策略，该协议或将成为行业基础设施标准之一。

1. 23:23
   The Decoder

   Anthropic 发布 FlashProve 原型：用零知识证明验证 AI 回复来源而不泄露权重

   Anthropic 发布了名为 FlashProve 的研究原型，利用 zkSNARK 技术在不暴露模型权重的情况下验证 AI 回复是否由声称的模型生成。该系统通过为模型权重创建数字指纹，并在每次响应时提供紧凑的证明，解决了路由服务可能替换廉价模型或攻击者篡改数据流的问题。 在性能方面，FlashProve 在单张 H100 GPU 上对 Meta 的 Llama 4 Maverick（400B 参数）模型生成证明的速度约为每秒 110 tokens，每个证明约 19 MB，可在标准 CPU 上于 17 秒内完成验证。相比此前需要 14 小时处理 1,000 tokens 且产生 93.6 GB 证明的系统，这是显著进步，但仍带来 70x 至 95x 的推理开销。 尽管具备监管合规、代码审查验证和服务器防篡改等潜在用途，FlashProke 目前仅支持最多 1,024 tokens 的上下文窗口，且仅在模型选择最可能的下一个 token 时有效，不适用于日常聊天中常见的随机化输出。该项目的完整代码、Lean 证明及文档已以 Apache 2.0 许可证在 GitHub 开源。事实层面确认其技术路径与性能指标；推断层面认为其短期内难以替代现有推理系统；猜测层面涉及未来是否可扩展至更大上下文或支持采样输出。

当前热度 19·可比范围峰值 19（11月5日 02:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。