Anthropic 发布 FlashProve 开源系统验证 AI 模型身份

Anthropic 发布了名为 FlashProve 的开源系统，旨在通过密码学手段为 AI 模型的输出提供可验证的身份证明，确保用户收到的回答确实来自其声称使用的特定模型。该系统被称为“可验证推理”，能抵御包括模型实验室在内的冒充者伪装其他模型的行为，防止企业为了降低成本秘密替换廉价模型或为了夸大性能而替换昂贵模型。 技术实现上，FlashProke 要求 AI 实验室发布每个模型的“指纹”，该指纹用于后续匹配和验证特定输出，但不会泄露定义模型行为的权重等核心资产，因此兼容闭源商业模型。系统被设计为轻量级，支持在本地设备上执行验证。目前 Anthropic 已公开了详细的技术规范和部分工作代码，并明确表示这是中间研究进展而非最终产品，暂无部署计划，旨在邀请社区参与改进。 事实层面，这是一个由 Anthropic 主导的开源项目，处于研究分享阶段，未在实际服务中上线。推断层面，该工具若被行业广泛采纳，将改变用户对模型输出的信任机制，迫使厂商在营销和交付中保持透明。猜测层面，由于缺乏实际部署数据，尚不确定该方案能否完全解决所有形式的模型替换攻击，且其普及程度取决于生态系统的接受度。