跳到正文
原文
InfoQ 中文· 作者:Renato Losio·· 3 小时前AI 评分68

Cloudflare 开源面向 AI 智能体的决策模型 Clef

AI 摘要

Cloudflare 在“生日周”活动中发布了 Clef,这是一组用于在预设选项间做出选择的开源权重 AI 模型,而非生成文本。该系列包含 90 亿参数的 Clef-Flash 和 270 亿参数的多模态版本,后者接收状态和带类型问题的 Schema 作为输入,输出附带概率的类型化结果,无需生成自由文本或解析输出。

Clef 的核心差异在于其视觉编码器支持图像和视频输入,且拥有 64k 上下文窗口(优于 Jev System One 的 32k)。在基准测试中,Clef-Flash 的中位延迟为 38.8 毫秒,而 270B 版本为 209.3 毫秒。模型托管于 Cloudflare 基础设施上,利用边缘 GPU 实现低延迟,并可通过 Workers AI 提供 API 服务,同时 Hugging Face 提供可下载权重。社区讨论指出,虽然这是多年来的易得成果,但其多模态能力和边缘部署特性使其在客服工单分级等场景具有实用价值。

事实层面,Cloudflare 已开放微调服务,初期由工程师提供支持,自助平台尚未上线;推断层面,该模型可能成为 Agent 核心路径中的决策组件,替代部分通用 LLM 调用以降低延迟和成本;猜测层面,关于公开基准是否被做手脚以及模型在置信度崩溃时的表现仍需更多独立验证。

来源:InfoQ 中文 · infoq.cn