Cloudflare 开源决策模型 Clef:39 毫秒给出答案,比 Jev 快十几倍

    Cloudflare 发布了两款专为 AI 智能体设计的决策模型 Clef 和 Clef-flash,直接对标这一细分赛道的领跑者 TypeSafe AI 的 Jev,并以 Apache 2.0 许可证在 Hugging Face 上开源。

    它不写文章,只给概率
    决策模型和大模型不一样:大模型能推理、能调用工具,但每次输出都不一样,速度也偏慢;传统分类器快,可每增加一个新类别就得重新训练。决策模型卡在两者中间——它不生成大段文字,而是给预设的答案选项分配概率。给它一条客户支持消息,它可以判断紧急程度、该由哪个团队处理,下游代码据此路由工单、触发升级或转人工。Cloudflare 的说法是:智能体做决策,人类不一定还需要留在回路里。
    主打一个字:快
    速度是 Cloudflare 打出的第一张牌。它公布的数据是:Clef-flash 的中位响应时间约 39 毫秒,Clef 约 209 毫秒,而 Jev 是 524 毫秒出头。在 43 项基准测试中,两款模型都比相关竞品决策模型更快。它们的底子是 Qwen——Clef 基于 Qwen3.8-27B,Clef-flash 基于更小的 Qwen3.5-9B;训练时基础模型保持不变,用自研合成数据训练额外组件来推导答案与概率。两款模型还完全兼容 Jev 的 API,客户可以方便切换。
    能力之外,也得看代价
    Clef 能处理图像,Jev 目前只限文本;它的 64,000 token 上下文窗口能容纳的输入量是 Jev 的两倍。在 Cloudflare 自己发布的基准里 Clef 领先,但在几项更难的推理测试上 Jev 仍然更好,而托管版 Clef 的价格也更高(据 The Register,约每百万词元 0.24 美元,对 Jev 的 0.042 美元)。这些数字都来自厂商自测,尚未被第三方独立复现。此外,供客户用私有数据微调的强化学习服务也还在早期阶段,起初要由部署工程师协助完成。
    决策模型这条路是被 Jev 带火的,OpenAI 也在 9 月底跟进推出了 Decisions API。如今一家基础设施厂商带着开源权重下场,说明「便宜、快速、可核查的决策」正在从某家初创的独门武器,变成行业标配。