Cloudflare 开源面向 AI 代理的决策模型
Cloudflare 在其“生日周”活动中宣布了 Clef,这是一组开放权重的 AI 模型,旨在在预定义选项之间进行选择,而非生成文本。该公司发布了 90 亿和 270 亿参数版本,并提供了一个用于将这些模型适配到特定决策任务的平台。此举扩展了面向代理决策的开源 AI 工具。
Cloudflare 在其“生日周”活动中宣布了 Clef,这是一组开放权重的 AI 模型,旨在在预定义选项之间进行选择,而非生成文本。该公司发布了 90 亿和 270 亿参数版本,并提供了一个用于将这些模型适配到特定决策任务的平台。此举扩展了面向代理决策的开源 AI 工具。
SynthePulse Insight · AI 深度解读
版本 1 · 1 个来源
Cloudflare 在“生日周”开源了 9B 与 27B 两个决策模型,宣称单次前向传播即可输出每个选项的概率,并给出 38.8 毫秒对 209.3 毫秒的自家延迟对比。但社区立刻抛出两个问题:这是新范式还是旧低垂果实?公开基准又能否信?
Cloudflare 在“生日周”期间宣布了 Clef,一套开源权重的 AI 模型,定位是在预定义选项之间做选择,而不是生成文本。随模型一同发布的,还有一个用于把它适配到特定决策任务的平台。这个定位本身就把 Clef 与主流生成式模型区分开来:它不写答案,它选答案。
具体形态上,Clef 是一个 27B 多模态模型,输入是状态和一份带类型问题的 schema,输出是决策。它能处理文本、JSON、图像或视频,并在单次前向传播中为每个问题返回每个允许选项的概率,既不需要生成自由文本,也不需要解析输出。Cloudflare 同时发布了 9B 和 27B 两个参数版本。
这套设计对应的是代理(agent)工作流里的一个具体环节:把输入分类成带概率的类型化结果,让代理据此决定下一步——例如路由一张支持请求、升级它,或把决定交给人。需要说明的是,这一“分类—路由”的用途描述来自报道对决策模型类别的解释,而非 Clef 独有的能力声明。
Cloudflare 还发布了 Clef-Flash,一个面向延迟敏感决策的更小的 9B 多模态模型。在 Cloudflare 的基准测试中,Clef-Flash 的中位延迟为 38.8 毫秒,而 27B 的 Clef 模型为 209.3 毫秒。两者相差约五倍,指向的是同一个取舍:参数规模换速度。
这些数字必须带上限定语。它们来自 Cloudflare 自身的基准测试,属于来源方声明,目前没有第三方独立验证。也就是说,38.8 毫秒可以作为“Cloudflare 声称的中位延迟”来引用,但不能当作中立测量结果。
Cloudflare 团队还称,由于模型托管在 Cloudflare 基础设施上,可利用边缘 GPU 带来低网络延迟和更快决策,从而可以把 Clef 放进代理的热路径,再配合 Workers AI 上的某个 LLM 去执行动作。这一边缘优势同样属于来源方声明,在实际部署中的表现未经独立测量。
Cloudflare 团队用两个维度说明 Clef 与其他决策模型的差异。其一,Clef 带有视觉编码器,能接收图像并分类视觉内容,而 Jev 目前只做文本分类。其二,Clef 拥有 64k 上下文窗口,Jev 为 32k,这意味着用户可以塞进更多待分类的输入状态。这两点均为 Cloudflare 团队的说法,属于来源方声明。
与此同时,Cloudflare 的 API 与 Typesafe AI 的 Jev System One 模型兼容。这一兼容性是一项已确认的事实,但它也划定了生态互操作的边界:Clef 的接入方式受制于对 Jev 接口的兼容,而非另起一套。
把这两组信息放在一起看,Clef 的差异化叙事是“比 Jev 多模态、上下文更长”,而它的落地路径却是“与 Jev 兼容”。前者是 Cloudflare 的自我陈述,后者是接口层面的既成事实。
Cloudflare 宣布了一项微调服务,允许客户用自己的数据把 Clef 适配到自身工作负载。初期由 Cloudflare 工程师提供支持,自助平台计划在后续版本推出。
关键约束在于时间:Cloudflare 尚未公布自助微调平台的具体日期。这意味着现阶段想要定制 Clef 的团队,实际上要依赖 Cloudflare 工程师的介入,规模化能力受限。
Cloudflare 计划用其历史标注数据,针对支持工单分流和机器人分类等具体用例对 Clef 进行微调,以提升准确率和速度。这一计划属于来源方声明,尚未看到对应结果的披露。
Cloudflare 已通过 Workers AI 提供 Clef 模型,并在 Hugging Face 上提供可下载权重,邀请开发者试用并反馈。这一分发安排是已确认的事实。
两条通道对应两类使用者:Workers AI 面向希望直接在 Cloudflare 运行时里调用模型的开发者,Hugging Face 权重则面向希望自行下载、检查甚至自行部署的开发者。开源权重加上托管入口,是这次发布在渠道层面的完整形态。
在 Hacker News 的相关讨论中,社区就决策模型、延迟、开放权重以及这是否真的是一个新模型类别展开争论。用户 Jacek Złydach 称这不是“新范式”,而是存在多年的低垂果实,Typesafe 只是第一个停下来把它捡起来并大力营销的人。这是社区观点,属于来源方声明。
基准问题也被直接点名。用户 SebastianSosa 警告公开基准容易被作弊,并称若自己是 Typesafe,也会发布公开基准来分散注意力,让本来有能力的人去过拟合基准,而不是做真正有用的东西。这同样是社区观点,不代表已被证实。
还有一条来自 Reddit 的质疑值得单独记下:用户 bugra_sa 表示,比起原始准确率分数,他更关心 Clef 是否知道何时该“弃权”(punt),并建议在误报代价远高于漏报的场景下测试它,再改变数据看它的置信度何时崩塌。这指向一个尚未回答的问题:Clef 在误报代价远高于漏报的场景下能否正确弃权,目前并不清楚。
把已确认的事实与来源方声明分开,Clef 的轮廓是清楚的:它确实开源了 9B 与 27B 两个版本,确实以“选择而非生成”为定位,确实通过 Workers AI 与 Hugging Face 分发,确实提供初期由工程师支持的微调服务且自助平台无日期。这些是发布层面的既成事实。
而它的性能叙事——38.8 毫秒对 209.3 毫秒、64k 对 32k、视觉编码器、边缘 GPU 带来的低延迟——全部来自 Cloudflare 自身或其团队的说法,缺乏第三方独立验证。社区对“是否为新范式”和“公开基准是否可信”的分歧,短期内也不会由 Cloudflare 自己的数字来消解。
因此更务实的判断是:Clef 提供了一个把决策从生成式模型里拆出来的工程选项,接口上还兼容 Jev 生态,降低了试错成本;但它是否真的更快、更准、更知道何时该弃权,需要使用者用自己的数据去验证,而不是引用发布方的基准。
本文事实基础来自 InfoQ 对 Cloudflare 发布的报道,其中模型发布、参数规模、分发渠道、微调服务形态与 API 兼容性属已确认信息;延迟、上下文窗口、视觉编码器、边缘 GPU 优势等均为 Cloudflare 团队或自家基准的说法,未经第三方独立验证;Hacker News 与 Reddit 的质疑属社区观点,不代表已被证实。
Clef 的发布事实清楚,性能叙事待验:把它当作一个可试用的决策接口,而不是一个已被证明的更快更准方案。
主报道
主报道来源