返回信息流
新闻事件
InfoQ AI/ML/Data Eng
1 个来源

Cloudflare 开源面向 AI 代理的决策模型

Cloudflare 在其“生日周”活动中宣布了 Clef,这是一组开放权重的 AI 模型,旨在在预定义选项之间进行选择,而非生成文本。该公司发布了 90 亿和 270 亿参数版本,并提供了一个用于将这些模型适配到特定决策任务的平台。此举扩展了面向代理决策的开源 AI 工具。

SynthePulse Insight · AI 深度解读

Cloudflare 开源 Clef:把“决策”从生成式 AI 里拆出来,值不值得押注?

版本 1 · 1 个来源

Cloudflare 在“生日周”开源了 9B 与 27B 两个决策模型,宣称单次前向传播即可输出每个选项的概率,并给出 38.8 毫秒对 209.3 毫秒的自家延迟对比。但社区立刻抛出两个问题:这是新范式还是旧低垂果实?公开基准又能否信?

  • Cloudflare 在“生日周”宣布 Clef,一套在预定义选项间做选择、而非生成文本的开源权重模型,含 9B 与 27B 两个参数版本。
  • 27B 的 Clef 是多模态模型,输入为状态与带类型问题的 schema,可处理文本、JSON、图像或视频,单次前向传播返回每个问题每个允许选项的概率,无需生成自由文本或解析输出。
  • 面向延迟敏感场景的 Clef-Flash 为 9B 多模态模型;Cloudflare 自家基准中位延迟 38.8 毫秒,27B Clef 为 209.3 毫秒。
  • Cloudflare 称 Clef 带视觉编码器、上下文窗口 64k,而 Jev 目前只做文本分类、上下文为 32k;其 API 与 Typesafe AI 的 Jev System One 兼容。
  • 微调服务初期由 Cloudflare 工程师支持,自助平台计划后续推出但无确定日期;模型已通过 Workers AI 提供,并在 Hugging Face 提供可下载权重。
  • Hacker News 与 Reddit 的讨论质疑这是否是新模型类别、公开基准是否易被作弊,以及 Clef 在误报代价远高于漏报时能否正确“弃权”。
展开章节目录一个被拆出来的动作:不生成,只选择

一个被拆出来的动作:不生成,只选择

Cloudflare 在“生日周”期间宣布了 Clef,一套开源权重的 AI 模型,定位是在预定义选项之间做选择,而不是生成文本。随模型一同发布的,还有一个用于把它适配到特定决策任务的平台。这个定位本身就把 Clef 与主流生成式模型区分开来:它不写答案,它选答案。

具体形态上,Clef 是一个 27B 多模态模型,输入是状态和一份带类型问题的 schema,输出是决策。它能处理文本、JSON、图像或视频,并在单次前向传播中为每个问题返回每个允许选项的概率,既不需要生成自由文本,也不需要解析输出。Cloudflare 同时发布了 9B 和 27B 两个参数版本。

这套设计对应的是代理(agent)工作流里的一个具体环节:把输入分类成带概率的类型化结果,让代理据此决定下一步——例如路由一张支持请求、升级它,或把决定交给人。需要说明的是,这一“分类—路由”的用途描述来自报道对决策模型类别的解释,而非 Clef 独有的能力声明。

延迟数字:38.8 毫秒与 209.3 毫秒,但出自自家基准

Cloudflare 还发布了 Clef-Flash,一个面向延迟敏感决策的更小的 9B 多模态模型。在 Cloudflare 的基准测试中,Clef-Flash 的中位延迟为 38.8 毫秒,而 27B 的 Clef 模型为 209.3 毫秒。两者相差约五倍,指向的是同一个取舍:参数规模换速度。

这些数字必须带上限定语。它们来自 Cloudflare 自身的基准测试,属于来源方声明,目前没有第三方独立验证。也就是说,38.8 毫秒可以作为“Cloudflare 声称的中位延迟”来引用,但不能当作中立测量结果。

Cloudflare 团队还称,由于模型托管在 Cloudflare 基础设施上,可利用边缘 GPU 带来低网络延迟和更快决策,从而可以把 Clef 放进代理的热路径,再配合 Workers AI 上的某个 LLM 去执行动作。这一边缘优势同样属于来源方声明,在实际部署中的表现未经独立测量。

与 Jev 的对照:视觉、上下文与 API 兼容

Cloudflare 团队用两个维度说明 Clef 与其他决策模型的差异。其一,Clef 带有视觉编码器,能接收图像并分类视觉内容,而 Jev 目前只做文本分类。其二,Clef 拥有 64k 上下文窗口,Jev 为 32k,这意味着用户可以塞进更多待分类的输入状态。这两点均为 Cloudflare 团队的说法,属于来源方声明。

与此同时,Cloudflare 的 API 与 Typesafe AI 的 Jev System One 模型兼容。这一兼容性是一项已确认的事实,但它也划定了生态互操作的边界:Clef 的接入方式受制于对 Jev 接口的兼容,而非另起一套。

把这两组信息放在一起看,Clef 的差异化叙事是“比 Jev 多模态、上下文更长”,而它的落地路径却是“与 Jev 兼容”。前者是 Cloudflare 的自我陈述,后者是接口层面的既成事实。

微调服务:先由工程师陪跑,自助平台没有日期

Cloudflare 宣布了一项微调服务,允许客户用自己的数据把 Clef 适配到自身工作负载。初期由 Cloudflare 工程师提供支持,自助平台计划在后续版本推出。

关键约束在于时间:Cloudflare 尚未公布自助微调平台的具体日期。这意味着现阶段想要定制 Clef 的团队,实际上要依赖 Cloudflare 工程师的介入,规模化能力受限。

Cloudflare 计划用其历史标注数据,针对支持工单分流和机器人分类等具体用例对 Clef 进行微调,以提升准确率和速度。这一计划属于来源方声明,尚未看到对应结果的披露。

分发与试用:Workers AI 与 Hugging Face 双通道

Cloudflare 已通过 Workers AI 提供 Clef 模型,并在 Hugging Face 上提供可下载权重,邀请开发者试用并反馈。这一分发安排是已确认的事实。

两条通道对应两类使用者:Workers AI 面向希望直接在 Cloudflare 运行时里调用模型的开发者,Hugging Face 权重则面向希望自行下载、检查甚至自行部署的开发者。开源权重加上托管入口,是这次发布在渠道层面的完整形态。

社区的两处质疑:不是新范式,以及基准可作弊

在 Hacker News 的相关讨论中,社区就决策模型、延迟、开放权重以及这是否真的是一个新模型类别展开争论。用户 Jacek Złydach 称这不是“新范式”,而是存在多年的低垂果实,Typesafe 只是第一个停下来把它捡起来并大力营销的人。这是社区观点,属于来源方声明。

基准问题也被直接点名。用户 SebastianSosa 警告公开基准容易被作弊,并称若自己是 Typesafe,也会发布公开基准来分散注意力,让本来有能力的人去过拟合基准,而不是做真正有用的东西。这同样是社区观点,不代表已被证实。

还有一条来自 Reddit 的质疑值得单独记下:用户 bugra_sa 表示,比起原始准确率分数,他更关心 Clef 是否知道何时该“弃权”(punt),并建议在误报代价远高于漏报的场景下测试它,再改变数据看它的置信度何时崩塌。这指向一个尚未回答的问题:Clef 在误报代价远高于漏报的场景下能否正确弃权,目前并不清楚。

该怎么看这次发布

把已确认的事实与来源方声明分开,Clef 的轮廓是清楚的:它确实开源了 9B 与 27B 两个版本,确实以“选择而非生成”为定位,确实通过 Workers AI 与 Hugging Face 分发,确实提供初期由工程师支持的微调服务且自助平台无日期。这些是发布层面的既成事实。

而它的性能叙事——38.8 毫秒对 209.3 毫秒、64k 对 32k、视觉编码器、边缘 GPU 带来的低延迟——全部来自 Cloudflare 自身或其团队的说法,缺乏第三方独立验证。社区对“是否为新范式”和“公开基准是否可信”的分歧,短期内也不会由 Cloudflare 自己的数字来消解。

因此更务实的判断是:Clef 提供了一个把决策从生成式模型里拆出来的工程选项,接口上还兼容 Jev 生态,降低了试错成本;但它是否真的更快、更准、更知道何时该弃权,需要使用者用自己的数据去验证,而不是引用发布方的基准。

可信度边界

本文事实基础来自 InfoQ 对 Cloudflare 发布的报道,其中模型发布、参数规模、分发渠道、微调服务形态与 API 兼容性属已确认信息;延迟、上下文窗口、视觉编码器、边缘 GPU 优势等均为 Cloudflare 团队或自家基准的说法,未经第三方独立验证;Hacker News 与 Reddit 的质疑属社区观点,不代表已被证实。

核心结论

Clef 的发布事实清楚,性能叙事待验:把它当作一个可试用的决策接口,而不是一个已被证明的更快更准方案。

主报道

InfoQ AI/ML/Data Eng

主报道来源