返回信息流
新闻事件
A重点72
Hugging Face Blog
1 个来源

Baseten 现已集成到 Hugging Face 推理提供者中

Baseten 宣布其模型推理服务现已集成到 Hugging Face 的推理提供者中,使用户能够通过 Hugging Face 平台直接使用 Baseten 的推理能力。这一合作简化了模型部署流程,为开发者提供了更多选择。

SynthePulse Insight · AI 深度解读

Baseten 接入 Hugging Face Inference Providers:无加价路由与开放生态的下一步

版本 1 · 1 个来源

Hugging Face 宣布 Baseten 成为其 Inference Providers 生态的新成员,开发者可通过 Hub 页面或 SDK 直接调用 Baseten 托管的开源权重模型。这一集成背后,是 HF 在推理分发上“无加价转售”与“自定义密钥直连”的双轨设计,以及 PRO 用户每月 2 美元推理额度的激励策略。

  • Baseten 正式成为 Hugging Face Inference Providers 的受支持提供商,覆盖对话与文本生成任务,支持 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开源权重模型。
  • 集成支持两种调用模式:使用自定义 API 密钥直连 Baseten,或通过 HF 路由(使用 HF 令牌,费用计入 HF 账户)。
  • 路由模式下,HF 不收取额外加价,仅传递提供商成本;未来可能引入收入分成协议。
  • Python SDK(huggingface_hub >= 1.26.1)和 JavaScript SDK(@huggingface/inference)已支持 Baseten,示例代码展示了通过 OpenAI 兼容接口调用 DeepSeek V4 Flash。
  • HF PRO 用户每月获得 2 美元推理额度,可在所有提供商间使用;免费用户也有少量免费推理配额。
  • Baseten 的集成已覆盖主流 Agent 框架(如 Pi、OpenCode、Hermes Agents、OpenClaw),无需额外胶水代码即可接入。
展开章节目录集成背景与模型支持

集成背景与模型支持

Hugging Face 官方博客于 2026 年 8 月 6 日宣布,Baseten 成为其 Inference Providers 生态的新成员。Baseten 被描述为一个覆盖无服务器 AI、训练等能力的 AI 基础设施平台,拥有众多前沿模型目录,开发者可以以最小设置集成多种 AI 能力。

作为初始集成的一部分,Baseten 在 Hugging Face 上支持对话和文本生成任务,可访问 Kimi K3、最新 DeepSeek V4 Flash、GLM-5.2 等开源权重模型。官方表示,更多任务类型的支持将很快推出。

两种调用模式:自定义密钥与 HF 路由

在 Hugging Face 网站的用户账户设置中,用户可以设置自己的 API 密钥,也可以按偏好排序提供商,这会影响模型页面上的组件和代码片段。调用 Inference Providers 有两种模式:自定义密钥模式(请求直接发送到推理提供商,使用用户自己的 API 密钥)和 HF 路由模式(用户无需提供商令牌,费用直接计入 HF 账户)。

这种双轨设计意味着开发者可以根据自身需求选择直连或经由 HF 中转。对于路由模式,HF 明确表示不收取额外加价,仅传递提供商成本,但未来可能建立收入分成协议。

SDK 与 Agent 框架集成

Baseten 已通过 Hugging Face SDK 可用:Python 的 huggingface_hub(>= 1.26.1)和 JavaScript 的 @huggingface/inference。博客提供了使用 OpenAI 兼容接口的示例代码,通过设置 base_url 为 https://router.huggingface.co/v1 并使用 HF 令牌,即可调用模型 deepseek-ai/DeepSeek-V4-Flash-0731:baseten。

此外,Inference Providers 已集成到大多数 Agent 框架中,包括 Pi、OpenCode、Hermes Agents、OpenClaw 等,这意味着用户可以将 Baseten 托管的模型直接插入这些工具,无需额外胶水代码。

计费与用户激励

计费方面,直接请求(使用提供商密钥)由相应提供商计费,例如使用 Baseten API 密钥则计入 Baseten 账户;路由请求(通过 HF 认证)则按标准提供商 API 费率支付,HF 不加价。

HF PRO 用户每月获得 2 美元推理额度,可在所有提供商间使用;免费登录用户也有少量免费推理配额。这些激励措施旨在吸引用户尝试新的提供商。

可信度边界

本文信息全部来自 Hugging Face 官方博客,属于第一方发布,可信度较高。但博客中提到的模型名称(如 Kimi K3、DeepSeek V4 Flash、GLM-5.2)和未来计划(如更多任务支持、收入分成)均为官方声明,尚未经过独立验证。

核心结论

Baseten 的加入进一步丰富了 Hugging Face 的推理提供商生态,其双轨调用模式和透明的计费策略降低了开发者接入门槛,而 PRO 用户的月度额度则可能推动更广泛的采用。

主报道

Hugging Face Blog

主报道来源