Baseten 现已集成到 Hugging Face 推理提供者中
Baseten 宣布其模型推理服务现已集成到 Hugging Face 的推理提供者中,使用户能够通过 Hugging Face 平台直接使用 Baseten 的推理能力。这一合作简化了模型部署流程,为开发者提供了更多选择。
Baseten 宣布其模型推理服务现已集成到 Hugging Face 的推理提供者中,使用户能够通过 Hugging Face 平台直接使用 Baseten 的推理能力。这一合作简化了模型部署流程,为开发者提供了更多选择。
SynthePulse Insight · AI 深度解读
版本 1 · 1 个来源
Hugging Face 宣布 Baseten 成为其 Inference Providers 生态的新成员,开发者可通过 Hub 页面或 SDK 直接调用 Baseten 托管的开源权重模型。这一集成背后,是 HF 在推理分发上“无加价转售”与“自定义密钥直连”的双轨设计,以及 PRO 用户每月 2 美元推理额度的激励策略。
Hugging Face 官方博客于 2026 年 8 月 6 日宣布,Baseten 成为其 Inference Providers 生态的新成员。Baseten 被描述为一个覆盖无服务器 AI、训练等能力的 AI 基础设施平台,拥有众多前沿模型目录,开发者可以以最小设置集成多种 AI 能力。
作为初始集成的一部分,Baseten 在 Hugging Face 上支持对话和文本生成任务,可访问 Kimi K3、最新 DeepSeek V4 Flash、GLM-5.2 等开源权重模型。官方表示,更多任务类型的支持将很快推出。
在 Hugging Face 网站的用户账户设置中,用户可以设置自己的 API 密钥,也可以按偏好排序提供商,这会影响模型页面上的组件和代码片段。调用 Inference Providers 有两种模式:自定义密钥模式(请求直接发送到推理提供商,使用用户自己的 API 密钥)和 HF 路由模式(用户无需提供商令牌,费用直接计入 HF 账户)。
这种双轨设计意味着开发者可以根据自身需求选择直连或经由 HF 中转。对于路由模式,HF 明确表示不收取额外加价,仅传递提供商成本,但未来可能建立收入分成协议。
Baseten 已通过 Hugging Face SDK 可用:Python 的 huggingface_hub(>= 1.26.1)和 JavaScript 的 @huggingface/inference。博客提供了使用 OpenAI 兼容接口的示例代码,通过设置 base_url 为 https://router.huggingface.co/v1 并使用 HF 令牌,即可调用模型 deepseek-ai/DeepSeek-V4-Flash-0731:baseten。
此外,Inference Providers 已集成到大多数 Agent 框架中,包括 Pi、OpenCode、Hermes Agents、OpenClaw 等,这意味着用户可以将 Baseten 托管的模型直接插入这些工具,无需额外胶水代码。
计费方面,直接请求(使用提供商密钥)由相应提供商计费,例如使用 Baseten API 密钥则计入 Baseten 账户;路由请求(通过 HF 认证)则按标准提供商 API 费率支付,HF 不加价。
HF PRO 用户每月获得 2 美元推理额度,可在所有提供商间使用;免费登录用户也有少量免费推理配额。这些激励措施旨在吸引用户尝试新的提供商。
本文信息全部来自 Hugging Face 官方博客,属于第一方发布,可信度较高。但博客中提到的模型名称(如 Kimi K3、DeepSeek V4 Flash、GLM-5.2)和未来计划(如更多任务支持、收入分成)均为官方声明,尚未经过独立验证。
Baseten 的加入进一步丰富了 Hugging Face 的推理提供商生态,其双轨调用模式和透明的计费策略降低了开发者接入门槛,而 PRO 用户的月度额度则可能推动更广泛的采用。
主报道
主报道来源