返回信息流
新闻事件
A重点76
InfoQ AI/ML/Data Eng
1 个来源

Foundry 模型路由器从两个区域扩展到 28 个,并刷新模型池

微软将 Foundry 的模型路由器从两个区域扩展到 28 个全球标准区域和 21 个数据区域,同时新增了 Claude Opus 4.8 和 GPT-5.6,并移除了四个已弃用的模型。默认部署会自动接收池变更,而配置的子集需手动添加新模型。有效上下文窗口由池中最小的模型决定。

SynthePulse Insight · AI 深度解读

Foundry模型路由器扩展至28个区域:自动更新背后的行为稳定性隐忧

版本 1 · 1 个来源

微软将Foundry模型路由器从2个区域扩展至28个,并自动刷新模型池,但默认配置下的自动更新可能带来行为变化,而文档中的子集配置才是真正的逃生舱。

  • 微软将Foundry模型路由器从2个区域扩展至28个全球标准部署和21个数据区域部署。
  • 模型池新增Claude Opus 4.8和GPT-5.6系列,移除gpt-5-chat等四个模型。
  • 默认配置的团队自动接收更新,无需重新部署;配置了模型子集的团队则不会。
  • API稳定性不等于行为稳定性,新模型可能改变回答风格、工具选择等。
  • 有效上下文窗口等于池中最小模型的窗口,新增小模型会降低所有请求的上限。
  • Claude模型需单独部署到同一Foundry账户并匹配SKU,否则无法被路由器选择。
展开章节目录区域扩展与模型池刷新

区域扩展与模型池刷新

微软近期将Foundry模型路由器从两个区域(East US 2和Sweden Central)扩展至28个全球标准部署和21个数据区域部署,并刷新了模型池。新增了Anthropic Claude Opus 4.8和GPT-5.6系列,同时移除了gpt-5-chat、gpt-5.2-chat、gpt-5.3-chat和DeepSeek-V3.1,因为这些模型已到达生命周期终点。

默认配置的团队无需重新部署即可自动接收更新,而配置了模型子集的团队则不会。这一差异在公告和文档中描述不同,公告强调自动交付,文档则提供了子集配置作为逃生舱。

自动更新与行为稳定性

Azure MVP Christos Panagiotidis指出,API稳定性和行为稳定性是两回事。新模型可能改变回答风格、工具选择行为、结构化输出可靠性、延迟分布、令牌使用、拒绝行为和失败模式。响应模式可能保持不变,但业务结果可能改变。

默认部署使用Balanced模式,覆盖全部支持集,因此工作负载现在有两个从未评估过的候选模型,四个可能使用的模型已消失,且没有部署或版本升级。文档中的子集配置可以排除新模型,但大多数团队不会修改此设置。

路由模式与上下文窗口限制

路由器有三种模式:Balanced(默认,优化成本同时保持质量)、Quality(针对关键工作,如法律审查、医疗摘要和复杂推理)和Cost(针对高容量分类和简单问答)。模式或子集更改最多需要五分钟。

微软此前发布的约束指出,有效上下文窗口等于池中最小模型的窗口,超大提示只有在路由器恰好选择能处理的模型时才能成功。因此,池中添加较小模型会降低所有请求的上限。此外,路由决策仅基于文本,视觉输入被接受但不影响模型选择,音频不支持。路由器还会在底层模型成本之上收取自己的输入提示费用。

Claude模型部署前提与治理

Anthropic模型有前提条件:Claude模型必须单独部署到同一Foundry账户并匹配SKU,路由器才能选择它们;在子集中引用而未部署会导致InvalidResourceProperties错误。Claude Opus 4.8加入支持列表并不意味着可直接访问。

微软将区域扩展框定为合规需求,要求推理请求必须保持在特定地理边界内。但材料未说明数据区域约束与池选择在候选模型不可用时的交互。路由器遵循内置的Azure Policy,在部署时强制执行,允许的发布者列表需包含微软和池中每个模型的发布者。

可信度边界

本文基于InfoQ的报道,信息来自微软公告和文档,以及Azure MVP的评论。部分细节(如模型池变化、区域数量)为来源声明,未经独立验证。

核心结论

Foundry模型路由器的自动更新虽然简化了运维,但可能引入行为变化,团队应评估子集配置和上下文窗口限制,以保持业务稳定性。

主报道

InfoQ AI/ML/Data Eng

主报道来源