返回信息流
新闻事件
InfoQ
3 个来源

大模型推理也能"智能调度":让奖励模型按需分配算力的动态路由机制 | ACL 2026

生成式奖励模型(GRM)通过思维链(CoT)提升奖励信号质量,但固定推理策略导致简单与复杂样本消耗相同算力,造成浪费。该研究提出动态路由机制,按需分配算力,从而提高推理效率。

SynthePulse Insight · AI 深度解读

算力效率的三种解法:动态路由、无英伟达万亿模型与Token工厂IPO

版本 1 · 3 个来源

从GRM动态路由到Owl Alpha万亿模型,再到硅基流动的算力生意,AI行业正从堆算力转向算力效率的精细化运营。

  • 生成式奖励模型(GRM)的思维链推理存在算力浪费,动态路由机制按样本难度分配计算资源,可提升效率。
  • Owl Alpha是首个完全不含英伟达GPU的万亿参数模型,在OpenRouter上受到海外开发者欢迎。
  • 硅基流动成立两年收入增长九千倍,已向港交所递交上市申请,其算力生意高速增长但面临重负。
展开章节目录GRM的动态路由:按需分配算力

GRM的动态路由:按需分配算力

生成式奖励模型(GRM)通过思维链(CoT)提升了奖励信号质量,但其“一刀切”的推理策略导致简单样本与复杂样本消耗相同计算资源,造成浪费。据InfoQ报道,研究者提出了动态路由机制,旨在根据样本难度动态分配算力。

该机制的具体实现细节和效果评估在来源中未详细说明,但核心思路是避免对简单样本过度计算,从而提升整体推理效率。

Owl Alpha:无英伟达的万亿模型

据量子位报道,Owl Alpha是全球首个完全不含英伟达GPU的万亿参数模型,已在OpenRouter上架并受到海外开发者社区的欢迎。

该模型的训练和推理硬件细节、性能基准等关键信息在来源中未提供,但其“零英伟达”特性在依赖英伟达生态的行业中具有标志性意义。

硅基流动:算力生意的增长与重负

硅基流动作为算力服务商,成立两年收入增长九千倍,已向港交所递交上市申请。据极客公园报道,其算力生意在高速增长的同时也面临重负。

具体增长数据、业务模式及面临的挑战在来源中未详细展开,但“Token工厂”的定位表明其核心业务是提供算力服务。

可信度边界

本文基于三篇媒体报道,信息主要来自二手来源,部分细节(如动态路由的具体效果、Owl Alpha的基准测试、硅基流动的财务数据)未在来源中明确,需谨慎对待。

核心结论

AI行业正从单纯追求模型规模转向算力效率优化,动态路由、替代硬件方案和算力服务商业化是三个值得关注的趋势。