返回信息流
新闻事件
钛媒体AGI
3 个来源

Alphabet 将 Gemini 直接集成到芯片中

Alphabet 宣布将 Gemini AI 模型直接嵌入其定制 TPU 芯片,使推理效率比现有 TPU 提升 6 至 10 倍。此举旨在通过硬件优化加速 AI 计算,巩固其在 AI 基础设施领域的竞争力。

SynthePulse Insight · AI 深度解读

Google Frozen v2:将Gemini架构固化进硅片,AI推理效率或提升6-10倍

版本 1 · 1 个来源

Google正在开发一款名为Frozen v2的新型服务器芯片,将Gemini模型架构直接嵌入硬件,而非仅固化权重。据称其AI推理效率可达当前TPU的6至10倍,计划2028年部署,但产量较小,主要服务于内部算力瓶颈。

  • Frozen v2将Gemini模型架构(而非权重)固化到芯片中,可加载新权重,但架构固定后仅适用于该系列模型。
  • 据The Information援引消息人士称,该芯片AI推理效率比当前TPU高6至10倍,计划2028年部署。
  • 与可适配多种模型的TPU不同,Frozen v2专为Gemini架构设计,不对外销售,主要缓解Google内部AI算力压力。
  • 若效率兑现,Google可大幅降低推理成本,在价格上对OpenAI和Anthropic形成竞争优势。
  • 最初方案(Frozen v1)由Jeff Dean提出,计划固化权重,但因仅适配单一Gemini版本且过时快而被放弃。
  • Frozen v2的架构固化程度尚未最终确定,且产量小于TPU系列,被视为专用芯片的试验。
展开章节目录从固化权重到固化架构:Frozen v2的设计演进

从固化权重到固化架构:Frozen v2的设计演进

据The Information报道,Google正在开发一款内部代号为Frozen v2的服务器芯片,其核心创新是将Gemini AI模型的架构直接嵌入硅片。与Google现有的TPU不同——TPU可适配多种模型——Frozen v2将模型的部分结构永久固化在芯片中,从而减少计算步骤、加快响应速度。

这一思路源自Google DeepMind首席科学家Jeff Dean。最初的Frozen设计(Frozen v1)计划将模型权重(即决定AI模型如何响应查询的具体设置)直接嵌入芯片。但该方案因芯片仅能适配单一Gemini版本、过时过快而被放弃。Frozen v2转而固化模型架构(即底层蓝图),而非权重,因此仍可加载新权重。不过,据The Information报道,具体有多少架构将被硬编码尚未最终确定。

效率承诺与部署时间表

据The Information援引消息人士称,Frozen v2在AI推理效率上可比Google当前TPU芯片高出6至10倍。Google计划从2028年开始部署该芯片。由于Frozen v2仅适用于Gemini架构,且产量小于TPU系列,Google将其视为专用芯片的试验,而非面向外部客户的产品。

Google目前通过TPU@Premises等项目向外部云客户提供TPU,并设定了占据Nvidia年收入10%的内部目标。而Frozen v2主要旨在缓解Google内部AI算力瓶颈。

竞争影响:推理成本优势或重塑市场格局

在AI业务中,推理成本的优化程度日益决定利润率。若Frozen v2兑现效率承诺,Google可以更低价格运行强大模型,从而从OpenAI和Anthropic手中夺取市场份额。该芯片有望大幅降低Google的AI推理成本,为公司带来价格优势。

然而,Frozen v2的架构固化程度尚未确定,且其成功依赖于Google长期坚持Gemini架构。若未来模型架构发生重大变化,该芯片可能迅速过时。

可信度边界

本文核心信息源自The Information的报道,THE DECODER进行了转载。所有关于效率提升倍数、部署时间、设计细节等均来自匿名消息人士,属于source_claim层级,尚未得到Google官方确认。

核心结论

Google Frozen v2通过将Gemini架构固化到芯片中,有望在AI推理效率上实现6-10倍提升,但该芯片产量小、不对外销售,且架构固化程度未定。若成功,将显著降低Google推理成本,增强其对OpenAI和Anthropic的竞争力。