Alphabet 将 Gemini 直接集成到芯片中
Alphabet 宣布将 Gemini AI 模型直接嵌入其定制 TPU 芯片,使推理效率比现有 TPU 提升 6 至 10 倍。此举旨在通过硬件优化加速 AI 计算,巩固其在 AI 基础设施领域的竞争力。
Alphabet 宣布将 Gemini AI 模型直接嵌入其定制 TPU 芯片,使推理效率比现有 TPU 提升 6 至 10 倍。此举旨在通过硬件优化加速 AI 计算,巩固其在 AI 基础设施领域的竞争力。
SynthePulse Insight · AI 深度解读
版本 1 · 1 个来源
Google正在开发一款名为Frozen v2的新型服务器芯片,将Gemini模型架构直接嵌入硬件,而非仅固化权重。据称其AI推理效率可达当前TPU的6至10倍,计划2028年部署,但产量较小,主要服务于内部算力瓶颈。
据The Information报道,Google正在开发一款内部代号为Frozen v2的服务器芯片,其核心创新是将Gemini AI模型的架构直接嵌入硅片。与Google现有的TPU不同——TPU可适配多种模型——Frozen v2将模型的部分结构永久固化在芯片中,从而减少计算步骤、加快响应速度。
这一思路源自Google DeepMind首席科学家Jeff Dean。最初的Frozen设计(Frozen v1)计划将模型权重(即决定AI模型如何响应查询的具体设置)直接嵌入芯片。但该方案因芯片仅能适配单一Gemini版本、过时过快而被放弃。Frozen v2转而固化模型架构(即底层蓝图),而非权重,因此仍可加载新权重。不过,据The Information报道,具体有多少架构将被硬编码尚未最终确定。
据The Information援引消息人士称,Frozen v2在AI推理效率上可比Google当前TPU芯片高出6至10倍。Google计划从2028年开始部署该芯片。由于Frozen v2仅适用于Gemini架构,且产量小于TPU系列,Google将其视为专用芯片的试验,而非面向外部客户的产品。
Google目前通过TPU@Premises等项目向外部云客户提供TPU,并设定了占据Nvidia年收入10%的内部目标。而Frozen v2主要旨在缓解Google内部AI算力瓶颈。
在AI业务中,推理成本的优化程度日益决定利润率。若Frozen v2兑现效率承诺,Google可以更低价格运行强大模型,从而从OpenAI和Anthropic手中夺取市场份额。该芯片有望大幅降低Google的AI推理成本,为公司带来价格优势。
然而,Frozen v2的架构固化程度尚未确定,且其成功依赖于Google长期坚持Gemini架构。若未来模型架构发生重大变化,该芯片可能迅速过时。
本文核心信息源自The Information的报道,THE DECODER进行了转载。所有关于效率提升倍数、部署时间、设计细节等均来自匿名消息人士,属于source_claim层级,尚未得到Google官方确认。
Google Frozen v2通过将Gemini架构固化到芯片中,有望在AI推理效率上实现6-10倍提升,但该芯片产量小、不对外销售,且架构固化程度未定。若成功,将显著降低Google推理成本,增强其对OpenAI和Anthropic的竞争力。
主报道
主报道来源
另有 2 个来源报道