Meta扩大AI芯片规模以服务数十亿用户
Meta正在扩大其AI芯片的生产规模,以支持数十亿用户,旨在减少对外部供应商的依赖并提高运营效率。
Meta正在扩大其AI芯片的生产规模,以支持数十亿用户,旨在减少对外部供应商的依赖并提高运营效率。
SynthePulse Insight · AI 深度解读
版本 1 · 1 个来源
Meta在不到两年内推出了从MTIA 300到500的四代定制AI芯片,通过快速迭代和模块化设计,试图在AI模型快速演进的背景下保持硬件竞争力。
Meta在官方博客中承认,AI模型演进速度超过传统芯片开发周期——芯片设计基于预测的工作负载,但两年后量产时工作负载可能已发生重大变化。为此,Meta采取迭代方法:每一代MTIA基于前一代构建,使用模块化芯粒,缩短部署周期。
MTIA系列包括MTIA 300(已用于排序推荐训练)、MTIA 400(面向GenAI和排序推荐,性能对标商用产品)、MTIA 450(针对GenAI推理优化,HBM带宽翻倍)和MTIA 500(HBM带宽再增50%)。这些芯片已在2026-2027年部署或计划部署。
Meta表示,MTIA是与其AI基础设施战略的重要组成部分,但强调仍保持多元化硅片组合,同时利用内部和外部最佳解决方案。
根据Meta公布的数据,从MTIA 300到500,HBM带宽提升4.5倍,计算FLOPS提升25倍(从MTIA 300的MX8到MTIA 500的MX4)。MTIA 450的HBM带宽“远高于现有领先商用产品”,并引入硬件加速缓解Softmax和FlashAttention瓶颈。
MTIA 450支持混合低精度计算,无需软件开销进行数据类型转换,并引入自定义数据类型以保持模型质量并提升FLOPS。MTIA 500在450基础上进一步创新低精度数据类型。
MTIA 400是首款在原始性能上可与领先商用产品竞争的MTIA芯片,已完成实验室测试,正在部署至数据中心。MTIA 300则被描述为“成本效益型”产品。
Meta已部署数十万颗MTIA芯片,并接入多个内部生产模型,包括用Llama等大语言模型进行测试。MTIA 300最初为排序推荐推理优化,现已用于排序推荐训练;MTIA 400扩展至生成式AI工作负载;MTIA 450和500则专门针对GenAI推理优化。
MTIA 400采用72加速器规模域,通过交换背板连接。MTIA 450计划2027年初大规模部署,MTIA 500计划2027年部署。
Meta强调,MTIA芯片与Broadcom合作开发,并已发表两篇ISCA论文(2023和2025年)公开前两代架构细节。
本文信息全部来自Meta官方博客,属于第一方来源。所有性能数据和部署计划均为Meta自称,未经独立第三方验证。芯片具体性能对比(如“远高于领先商用产品”)为Meta自身声明。
Meta通过快速迭代MTIA芯片(四年五代),试图在AI模型快速演进的背景下保持硬件竞争力,但所有性能数据和部署时间表均来自Meta自身,需独立验证。
主报道
主报道来源