返回信息流
新闻事件
Artificial Analysis (X)
1 个来源

DeepSeek V4.1 Flash 加入 AA-AgentPerf 基准测试,NVIDIA 和 AMD 硬件结果公布

Artificial Analysis 将 DeepSeek V4.1 Flash 加入其 AA-AgentPerf 代理推理性能基准测试,并公布了在 NVIDIA 和 AMD 硬件上的初步结果。该模型在 Artificial Analysis 智能指数上得分 39,且可运行在少至 2 块 GPU 上,服务效率更高。在每用户 100 tokens/s 的条件下,NVIDIA GB300 以每兆瓦高达 2.61 亿 tokens/s 的吞吐量领先。

SynthePulse Insight · AI 深度解读

DeepSeek V4.1 Flash 登上 AA-AgentPerf:一份自报基准能说明什么

版本 1 · 1 个来源

Artificial Analysis 把 DeepSeek V4.1 Flash 纳入其智能体推理基准 AA-AgentPerf,并给出 NVIDIA 与 AMD 硬件的首批吞吐与单智能体输出速度结果。数字本身很整齐,但全部来自同一家机构的自建基准,且模型架构说明没有第一方出处——这决定了我们该把它读成什么。

  • Artificial Analysis 已将 DeepSeek V4.1 Flash 加入 AA-AgentPerf,并公布 NVIDIA 与 AMD 硬件结果。
  • 在每用户 100 tokens/s 条件下,GB300 以约 261M tokens/s 每兆瓦居首,其后为 B300(约 220M)、B200(约 193M)、GB200(约 178M)、MI355X(约 128M)。
  • 所有 Blackwell 系统与 MI355X 在单智能体(批大小为 1)下可达约 600 至 670 tokens/s,H100 与 H200 为 372 至 392 tokens/s。
  • V4.1 Flash 最少可在 2 块 GPU 上运行,因此 B300 这类 8 卡单节点与机架级 GB300 NVL72 的差距保持在约 20% 以内。
  • 该模型在 Intelligence Index 得 39,高于 V4 Pro 0813 的 36,参数规模约为后者三分之一。
  • 所有数据均为该机构自报,无第三方独立验证,且架构描述非 DeepSeek 官方文档。
展开章节目录一个被放进榜单的新模型,和一份需要先看清出处的成绩单

一个被放进榜单的新模型,和一份需要先看清出处的成绩单

Artificial Analysis 宣布已将 DeepSeek V4.1 Flash 纳入其智能体推理性能基准 AA-AgentPerf,并同时给出该模型在 NVIDIA 与 AMD 硬件上的结果。这是本次事件中唯一可以当作既成事实的部分:模型被加入榜单、结果被公布。

但接下来的所有数字,性质都不同。它们出自 Artificial Analysis 自建的基准,属于该机构的自报结果,来源中没有出现任何第三方独立验证。AA-AgentPerf 本身也被描述为通过回放真实智能体编程会话(含提示缓存与工具调用延迟)来模拟日常智能体负载——这是对方法的说明,不是对生产环境表现的保证。

因此本文的处理方式是:把“谁公布了什么”当作事实,把“数字是多少”当作该机构的说法,把“这些数字意味着什么”当作需要标注的推断。

吞吐量榜单:GB300 第一,但排序本身有前提

在每用户 100 tokens/s 这一条件下,Artificial Analysis 给出的吞吐量排序是:GB300 约 261M tokens/s 每兆瓦,B300 约 220M,B200 约 193M,GB200 约 178M,MI355X 约 128M。GB300 位列第一。

这个排序有两个必须一起读的前提。第一,指标以每兆瓦运行时功耗归一化,也就是把吞吐量除以功耗,而功耗测量口径来自该机构自身,来源未披露具体测量方式。第二,条件被限定在每用户 100 tokens/s,换一个并发或速度目标,排序未必保持。

AMD 侧只出现了 MI355X 一项结果,其他 AMD 硬件的表现来源中没有给出,因此这份榜单在 AMD 维度上只能算一个点,不是一条线。

单智能体速度:Blackwell 与 MI355X 落在同一档,H100/H200 明显更低

在批大小为 1、也就是单个智能体的条件下,所有 Blackwell 系统与 MI355X 都能达到约 600 至 670 tokens/s 的输出速度;H100 与 H200 则为 372 至 392 tokens/s。

这组数字与上一节的吞吐量排序讲的是两件事。吞吐量衡量的是系统利用率,单智能体速度衡量的是单个用户的体验,该基准同时测量两者,正是为了展示“系统利用率与个体用户体验之间的权衡”。

需要注意的是,600 至 670 是一个区间,覆盖了多个不同系统,来源没有给出各系统在这条区间上的具体位置,因此不能据此判断 Blackwell 各型号之间在单智能体速度上存在差异。

2 块 GPU 就能跑:这条架构事实如何改变了硬件对比

Artificial Analysis 称 V4.1 Flash 最少可在 2 块 GPU 上运行。它由此得出的推论是:机架级系统相对 B300 这类 8 卡单节点的优势会变小。

支撑这一推论的具体数据是:B300 在整条曲线上与机架级 GB300 NVL72 的差距保持在约 20% 以内,并在两端领先。换句话说,在这款模型上,为机架级付出的溢价换来的差距被压缩到了两成以内——这是该机构的说法,且“约 20%”是近似值,精确数值来源未给出。

这里存在一个容易被跳过的因果环节:模型能在更少 GPU 上运行,是硬件对比格局变化的原因。这个因果链来自该机构的表述,而非独立验证的结论。

效率从哪来:一份没有第一方出处的架构说明

该机构给出的背景说明称,V4.1 Flash 在 Intelligence Index 上得 39,高于此前的 V4 Pro 0813 的 36,而参数规模约为后者的三分之一:552B“骨干”参数与 16B 激活参数,对比后者的 1.6T 与 49B。

架构上,它被描述为采用新的因果编码器-解码器设计,每个输入 token 激活 8B 参数、每个输出 token 激活 16B 参数;另使用 196B 参数的 Engram n-gram 记忆,可放在主机内存而非加速器上;其压缩稀疏注意力所需的每 token KV 缓存约为更早的 V4 Flash 模型的四分之一。

这些描述是 Artificial Analysis 的背景说明,不是 DeepSeek 官方技术文档。来源中没有给出模型权重、架构细节或官方规格的第一方出处。因此“参数规模”“激活参数”“KV 缓存约为四分之一”这些数字,只能按该机构的说法来读,不能当作已确认的模型规格。

效率如何被折算成吞吐:1.3 倍到 6.2 倍的跨度

该机构称,这些设计使 V4.1 Flash 更易于服务:权重可放在更少的 GPU 上,更小的 KV 缓存则为每块 GPU 容纳更多并发智能体留出空间。

折算成数字,在每用户 100 tokens/s 条件下,V4.1 Flash 相比其更大的同门模型 V4 Pro 0813,每兆瓦吞吐量提升约 1.3 倍(GB300)至约 6.2 倍(B200)。

这个跨度值得停一下:同一款模型对同一个对照模型,在不同硬件上的提升倍数从 1.3 倍到 6.2 倍,相差近五倍。来源没有解释这一差异的原因。在缺少解释的情况下,把“约 6.2 倍”当作该模型的普遍效率特征,是超出证据的读法;更稳妥的理解是,提升幅度高度依赖所搭配的硬件。

这份成绩单的边界

把上述内容合起来看,可以确认的是:V4.1 Flash 被加入了 AA-AgentPerf,榜单因此共有四个特色模型,另外三个是 DeepSeek V4 Pro 0813、Kimi K3 和 GLM-5.2/5.3;该机构表示会随新的热门开源模型发布调整特色模型,并会对未来重大发布提供 day-0 结果。

不能确认的则更多。AA-AgentPerf 的具体测试方法、样本量与统计误差来源未披露;结果基于回放会话的模拟负载,未必等同于生产环境;功耗归一化依赖该机构自身的测量口径;结果是否可复现、是否随时间和配置变化,来源均未说明。

因此,这份数据的合理用途是比较同一基准内部的相对位置,而不是把它当作对 V4.1 Flash 服务成本的独立结论。

可信度边界

本文全部事实来自 Artificial Analysis 在 X 上发布的一条帖子(2026 年 10 月 14 日),属单一来源、该机构自建基准的自报结果,无第三方独立验证。其中“已加入 AA-AgentPerf”可视为已确认事实;所有吞吐量、输出速度、Intelligence Index 得分、参数规模与架构描述均为该机构的说法(source_claim),其中架构与效率说明并非 DeepSeek 官方技术文档。文中对因果关系的表述(如“2 块 GPU 可运行导致机架级优势变小”)已标注为来源推论。

核心结论

V4.1 Flash 进入 AA-AgentPerf 后,最值得记住的不是 GB300 的 261M tokens/s 每兆瓦这个数字,而是它背后的条件:单一机构自建基准、自报功耗口径、模拟负载,以及一份没有第一方出处的架构说明。真正有信息量的是两个结构性观察——模型最少可在 2 块 GPU 上运行,使 B300 与机架级 GB300 NVL72 的差距被压到约 20% 以内;以及相对 V4 Pro 0813 的吞吐提升在不同硬件上从约 1.3 倍跨到约 6.2 倍,跨度之大本身说明效率收益高度依赖部署配置。

主报道

Artificial Analysis (X)

主报道来源