阿里巴巴发布Qwen3.8-Flash-Next模型权重，预览Qwen4架构

阿里发布了 Qwen3.8-Flash-Next 的模型权重，并明确把它定位为即将推出的 Qwen4 架构的预览版，用途是让开发者实验和评估。这意味着当前放出的权重不是终局产品，而是架构方向的提前暴露：开发者现在能测到的东西，与 Qwen4 正式版本之间仍可能存在架构与参数上的差异，来源并未说明这种差异有多大。

NVIDIA 在同一时间给出了配套动作：通过 SGLang、vLLM 和 NVIDIA TensorRT LLM 提供尽力而为的 Day 0 功能支持，并在 NVIDIA GB300 NVL72 上完成推理验证。需要注意“尽力而为”这一限定——它不是完整生产级保证，而是发布当天的功能可用性承诺。

把这两件事放在一起看，本次发布的实质是：模型侧开放权重供评估，硬件与推理栈侧同步给出可跑通的路径。至于权重发布的具体许可条款、商用限制与开放程度，来源中没有说明。

Qwen3.8-Flash-Next 是一个多模态混合专家（MoE）模型。其主模型为 125B 参数，另有一个额外的 51B N-gram 嵌入，每个 token 激活 6B 参数。

这组数字决定了它的部署画像：总规模不小，但单 token 激活量很低，属于典型的稀疏激活设计。对推理侧而言，真正影响显存与算力占用的是激活路径，而 N-gram 嵌入作为独立组件存在，说明模型在词表或检索式记忆层面做了额外处理。

来源没有给出该模型在智能体编程等目标任务上的实际效果或基准分数，因此参数结构只能说明设计取向，不能直接换算成能力结论。

来源把长上下文推理的瓶颈说得很直接：随着上下文增长，注意力计算与 KV 缓存内存同时成为限制。Qwen3.8-Flash-Next 的应对方式是混合架构，把 Gated DeltaNet（GDN）与 Qwen Sparse Attention（QSA）组合起来。

分工是明确的：每四层中有三层使用 GDN，把历史上下文持续压缩为固定大小的循环状态，从而在序列变长时消除 KV 缓存的增长；剩余一层使用 QSA，在全上下文范围内做精确检索。这是一种“压缩为主、精确检索为辅”的层间交替设计。

QSA 本身针对的是此前稀疏注意力方案的一个痛点：以往依赖 token 级索引器，随着上下文变长，索引本身的计算开销越来越高。QSA 改为把序列聚合为微块（micro-block），在块级别估计重要性，只选择最相关的区域，从而降低每层内的注意力、计算与索引开销。来源认为这种设计特别适合 GDN 与 QSA 交替的架构。

需要区分清楚：以上是架构描述，属于已确认的模型设计事实；而它带来的效率收益有多大，则取决于下一节的厂商基准数字。

阿里公布的基准测试显示，相比全注意力，QSA 注意力内核在预填充阶段最高提速 7.6 倍，解码阶段最高提速 4.9 倍。另一项测试中，在 1M token 上下文长度、90% 前缀缓存命中率的缓存密集型在线服务场景下，Qwen3.8-Flash-Next 的预填充吞吐量达到 Qwen3.7-Plus 的 8.6 倍。

这些数字必须按来源属性来读：它们均由阿里公布，属于厂商自述的基准结果，未经第三方独立复现。来源本身也把它们表述为“阿里公布的基准测试显示”“阿里发布的基准测试表明”，而非独立验证结论。

因此合理的读法是：这些倍数说明架构在特定测试条件下具备显著效率潜力，但不能直接外推为任意部署环境下的实际表现。实际部署表现可能不同，这一点在来源的约束说明中也被明确列出。

另外要注意 8.6 倍这一数字的成立条件相当具体——1M token 上下文、90% 前缀缓存命中率、缓存密集型在线服务测试。脱离这些前提引用该倍数，会失真。

GB300 NVL72 采用机架级架构，把 72 块 NVIDIA Blackwell Ultra GPU 集成到单一平台，其 72-GPU NVLink 域可实现 130 TB/s 的全互联通信。来源强调这一带宽的意义在于消除专家流量跨传统网络时的瓶颈——对 MoE 模型而言，专家路由的通信开销正是关键约束。

在该平台上运行 Qwen3.8-Flash-Next，来源给出的表现是每 GPU 每秒超过 16K token、每用户每秒超过 200 token。这组数据来自 NVIDIA 自身博客，属厂商自述，同样缺少第三方验证。

除机架级部署外，模型还可运行在本地 NVIDIA 硬件上，包括 NVIDIA DGX Station、NVIDIA DGX Spark 集群，以及配备四块 NVIDIA RTX PRO 6000 Blackwell Max-Q 工作站版 GPU 的工作站。来源给出的使用路径是：在本地硬件上做原型与评估，再把同一模型扩展到 GB300 NVL72 做生产服务。

但本地硬件上的实际性能表现，来源并未量化。因此“本地原型、机架生产”是一条被描述的通路，而非被数据支撑的性能对比。

后训练方面，开发者可使用 NVIDIA NeMo AutoModel 进行微调，支持全量 SFT 或内存效率更高的 LoRA；进一步可用 NVIDIA NeMo RL 配方做强化学习。来源提到该库是 PyTorch 原生，具备 Day-0 Hugging Face checkpoint 支持，可直接在现有 checkpoint 上训练而无需模型转换。

推理侧，SGLang、vLLM 和 TokenSpeed 提供开源推理配方，供开发者在 NVIDIA 加速平台上部署该模型。获取渠道上，模型权重可从 Hugging Face 或 ModelScope 下载，可通过 NVIDIA NGC 上的无模型 NVIDIA NIM 部署，也可直接在 QwenCloud 上试用。

模型面向的是高并发、上下文密集型应用，来源列举的场景包括智能体编程、文档处理和工具驱动的工作流。这些是目标定位，来源并未给出这些场景下的实际效果数据。

本文全部依据 NVIDIA 开发者博客这一单一来源，缺少阿里官方发布说明或其他独立来源的交叉验证。QSA 的提速倍数与 8.6 倍预填充吞吐量均为阿里公布的基准结果，未经第三方独立复现；GB300 NVL72 的吞吐数据来自 NVIDIA 自身博客，属厂商自述。

该博客页面本身包含由 NVIDIA Nemotron 生成的 AI 摘要，页面明确提示 AI 生成内容可能总结不完整、重要信息需自行核实。这一点对引用其中的数字构成额外提醒。

尚未明确的事项包括：Qwen3.8-Flash-Next 与最终 Qwen4 正式版本在架构和参数上的差异；模型权重的具体许可条款、商用限制与开放程度；该模型与同期其他长上下文模型的横向对比数据。这些空白意味着，当前可下的判断仅限于“架构方向与部署路径已公开”，而非“性能已被独立证实”。