返回信息流
新闻事件
A重点79
Latent Space
1 个来源

Thinky发布975B多模态开源模型

Thinky发布了其首个完整的大型语言模型Inkling,拥有975B参数和Apache 2.0开源许可,同时推出了较小的276B参数版本。这一举措标志着AI开源领域的重大贡献。

SynthePulse Insight · AI 深度解读

Inkling 发布:美国开源模型的新基线,而非新巅峰

版本 2 · 1 个来源

Thinky 发布首个开源大模型 Inkling,975B 总参数、41B 激活参数,Apache 2.0 许可,成为美国开源模型的新标杆,但官方明确表示这是第一天发布,而非最终前沿。

  • Inkling 总参数 975B,激活参数 41B,Apache 2.0 许可,支持 1M 上下文(开源权重)和 256K(API)。
  • 训练数据量约 45T 令牌,涵盖文本、图像、音频和视频。
  • 架构创新包括混合注意力(5:1 局部-全局层比,窗口 512)、相对位置编码替代 RoPE、短卷积层、2 个共享专家的 MoE。
  • Artificial Analysis 智能指数 41,为美国开源模型最高,但落后于中国顶级开源模型和最佳闭源模型。
  • 发布首日获得 vLLM、SGLang、Modal、Baseten、Databricks、Hugging Face 等生态支持。
展开章节目录发布定位:实用基线而非 SOTA

发布定位:实用基线而非 SOTA

Thinky 今日发布其首个全尺寸开源模型 Inkling,官方明确表示这不是一个 SOTA 模型,而是作为美国开源模型的实用基线。公司员工反复强调这是第一天发布,是未来迭代的基础,而非最终前沿。

Inkling 是一个多模态 MoE 模型,总参数 975B,激活参数 41B,采用 Apache 2.0 许可。它支持文本、图像和音频输入,文本输出,开源权重支持 1M 上下文,API 支持 256K。

Inkling-Small 作为预览版发布,总参数 276B,激活参数 12B,采用类似训练配方,性能在多项评估中意外地具有竞争力。

架构创新:社区解读的亮点

社区技术解读揭示了多项架构选择:混合注意力机制,局部-全局层比为 5:1,窗口大小 512;使用相对位置编码/相对注意力偏置替代 RoPE,被多位评论者称为大规模模型中最新颖的选择之一。

在注意力/FFN 流周围添加短卷积层,MoE 使用 2 个共享专家(而非常见的 1 个),并采用无辅助损失负载均衡。优化器方面,社区推断使用 muP 和 MuonC/AdamC,后者得到优化器专家 Aaron Defazio 的确认。

这些架构细节来自社区技术解读,未经官方确认,但多位技术专家一致指出其创新性。

性能基准:美国开源最佳,但非全球领先

第三方基准显示,Inkling 在 Artificial Analysis 智能指数上得分为 41,为美国开源模型最高,领先于 Nemotron 3 Ultra(38)、Gemma 4 31B(29)和 gpt-oss-120b(24)。

在 Design Arena 的 Agentic Web App Arena 中,Inkling 排名第 9,Elo 1257,与 Claude Opus 4.6 和 Gemini 3.5 Flash 同档,是排名最高的美国开源模型。

具体基准上,GDPval-AA v2 Elo 1238,高于 Kimi K2.6(1190)和 DeepSeek v4 Flash max(1189);τ³-Banking 24%,高于 Kimi K2.6(21%)和 DeepSeek v4 Flash max(23%)。但独立评论者指出,它仍落后于 GLM 5.2 和 Kimi K2.6 等中国模型。

生态支持与发布细节

发布首日即获得 vLLM、SGLang、Modal、Baseten、Databricks、Hugging Face 等广泛生态支持,包括量化工具和社区工具。

训练从去年冬天开始,从一月中旬起由小团队构建编码、推理和智能体训练。模型支持可控推理努力级别,用户反馈其推理简洁、工具调用强。

训练数据量为 45T 令牌(部分来源称 48T),涵盖文本、图像、音频和视频。

可信度边界

本报道基于 Latent Space 的 AINews 汇总,其中包含官方推文和第三方评论。模型规格和许可为官方确认,但架构细节和部分基准数据来自社区解读或第三方机构,未经官方独立验证。训练令牌数存在 45T 和 48T 两种说法,总参数也有 974B 和 952B 的报道,但主流为 975B。

核心结论

Inkling 的发布标志着美国开源模型达到新高度,但官方定位为实用基线,其架构创新和生态支持是主要亮点,性能上仍落后于中国顶级开源模型和最佳闭源模型。

主报道

Latent Space

主报道来源