OpenAI推出Ultrafast模式,GPT-5.6 Sol提速14倍
OpenAI发布了Ultrafast预览版,使GPT-5.6 Sol的推理速度达到每秒750个token,比标准处理快14倍,且智能水平不变。该模式由Cerebras晶圆级引擎驱动,将模型权重放入芯片SRAM以绕过显存瓶颈。同时,ChatGPT桌面版新增Computer History功能,记录用户操作以提供上下文记忆。
OpenAI发布了Ultrafast预览版,使GPT-5.6 Sol的推理速度达到每秒750个token,比标准处理快14倍,且智能水平不变。该模式由Cerebras晶圆级引擎驱动,将模型权重放入芯片SRAM以绕过显存瓶颈。同时,ChatGPT桌面版新增Computer History功能,记录用户操作以提供上下文记忆。
SynthePulse Insight · AI 深度解读
版本 1 · 1 个来源
OpenAI发布Ultrafast预览版,GPT-5.6 Sol在Cerebras晶圆级引擎上跑到每秒750 token、最高14倍于标准处理;同日ChatGPT桌面版上线Computer History。速度竞赛正在从模型能力表里的一行参数,变成各家独立的产品档位。
OpenAI在同一天放出两个动作:一是Ultrafast预览版,GPT-5.6 Sol跑在这个新档位下,最高比标准处理快14倍,每秒输出750 token;二是ChatGPT桌面版的Computer History功能。前者是速度档位,后者是记忆输入源,价格均未公布。
Ultrafast的定位是"慢一步就晚一步"的任务。据源文描述,OpenAI内部场景包括系统报警时同步读日志、比对代码改动、梳理告警对话;市场信号跳动时同步分析交易记录、挑出可疑动作;用户在购物车前犹豫时同步答产品问题、查库存、给推荐。这些是OpenAI给出的使用场景,而非第三方验证的基准结果。
早期用户给出了正面评价:金融研究AI公司Rogo的应用AI负责人Alex Wang形容它"感觉像是在跟一个人实时对话";AI客服平台Podium的语音AI产品负责人Courtland Lykins说,Ultrafast能让客服处理棘手难题时通话不被打断去等模型转圈。这些属于用户主观反馈。
这次提速有一个关键前提:据源文,模型的智能水平一点没变,变的只是跑它的硬件和调度方式。不少厂商做快速版,实际是把大模型换成参数更小、能力打折的版本,用智能换速度;而Ultrafast跑的依然是最高档的GPT-5.6 Sol。
支撑速度的是Cerebras的晶圆级引擎:模型权重直接放进芯片上44GB的SRAM里,不用像传统GPU那样反复从显存搬运数据,从而绕开显存带宽这道长期卡住推理速度的瓶颈。这是源文给出的技术解释。
两家关系早有铺垫:据源文,OpenAI和Cerebras今年年初已签一份多年协议,计划部署750MW规模的晶圆级系统,协议总值超过100亿美元,Ultrafast是这份协议里一份看得见的产出。协议金额与部署规模均为源文转述,未见第一方原文佐证。
ChatGPT原本的记忆功能叫Memories,记的是你在对话里主动告诉它的事——喜欢什么风格、在做什么项目、上次聊过什么。Computer History给它多开了一路输入源,记录点击、打字、快捷键、应用切换这些交互事件,不用你专门开口交代。
它脱胎于4月上线的研究预览版Chronicle,这次算是一次重构。实际问法像日程对话,比如"我上次休息前在做什么""我今天早些时候找的那份提案文档在哪""帮我列一下我今天做过的任务和进度"。打开设置里的历史记录页,时间线按天按时间分组,每条记录带一句摘要、标出参与的应用,还能一键在Finder里找到对应的记忆文件或直接删掉。
隐私处理上,源文称它不截屏、不录音、也不录系统音频;临时抓取的事件文件最多在本地保留48小时,OpenAI服务器处理完之后不留存这些原始数据,也不会拿去训练模型,最终生成的记忆文件保存成本地的Markdown文本。用户能在菜单栏或设置里随时暂停收集,也能把某些应用或网站排除在外。碰上重复出现的工作流程,它能存成skill,比如连续几天整理发布通稿,它会问要不要把这套步骤存成一个能直接调用的技能。
过去半年,几家头部模型厂几乎同时把"更快"做成了一条独立的产品线,不再只是模型能力表格里的一个参数。据源文,Anthropic今年5月上线Fast Mode,在结构清晰的提示词下把响应时间的中位数从2.8秒压到1.2秒;Google给实时交互场景准备了Gemini Flash Live;xAI给Grok单独开了一个fast端点。
芯片这一层的竞争更直接。据源文,Cerebras在中小模型上能跑到每秒3000个token;Groq的强项是稳定的低延迟;SambaNova走的是另一条路,单次请求不一定最快,但高并发场景下同时服务的人多了反而更稳,总吞吐量常常反超前两家。
国内厂商也在多条路径上推进:字节跳动的豆包系列靠自建火山引擎推理基础设施,主打延迟在主流平台里偏低;阿里的Qwen-Turbo从一开始定位就是超快、超长上下文、低成本,专门给高并发场景用;小米的MiMo-V2.5-Pro-UltraSpeed靠FP4量化加投机解码,在普通8卡通用GPU上把万亿参数模型的生成速度推到每秒1000个token以上;月之暗面的Kimi K3用KDA混合线性注意力架构,解码速度号称比常规架构快6.3倍。这些数字均来自源文转述,属厂商宣称口径。
已确认的是产品动作本身:OpenAI官宣Ultrafast预览版,同日ChatGPT桌面版上线Computer History。14倍、750 token/秒、44GB SRAM、750MW、超100亿美元、48小时本地保留等具体数字,均来自量子位这篇报道的转述,其中协议金额与部署规模未见第一方原文,宜按源文口径理解。
需要保留的疑问有几处:Ultrafast的价格未公布;14倍与750 token/秒是"最高"口径,源文未给出测试条件、任务类型或对照基准;早期用户评价来自合作方人士,属主观反馈;Computer History的隐私承诺(不留存原始数据、不用于训练)是OpenAI方面的说法,源文未提供独立审计。
一个可观察的判断是:当Anthropic、Google、xAI、字节、阿里、小米、月之暗面都在同一时间窗口推出速度档位或提速方案,"快"已从差异化优势变成入场门槛。Ultrafast能否兑现"智能不缩水"的承诺,取决于Cerebras产能与调度能否在真实负载下稳定复现,这一点目前只有预览版和用户口碑,尚无公开基准。此为基于源文的推断。
本文全部事实来自量子位一篇报道,属二手转述。OpenAI与Cerebras的协议金额、部署规模、Ultrafast性能数字、Computer History隐私处理方式均为源文口径,未见第一方原文或独立验证;国内厂商速度数字为厂商宣称。读者宜将性能与隐私承诺视为待验证声明。
OpenAI用Cerebras晶圆级引擎把GPT-5.6 Sol推到每秒750 token、最高14倍,同时用Computer History扩展记忆输入源;但价格、基准条件与隐私承诺均未获独立验证。更值得关注的是行业信号:速度已从模型能力表里的一行参数,变成各家独立的产品档位,竞争焦点正从"谁更聪明"转向"谁更快且不缩水"。
二级报道
该文章还报道了这一事件,文章总标题不代表本事件标题。