DeepTech深科技
1 个来源强化学习之父Sutton最新访谈：合成数据是巨大错误，大模型只完成了四分之一的智能
红杉资本播客《Training Data》发布了对强化学习奠基人Rich Sutton的访谈。Sutton批评合成数据是巨大错误，认为大模型只覆盖了智能的四分之一，并宣布成立Oak Lab推动持续学习技术。
返回信息流
新闻事件
SynthePulse Insight · AI 深度解读会员精读
Sutton 访谈：合成数据是巨大错误，持续学习才是智能的下一站
版本 1 · 1 个来源
强化学习之父 Rich Sutton 在红杉资本播客中直言，合成数据是巨大错误，大模型只完成了智能的四分之一。他正通过新创公司 Oak Lab 押注持续学习，试图让 AI 在部署后仍能实时更新认知。
- Sutton 认为，部署后便停止改变的模型不算是完整的智能系统，大模型主要解决了语言能力，只覆盖智能的一部分。
- Sutton 将合成数据称为“巨大的错误”，认为它扩大了数据规模，却没有改变 AI 依赖外部数据生产者的基本方式。
- Khurram Javed 等人在《Nature》发表的研究显示，标准深度学习模型在接连学习新任务时，吸收新知识的能力会逐渐下降，即“可塑性损失”。
展开章节目录静态模型的局限：知识不等于学习
静态模型的局限：知识不等于学习
在 8 月 18 日红杉资本旗下播客《Training Data》的访谈中，Sutton 指出，当前大模型的能力大多在上线前形成，参数基本固定，即使每天接触大量新信息，也不会像人一样转化为长期能力。他认为，这种静态范式混淆了知识与学习的边界。
Sutton 强调，上下文只是暂时改变模型当前能看到的信息，模型内部的知识结构并未更新，对话结束或窗口清空后，信息可能随之消失。尽管产品端可能给人“正在学习”的感觉，但如果模型权重没有变化，它只是利用当前信息推理，并未形成长期保留的新认识。
可信度边界
本文信息主要来自红杉资本旗下播客《Training Data》的访谈内容，由 DeepTech深科技 报道。访谈中 Sutton 和 Khurram Javed 的观点为直接引述，但部分技术细节（如“持续反向传播”算法）来自团队表述，未经独立验证。关于 Oak Lab 的目标和摩尔定律估算属于公司声明或推断，需谨慎对待。
主报道
DeepTech深科技
主报道来源