前OpenAI研究员推出Jev,称Jev出现前AI世界是悲剧
前OpenAI研究员、TypeSafe CEO Diogo Almeida在播客中批评当前AI如Claude Code和Codex仍停留在辅助阶段,并推出Jev。Jev通过面向校准决策的强化学习(RLCD)让模型输出可直接被代码使用的选择、评分和概率,旨在使AI成为像数据库一样的基础设施。
前OpenAI研究员、TypeSafe CEO Diogo Almeida在播客中批评当前AI如Claude Code和Codex仍停留在辅助阶段,并推出Jev。Jev通过面向校准决策的强化学习(RLCD)让模型输出可直接被代码使用的选择、评分和概率,旨在使AI成为像数据库一样的基础设施。
SynthePulse Insight · AI 深度解读
版本 1 · 1 个来源
前 OpenAI 研究者 Diogo Almeida 发布 Jev,主张用 RLCD 取代 RLHF 的优化目标,让模型输出选择、评分和概率供代码直接调用。这是一次产品发布,也是一次对“AI 作为软件依赖”边界的重新划线。
9 月 22 日,TypeSafe CEO、Jev 创始人 Diogo Almeida 做客 Latent Space 播客,谈他刚发布的 Jev。他称这次发布“某种程度上确实就是”一次低调的研究预览,并说目前最准确的称呼是 System 1 模型,也可以叫机器原生模型或大型可编程模型。他给出的定义是:这类模型的目标在于让代码成为模型输出的直接使用者。
Almeida 的背景是曾参与 OpenAI InstructGPT 工作。他把 Jev 与 Claude Code、Codex 区分开:在他看来,Claude Code 与 Codex 本质上仍属于同一个阶段,AI 的主要角色仍然是围绕人提供辅助,而“下一个时代并不是 Claude Code 时代”。他更直接的表述是:“在我看来,Jev 出现之前的 AI 世界,简直是个悲剧。”
Jev 的优化目标是“每美元智能”,名字取自杰文斯悖论。Almeida 说,Jev 这个名字以后会代表一系列在“每美元智能”方面处于领先地位的前沿模型。他承认在机器学习里一切都关乎取舍,而团队决定在这个方向上全力以赴。
Almeida 对 RLHF 的核心批评是“模式坍缩”(mode dropping)。他说几乎没人注意到这个缺点:RLHF 的模式坍缩会让模型偏向生成更安全、更常见的答案,而牺牲概率分布的真实校准。这既掩盖了长文本中的错误累积,也解释了为什么文本模型不擅长决策。
他用 Yann LeCun 关于序列长度的那页幻灯片作为对照:如果生成每一步都有出错概率,文本越长至少犯一次错的概率就越高,但模型的实际表现并没有简单照这个趋势发展。他的解释是,如果模型试图覆盖整个分布、概率分布经过良好校准,就不会因为产生少数离群结果而受到过度惩罚;而 GAN 会模式坍塌,直接丢掉占比很小的类别,只生成最常见的类别。
由此他推出一个判断:为了生成很长又不容易出现明显错误的文本,模型就得极其保守,因为一旦犯错人很容易看出来;相反,一个看上去没问题、其实遗漏了微妙之处的回答,就很难被察觉。他认为这层关系既解释了为什么那种直观的错误累积推论没有应验,也解释了为什么文本模型不擅长决策。
RLCD 与 RLHF 的区别,他首先归结为优化目标:RLHF 侧重让模型遵循人的指令、给出获得认可的回答,RLCD 则希望模型成为软件能够可靠调用的能力。Jev 希望输出可供代码直接使用的选择、评分和概率,让开发者能够依据不确定性设置阈值,决定何时执行、何时交给人处理。
Almeida 明确说他不反对安全本身,但认为不应把特定价值判断直接写进通用模型底层能力,而应像数据库一样划清技术能力与具体使用责任的边界。他区分了能力对齐和安全对齐:能力对齐是让系统尽可能按使用者的要求完成任务,而安全对齐往往意味着模型除了遵循当前使用者的指令,还要优先服从模型提供方设定的另一套规则,这两套要求有时会冲突。
他把供程序调用的模型突然拒答比作类型错误。如果模型是后台运行的软件依赖,某次调用突然拒绝了,调用它的用户可能根本不知道底下还有这个模型;难道只因为输入里出现一条特殊消息,就让整个软件流程随机中断吗?他认为这种设计沿用了“AI 是一个聊天同事”的想象,没有充分考虑模型作为软件组件时需要满足什么要求。
对于“如果有人用这个 API 来杀人”的反例,他回应说自己也不希望技术被用来伤害人,但企业可以出于实际考虑持有立场,他不认为应该把这些偏好直接写进通用技术的底层能力。他更倾向于把智能看作数据库,而不是一位“AI 同事”:我们通常不会要求数据库在执行查询时自行判断用户最终会不会把结果用于坏事。
他还提到一个让他觉得奇怪的场景:有开发者在 Slack 上告诉团队准备部署某个应用,问“我们可以这样用 Jev 吗?”他的第一反应是,我们提供的是 API,你是开发者,具体应用怎么设计不该事事由我们批准。理想情况下,复杂任务会被拆成许多较小的调用,作为底层服务提供方,甚至不应该知道下游用户的完整任务是什么。
在被问到开发者能否相信同一个版本的行为保持稳定时,Almeida 说他更重视稳健性:问题含义没变,就不该因为加入无关字符而大幅改变判断,而不只是追求相同输入得到相同输出。他承诺已经部署的模型不会悄悄修改,因为 API 是别人程序里的依赖;但会快速发布新版本,目前还不能承诺永久维护每个旧版本。
他明确表示不喜欢公开基准榜单,认为刷分容易是原因之一。他不反对评测,反对的是围绕榜单优化,让分数脱离真实价值。他提到团队会通过内部评测比较成本和能力,追求同等成本下更强、同等能力下更便宜。
关于此前引发误解的条款,他提到相关限制是预览期条款里留下的,正式发布时没有及时移除,团队准备修改,并请团队和律师确认。他说显然不打算阻止用户测试和比较模型,但这和他怎么看公开基准榜单是两回事。
他给开发者的使用建议是:把复杂任务拆成最小、可以独立判断的语义单元,用结构化输入提供必要信息,再由代码控制最终行为。Choice 对应选择分支,Noul 对应条件判断,Score 对应评分、排序和筛选;每一步都可以单独评估、调整阈值,能力不足时就转交人工或暂不部署。
Almeida 梳理了四类企业应用方向:分析因处理成本太高而闲置的“暗数据”;为实时流程提供快速判断;检查其他模型的调用和输出;把智能判断嵌入软件核心逻辑。他说尤其看好暗数据分析和编程 Agent,但具体如何组合模型,仍要看它能否降低成本、解决原本解决不了的问题。
对于前沿 AI 风险与放慢速度的讨论,他认为这种讨论往往默认大家必须沿着现有 RLVR 路线继续加大投入,但研究目标和技术路线都可以重新选择。为了提升表现而给模型多大行动空间,本身就是设计决定,不该被当作不可避免的前提。
关于 Jev 本身,仍有多处未定:Almeida 说这次发布原本没想到会这么受关注,手里还有东西没有拿出来;他称 Jev 现在离理想状态还很远,希望把可靠性再提高几个数量级,最终让调用智能像执行数据库查询一样自然。他也没有承诺永久维护每个旧版本,并说对 Yann LeCun 的 JEPA 方向是否已经足够实用,暂时不想下判断。
发布第一周,他形容自己情绪上“从来没有这么糟过”,像一具疲惫不堪的行尸走肉,但心理上反而觉得和现实更合拍了。他决定优先做社区公开交流,而不是把时间花在 VIP 和投资人身上,希望真正得到他最多注意力的是工程师和开发者。
本文全部信息来自单一来源:AI前线对 Latent Space 播客访谈的编译报道(article_id 18659)。Jev 的发布、RLCD 方法、System 1 模型定位、每美元智能目标、模式坍缩批评、拒答与责任边界主张、版本与评测态度、四类应用方向等,均为 Diogo Almeida 在访谈中的自述或该报道的转述,属于 source_claim,未经独立验证。报道未提供 Jev 的基准分数、第三方评测、定价、参数规模或客户案例,本文也未引入这些内容。
Jev 的真正主张不是“又一个更强的编程模型”,而是把模型重新定义为软件依赖:输出选择、评分和概率,由代码设阈值决定执行还是转人工。这一主张能否成立,取决于它宣称的校准与稳健性能否在开发者自己的工作流中被测量出来,而这一点目前只有创始人自述,没有独立证据。
主报道
主报道来源