返回信息流
新闻事件
InfoQ AI/ML/Data Eng
1 个来源

Netflix 如何构建 GenPage:一个生成个性化主页的单一生成式 AI 模型

Netflix 开发了 GenPage,这是一个生成式 AI 模型,可直接为用户生成个性化主页,取代了传统的多阶段推荐流程。该系统利用用户历史和请求上下文作为提示来生成整个页面,从而提高了用户参与度并降低了服务延迟。

SynthePulse Insight · AI 深度解读

Netflix GenPage:用单一生成模型替代多阶段推荐管线,提示工程比模型缩放更关键

版本 1 · 1 个来源

Netflix 推出 GenPage,用一个生成式 AI 模型直接生成个性化首页,取代了传统的多阶段候选生成与排序管线。A/B 测试显示用户参与度显著提升,端到端延迟降低 20%。关键发现是:丰富提示(prompt enrichment)带来的收益远超模型参数从 1.2 亿扩展到 9 亿的效果。

  • GenPage 用一个生成式模型统一了条目选择、行构建和布局生成三个层级,替代了 Netflix 原有的复杂多阶段管线。
  • A/B 测试显示 GenPage 在核心用户参与度指标上取得统计显著的提升,同时端到端服务延迟降低 20%。
  • 提示丰富化(prompt enrichment)累计降低 WBC 损失约 6.9%,而模型参数从 1.2 亿扩展到 9 亿仅降低约 1.3%。
  • 后训练强化学习(RL)带来了额外收益:增加了首页的多样性和个性化程度。
  • Netflix 指出提示丰富化存在边际递减效应,一旦输入上下文饱和,模型缩放将成为主要驱动力。
  • GenPage 能够进行全页优化,例如考虑“继续观看”行放在顶部可能满足用户即时意图但减少页面浏览量的跨行交互。
展开章节目录从多阶段到单步生成:GenPage 的设计思路

从多阶段到单步生成:GenPage 的设计思路

Netflix 原有的推荐系统依赖“复杂的多阶段管线,包含独立的候选生成和排序组件”。每个行和行内的每个实体都要重复这一过程,最后还有一个页面布局阶段。GenPage 则采用单步方法,将条目选择、行构建和布局生成统一在一个模型内。

受大语言模型提示-响应范式的启发,Netflix 训练了一个生成模型来直接回答一个问题:“基于我们对这个用户和这次请求的所有了解,应该生成怎样的首页来最大化用户满意度?”

提示工程 vs. 模型缩放:一个反直觉的发现

Netflix 工程师在生产中观察到两个关键发现:丰富提示比扩展模型容量影响更大;后训练 RL 带来了额外的、意想不到的收益——增加了首页的多样性和定制化。

具体数据对比:将模型从 1.2 亿参数扩展到 9 亿参数,WBC 损失降低约 1.3%;而累积的上下文丰富化效果约为 6.9%。在多个案例中,单个精心设计的上下文添加带来的改进就超过了整个约 7.5 倍的模型容量缩放。

不过,Netflix 也指出上下文丰富化存在边际递减效应:一旦输入上下文饱和,模型容量缩放很可能成为进一步改进的主要驱动力。他们推测,在其他行业规模的个性化场景中,提示丰富化可能比模型缩放更有效。

全页优化与延迟优势

GenPage 通过后训练强化学习实现了全页优化,能够考虑行内以及跨行和条目级别的交互。例如,“继续观看”行放在页面顶部可能强烈满足用户的即时意图,但也会减少用户浏览页面的其他部分。

与生成模型通常较慢的普遍假设相反,GenPage 将端到端服务延迟降低了 20%。Netflix 还强调 GenPage 在适应不同内容类型方面更灵活,并且更容易扩展到新的产品体验和布局变体。

可信度边界

本文信息来源于 InfoQ 对 Netflix 技术文章的报道,属于第二手来源。所有数据、发现和结论均来自 Netflix 的公开技术分享,未经独立第三方验证。

核心结论

Netflix 的 GenPage 案例表明,在工业级个性化推荐中,提示工程和上下文设计可能比盲目扩大模型规模更具性价比,同时生成式模型也能在延迟上优于传统多阶段管线。

主报道

InfoQ AI/ML/Data Eng

主报道来源