Netflix 如何训练 LLM 构建 GenRec 推荐系统

Netflix 构建了基于大语言模型的推荐系统 GenRec，通过两阶段训练将通用 LLM 适配至其内容目录与用户行为数据。该系统采用“仅预填充”推理模式，利用 vLLM 服务并通过上下文工程将 token 用量压缩至原来的约三分之一，从而在 A/B 测试中实现了统计显著的参与度提升。