Reddit · MachineLearning· /u/SettingAccording8986·· 4 小时前AI 评分72
Yandex Music 单 Transformer 模型 Sona 在 A/B 测试中取代 15+ 候选生成器与排序模块
Sona: one transformer replaced our 15+ candidate generators, pre-ranker and ranker in an A/B test [R]
AI 摘要
Yandex Music 团队在智能音箱场景下部署了名为 Sona 的单 Transformer 模型,该模型在 A/B 测试中成功替代了原本由 15 个以上候选生成器、预排序和排序模型组成的复杂流水线。测试持续 7 天,涉及每臂 15% 的用户,结果显示活跃用户数提升 4.53%,总收听时长增加 6.30%,统计显著性 p < 0.01。
为应对全注意力机制处理长序列的高成本,Sona 采用了“历史压缩”(History Compression)策略:将长达 8,192 条的事件历史拆分为较旧的 6,144 条和最近的 2,048 条,通过交叉注意力和单层全历史自注意力交换信息,随后仅对最近片段运行 7 层解码器堆栈。这种设计使推理成本减半,同时保留了大部分质量,且编码器仅需在每个请求中运行一次。输出结果以语义 ID 形式经束搜索生成并直接评分。
事实层面,该模型尚未全量上线,且目录覆盖率低于现有生产系统,团队正调查原因;推断层面,单模型架构在特定垂直领域可能具备简化工程复杂度的潜力;猜测层面,长期测试能否解决覆盖率问题将决定其是否成为行业新范式。
来源:Reddit · MachineLearning · reddit.com