跳到正文
原文
InfoQ 中文· QCon全球软件开发大会·· 3 小时前AI 评分30

Mooncake 如何支撑高性能强化学习系统

从 Rollout 到权重同步:Mooncake 如何支撑高性能强化学习系统|QCon上海

AI 摘要

Mooncake 社区 Maintainer 马腾博士将在 QCon 上海分享其如何通过结构化对象、RDMA 优化及接入 Miles 替代 Ray Object Store,解决强化学习中 Rollout 数据传输与权重同步瓶颈。该方案在 Kimi-K2 场景下 P2P 传输约实现 7 倍加速,并支持 NCCL Broadcast、disk-delta 等机制以适配异构并行与 MoE 稀疏更新。

来源:InfoQ 中文 · infoq.cn