阶跃星辰袁俊杰分享大模型在终端领域的探索与量产落地

阶跃星辰架构师袁俊杰将在 QCon 上海大会分享大模型从云端向车端、手机端及 IoT 终端的量产落地实践。演讲将重点解析下一代 Realtime Voice Agent 框架，实现端到端延迟控制在 200ms 以内，并探讨端云协同方案以解决模型尺寸受限与推理延迟问题。该分享基于其主导的百万辆级汽车及终端设备交付经验，涵盖数据飞轮优化与跨场景交互挑战。