跳到正文
原文
arXiv cs.AI· Shiyi Cao, Ziming Mao, Dacheng Li, Joseph E. Gonzalez, Ion Stoica·· 7 小时前AI 评分62

Evolving Agent Teams 多智能体框架在 GPU 内核优化中突破局部最优并超越生产级 FlashInfer

Evolving Agent Teams

AI 摘要

该论文提出 Evolving Agent Teams 多智能体框架,旨在解决现有编码智能体在处理真实世界专家编写内核(如 FlashInfer)时易陷入局部最优的问题。框架通过中央监督者诊断局部最优并重组智能体团队,配合包含学习文档、演化历史及团队产物的持久文件系统,在匹配 Token 预算下持续优于强基线。在扩展 Token 预算下,该框架从零生成的 CUDA 内核在平均速度上达到生产级 FlashInfer MLA paged decode 内核的 1.2 倍,并在 FlashInfer-Bench 的 47 个生产工作负载中胜出 36 个。

实证数据显示该框架在多种硬件与任务场景下的具体表现:在 AMD MI350X 上的 KDA prefill 任务中速度提升 3.01 倍(对比 vLLM),在 NVIDIA B200 上提升 3.44 倍(对比 FlashKDA);在 Apple silicon 端侧进行 MoE expert-offload 服务时,Qwen3.8-Flash-Next 模型在 MLX 4-bit 配置下于 48 GB M4 Pro 芯片上实现 30.3 tokens/s 的解码速度;在 RoboDojo 机器人操作任务中,其得分达 62.1,高于榜单最佳条目 55.3。代码已开源。

事实层面,该研究证明了引入结构化记忆与动态重组机制可显著提升智能体在复杂工程任务中的收敛能力。推断层面,这种架构可能成为未来高难度系统编程与端侧推理优化的标准范式,特别是针对资源受限环境下的性能调优。猜测层面,若将此类多智能体协作模式迁移至其他垂直领域的自动化工程任务,可能会进一步降低对人工专家经验的依赖,但需验证其在非代码类任务中的泛化成本。

来源:arXiv cs.AI · arxiv.org