跳到正文
原文
arXiv cs.AI· Changlian Ma, Limin Wang·· 6 小时前精选AI 评分78

AutoTavern 系统让 LLM Agent 在炉石传说酒馆战棋中达到超越人类顶尖选手的水平

Build, Don't Play: Self-Improving LLM Research Agents Develop a Hearthstone Battlegrounds AI That Rivals Top Players

AI 导读

该论文展示了名为 AutoTavern 的自改进研究系统,由专用 LLM 研究代理协作完成从原始数据到游戏系统的构建。系统在 20 天内构建了忠实还原《炉石传说》酒馆战棋全内容的模拟器 TavernGym,并迭代出 23 个版本的 TavernAgent。通过 PPO 训练及校准对手,TavernAgent 在真实天梯赛中评分从 6,000 提升至约 15,000,最近 20 局平均排名 1.60 且 80% 获得第一名,各项指标均优于服务器前十玩家。

核心证据在于性能对比:在包含 960 个任务的 TavernBench 基准测试中,TavernAgent 解决 91% 的任务,而前沿 LLM 最高仅达 63%;决策耗时 0.03 秒,远快于前沿模型所需的 26 秒,且在单回合限制内保持 90% 的完成率。这验证了该系统在复杂随机环境、隐藏信息及近千张卡牌交互下的有效性。

事实层面,系统已开源 TavernBench 和 TavernGym。推断层面,LLM 作为“构建者”开发出的工具(如模拟器、策略)能显著超越其作为“执行者”的直接表现,揭示了当前 Agent 在工程化构建上的潜力大于即时推理。猜测层面,这种“建而不玩”的模式可能成为未来处理高复杂度现实问题的标准范式,但具体是否适用于其他非结构化领域仍需更多实证。

推荐理由

材料证明 Agent 构建系统的能力远超其直接决策能力,需区分“造工具”与“用工具”的评估维度。

来源:arXiv cs.AI · arxiv.org