跳到正文
原文
Hacker News · AI· __cayenne__·· 3 小时前精选AI 评分78

StarSkirmish Bench v0.2 显示 GPT-6 Astra 领跑但人类顶尖 Bot 仍远超 AI

Show HN: Gemini 4 Argon plays StarCraft

AI 导读

StarSkirmish Bench v0.2 评估了 9 个大模型在 1 小时内编写星际争霸 Protoss 机器人的能力,GPT-6 Astra 以平均胜率最高位居榜首,紧随其后的是 GPT-6.1 Sol、Gemini 4 Argon、Claude Opus 5.5 和 Claude Fable 5.1,但最强的人类编写机器人(如 Stardust)对 AI 的胜率高达 93%,AI 仅能赢下 7% 的对局。

该基准测试的关键发现在于模型行为与分数的强相关性:模型在 1 小时内与顶级对手进行练习游戏的次数越多,最终得分越高,GPT-6 Astra 等头部模型会尽早开始练习,而 Muse Wonder Full 则很少这样做。此外,Gemini 4 Argon 虽然总分靠前,但其 5 次运行的结果方差极大(最佳与最差相差 18 分),显示出极高的不稳定性,而 GPT-6 Astra 的方差仅为 9 分。测试还指出,该基准与 Artificial Analysis Intelligence Index 的相关性极低(ρ 0.26),表明过度优化的通用评测已无法准确反映长周期、复杂编码任务的真实推理能力。

事实层面,本次测试将每个模型置于其官方 CLI 环境中运行,并关闭了网络搜索工具,强制模型在本地编译和调试代码。推断层面,这暗示当前 AI 在需要长期记忆和迭代优化的工程任务上仍存在显著瓶颈,单纯增加推理成本(如 Gemini 4 Argon 使用最高推理强度)并未解决稳定性问题。猜测层面,如果行业继续依赖短期编码基准,可能会掩盖模型在复杂系统构建中的实际短板,导致商业化落地预期偏差。

推荐理由

揭示主流评测与长周期编码任务表现脱钩,且高推理成本未必带来稳定性提升。

来源:Hacker News · AI · starskirmish.com