跳到正文
原文
arXiv cs.AI· Yufa Zhou, Yichen Wang, Jiakun Fan, Ziqi Shu, Zhichao Liu, Anru R. Zhang, Neiwen Ling, Zijun Wei·· 4 小时前精选AI 评分87

Athanor 系统展示四组 Claude Opus 5.5 智能体自主将 Qwen3-4B 基座模型微调至超越官方指令版

Athanor: An Agent-Native System for Autonomous Post-Training Research

AI 导读

该论文发布 Athanor,一个面向自主后训练研究的开放智能体原生系统,在真实 GPU 上验证了前沿智能体团队无需人类指导即可独立完成模型微调全流程的能力。实验显示,四名运行在八卡节点上的 Claude Opus 5.5 智能体在 104 小时内,将 Qwen3-4B-Base 模型在六任务开发集上的得分从 15.9 提升至 67.3,在盲测集上从 9.2 提升至 48.2,均超过了官方发布的 Qwen3-4B-Instruct-2507 版本(分别为 66.5 和 47.9)。

这一结果的关键证据在于智能体完全自主地执行了数据构建、算法编写与修改、超参数调优及结果分析等步骤,且未使用外部教师模型。智能体通过重组已知方法实现了突破:包括在公开推理数据上进行监督微调(SFT)、引入由某智能体提出的 rollout change 进行强化学习(RL)、跨智能体的权重合并以及多轮自蒸馏。系统提供的服务包括冻结评估、托管作业、去污染数据和持久化研究记录,确保了实验的可复现性和公平性。

事实层面,这是首次有演示表明前沿智能体团队能自主将原始基座模型转化为跨领域通用模型并达到或超越官方指令版水平。推断层面,这意味着当前的智能体已具备征服此类复杂工程与研究任务的执行能力,不再依赖人类专家的直接干预。猜测层面,若 Athanor 框架被广泛采用,可能会加速 AI 系统的自我迭代速度,但具体商业化路径和算力成本效益仍需进一步观察。

推荐理由

材料证明当前 Agent 团队可自主完成从基座到指令模型的完整闭环,直接修正对工程化能力的低估。

来源:arXiv cs.AI · arxiv.org