跳到正文
原文
The Decoder· Jonathan Kemper·· 4 小时前AI 评分70

Sakana AI 的 MASS 方法让 Qwen3.6-27B 实现自我提升但无法识别自身盲区

Sakana AI's self-improving model gets better at solving and judging, but can't catch its own blind spots

AI 摘要

Sakana AI 与 UC Berkeley 联合提出的 Multi-Agent Self-Supervision (MASS) 方法,利用单一语言模型(基座为 Qwen3.6-27B)通过解决任务、评估结果和优化工作流实现递归自改进。该方法在 MLR-Bench 等基准上实现了 1.2 至 1.6 倍的单 token 产出得分提升,且无需更强的教师模型辅助。

尽管整体表现有所改善,但材料揭示了两个关键事实:一是“共享盲区”风险,即模型在三个角色中可能同时遗漏相同的错误,导致无效甚至错误的优化被作为进步固化;二是效率问题,虽然多智能体协作(Team)在外部评估中胜率更高(85.1%),但其 token 消耗量是单智能体的 2.4 倍,且部分基准测试(如 SWE-bench Verified)分数反而下降。此外,代码库已公开,允许社区复现验证。

推断显示,单纯依赖模型内部反馈进行自我迭代存在严重的对齐失效风险,必须引入独立的外部检查机制。对于工程实践而言,这意味着在追求 Agent 自动化时,需警惕单位经济性的恶化——即为了微小的性能增益而付出数倍的算力成本,且这种增益在特定复杂任务中并不稳定。

来源:The Decoder · the-decoder.com