SemiAnalysis 发布 GDPx 基准:无 AI Agent 得分超过 12%,安全过滤重塑排名
No AI agent scores above 12 percent on SemiAnalysis' new real-world work benchmark
SemiAnalysis 发布了名为 GDPx 的新基准测试,旨在评估 AI Agent 在模拟知识工作环境中的表现,而非传统的问答模式。该测试包含 206 个跨越芯片设计、生物、量化交易等 11 个领域的任务,要求模型操作专业软件或搜索数据室。结果显示,没有任何模型得分超过 12%,其中 Anthropic 的 Claude Opus 5.5 以 12% 的成绩领先,Google 的 Gemini 4 Carbon 紧随其后得分为 10.9%。
测试细节揭示了 Agent 在实际执行中的脆弱性。在金融和法律任务中,没有模型能完全解决,因为电子表格中的单一错误会导致整个输出无效;因此 SemiAnalysis 统计的是满足个别要求的比例。此外,安全过滤机制显著影响了最终排名:若剔除网络安全、生物和一致性(alignment)这三个涉及安全过滤的领域,OpenAI 的 GPT-6 Astra 得分将升至 11.8%,超越 Opus 5.5,而 Meta 的 Muse Wonder Full 则会从第四名跌至第七名。同时,GPT-6 Astra 和 GPT 6.1 Sol 在网络安全领域得分均为零。
尽管 SemiAnalysis 声称该基准能避免模型针对特定题目进行优化,但外界对其方法论提出了质疑。Josh Purtell 指出,由于每个模型都在其提供商各自的 Agent 软件中运行(如 Opus 使用 Claude Code),工具能力的差异可能导致结果偏差。此外,部分子领域仅包含约十个任务,导致结果波动较大,且由于任务细节保密,外部无法验证难度和评分质量。SemiAnalysis 计划每三到六个月更新一次该基准。
来源:The Decoder · the-decoder.com