MISCONCEPTDIALOGUE 框架显示数学辅导评估的评分标准决定测量结果

该研究通过 MISCONCEPTDIALOGUE 自动化框架测试了五个开源大语言模型在数学辅导中的表现，发现评估指标的选择对结果影响远超模型本身差异。在相同对话数据上，传统的精确匹配（exact-match）评分测得修复成功率为 42.1%，而经人类校准的大模型裁判评分则高达 81.3%，两者相差 39.2 个百分点，这一差距超过了导师模型、教学策略和诊断信息供给的综合效应。

进一步分析显示，这种偏差并非单一裁判的伪影，四个独立大模型裁判与 200 个人类标注的一致性 kappa 值高达 0.91。更关键的能力发现是，当向模型提供学生真实的错误概念或故意交换的错误概念时，模型的修复成功率几乎没有变化，表明在当前测试格式下，这些模型未能可靠地利用提供的诊断信息进行条件化推理。

事实层面确认了现有基准测试存在严重高估风险；推断层面指出多准则评分与多裁判收敛应成为行业标准；猜测层面认为若无法解决诊断信息利用问题，当前模型作为智能体（Agent）的个性化辅导能力可能受限。研究建议将测量质量置于与被测能力同等重要的地位，而非仅关注最终得分。