SciSlopBench 发现 AI 生成科学论文存在局部合理但全局推理断裂的隐蔽缺陷

该研究提出 SciSlopBench 基准，通过结构、论证和 artifacts 六个维度评估 AI 生成的科学论文中的“科学垃圾”（scientific slop）。研究发现，这类论文虽然每个部分看起来都 plausible（可信），但连接各部分的科学推理会崩溃，导致读者误判工作质量。在包含 390 篇 AI 生成论文与人类撰写论文的配对测试中，该方法的识别准确率达到 85.9%，显著高于 Binoculars 的 68.7%。

数据进一步显示，较高的科学垃圾水平与 ICLR 评分降低相关，并能以高于随机概率区分 2017 年至 2025 年间被拒稿与接收的论文。针对现有优化方法无法有效减少此类模式的问题，作者提出了 SciSlopHarness 框架。该框架引导固定 LLM 仅在实验记录支持的地方进行修订，避免了直接提示词优化导致的奖励黑客行为或残留垃圾问题，将 AI 与人类写作之间的差距减少了 63%，且不需要人类参考目标。

事实层面，该基准覆盖了计算机、生命、社会及自然科学领域；推断层面，这表明当前大模型在长程逻辑一致性上仍存在根本性短板，仅靠文本润色无法解决；猜测层面，未来学术出版可能引入基于此类全局推理指标的自动化初审机制，但具体实施路径尚需验证。