跳到正文
原文
Hacker News · AI· pseudolus·· 6 小时前AI 评分75

自动化科研引擎 FARS 生成的论文因引用预印本过多被拒稿

I Used AI to Fake a Scientific Paper. Here's What Happened

AI 摘要

IEEE Spectrum 记者 Benjamin Skuse 通过两轮实验测试 AI 在学术出版中的渗透能力,发现尽管自动化系统 FARS 能在 21 分钟内完成文献综述并生成包含真实实验数据的论文,但仍无法绕过 IEEE Access 的审核防线。第一轮使用免费 LLM 生成的伪造论文因大量幻觉引用(ghost citations)被检测工具识别;第二轮由 FARS 生成的论文虽然引用均为真实存在,但因过度依赖未经验证的预印本(preprints)以及图表中出现无意义标签(如 lhewl)而被拒。

这一结果暴露了当前学术防御体系的结构性弱点:当 AI 不再制造虚假内容而是进行真实但不可验证的研究时,传统的同行评审机制已不堪重负。FARS 背后的 Analemma 团队指出,未来科研将转向动态知识图谱,人类角色从执行者转变为信任核查者。然而,IEEE Access 编辑 Jenny Mahoney 强调,核心问题在于如何证明工作的可复现性与真实性,而非单纯的内容质量。

事实层面,FARS 确实生成了基于数字数据集的实验结果,且未被判定为欺诈;推断层面,这预示着学术界必须建立新的信任标记机制,例如结合区块链或电子实验记录本来验证数据来源;猜测层面,如果这种自动化流程普及,现有的以论文为单位的发表体系可能会瓦解,转而采用更细粒度的贡献验证模式。

来源:Hacker News · AI · spectrum.ieee.org