AI“垃圾稿”泛滥,arXiv实施投稿限额
中国科学报
本报讯 据《自然》报道,为应对稿件数量激增的挑战,预印本平台arXiv自10月1日起正式实施投稿限额规定——每位作者每月最多提交两篇论文。
arXiv科学主管、美国宾夕法尼亚州立大学的Steinn Sigur?奁sson表示,投稿量暴涨主要源于人工智能(AI)工具产出的大量“垃圾稿”。9月,作者们在arXiv平台上传的预印本论文达到4万篇,而3月至7月每月约为3万篇。
过去一年,arXiv已经出台多项举措管控投稿乱象。Sigur?奁sson介绍,去年10月,平台收紧计算机领域的投稿,因为该板块已成为造假重灾区。今年1月,平台更新作者准入要求:想上传预印本论文的作者,需要拥有过往发表记录或获得资深arXiv用户推荐,并提供所在机构邮箱。5月,平台封禁了一批存在参考文献幻觉问题的论文作者。
Sigur?奁sson介绍,arXiv推出这项新举措,目的是保护平台近300名志愿审核人员,避免其被海量稿件压垮。审核团队如今日均处理稿件约1000篇。但他坦言,投稿限额也使得不少合规优质论文的发布进度减缓。目前,平台尚有近4000篇稿件排队等待公开发布。
对于这项限制措施,一部分学者认为完全合理。美国哥伦比亚大学的Siddhesh Zādéy表示,该举施“并不会抑制科研产出”,因为每月产出两篇预印本论文本身就需要相当大的工作量。同时也有学者认为arXiv新规仍不够严格。美国马里兰大学帕克分校的Victor Galitski提醒,共同作者可以轮流投稿,以此绕开限额。
另一个预印本平台SocArXiv已规定每位作者每周最多投稿一篇。SocArXiv负责人、美国马里兰大学的Philip Cohen表示:“确实也有在合理情况下一次性上传3篇论文的时候。但大多数情况下,短时间内连续投递多篇论文,往往是AI‘垃圾稿’的信号。”
部分观点认为,单纯拒稿无法解决AI“垃圾稿”问题。“就算arXiv把这些稿件拒掉,它们也会流向别的平台,变成别人的麻烦。”美国AI同行评议平台Reviewer3的创始人Natalie Khalil说,预印本平台应当想办法增强核验审核的处理能力,比如借助工具核查论文代码的可复现性、校验参考文献、检查稿件元数据等。
arXiv官方同样认为,可以利用AI技术对抗AI生成的“垃圾稿”。arXiv计算机板块负责人、美国俄勒冈州立大学的Thomas Dietterich表示:“我们正在测试部分基于大语言模型的审核技术,但距离实际部署应用还很远。”
(王方)