上观时评丨“一眼假”的学术不端论文,揭开了AI时代的新问题
(来源:上观新闻)
肿瘤组织图片被网友调侃“长得像虾滑”,实验图片中的尺子的1厘米竟有12个小格,“湖南省”的英文被写成了“人类省”……这种低级错误居然出现在专业论文里。近日,湘雅医院相关论文中出现的种种离谱错误引发广泛关注。
11月19日,中南大学通报,确认3篇论文存在疑似AI生成、伪造、篡改实验研究数据和图表等学术不端行为。
在追问涉事作者及期刊责任的同时,我们必须注意一个正在出现的新问题:AI在让论文写作越来越容易,学术界的审核能力能否跟上它?
今年4月,国际学术期刊《Organization Science》对2021年以来的6957份投稿和10389份审稿意见进行分析发现,ChatGPT问世后,该刊两个可比时期的投稿量增长了42%,与AI辅助写作的普及密切相关。为应对增长的稿件,期刊副编辑人数从6人增加到11人,活跃的高级编辑人数从约30人增加到60人。
另一家国际期刊《Accountability in Research》也面临类似压力。该刊编辑透露,2022年收到160篇投稿,而预计2026年全年将超过1000篇。
论文投稿量的增长,正在让同行评议制度承受新的考验。
AI能够帮助研究者快速整理文献、组织文字、处理图表,过去需要花费不少时间的论文写作,如今可以大幅提速。然而,一篇论文写得快了,其中的研究结论是否可靠,仍然需要专业检验。尤其是那些语言流畅、格式规范,实际研究却缺乏新意甚至存在明显缺陷的稿件,同样会消耗编辑和审稿人的时间。
这可能成为AI时代学术出版的一大矛盾:论文生产越发容易,能够对其作出专业判断的审稿资源却相对有限。
与此同时,AI也开始进入审稿环节。前述《Organization Science》的研究发现,在该刊样本中,AI生成特征越明显的审稿意见,讨论的议题越趋于集中,对数据问题的关注相对越少。
为了应付增长的投稿,审稿人借助AI辅助阅读、整理意见,可以理解。但审稿工作的价值,恰恰体现在对研究成果的独立判断上。有时,一篇论文最需要的正是审稿人对某组数据、某张图片或某个研究结论提出质疑。当生成审稿意见也变得轻而易举,一份看起来完整、专业的评审报告究竟包含多少实质性审查,同样需要打上问号。
何况,随着AI生成图像、改写文字的能力不断增强,问题论文也可能变得更加难以识别。此次湘雅论文中那些被网友一眼发现的异常,如果经过更精细的技术处理,审稿人又要付出多少精力才能发现其中的破绽?
技术带来的变化,也很可能随之放大科研评价体系中一些长期存在的问题。
论文发表关系职称晋升、项目申报、学术声誉,在部分科研评价中仍占有重要分量。AI降低论文写作和投稿的成本后,追求更多发表机会,也变得更加容易。在这样的激励下,技术节省的时间可能被投入到更多论文的生产中,期刊编辑部则要为筛选这些稿件付出额外成本。
值得注意的是,《Organization Science》的研究还发现,越是重视特定期刊发表数量的高校,ChatGPT问世后,其投稿中AI写作特征的增长越明显。科研评价的既有激励,正在影响新技术被使用的方向。
一些学术期刊已经开始调整规则。譬如,《Accountability in Research》近期规定,每位作者每年最多向该刊投稿4篇;实证研究论文须提供底层数据或可供审稿访问的数据链接。编辑们坦言,投稿量的快速增长已经令审核资源承压。通过限制密集投稿、强化数据核验,期刊正在尝试应对AI给传统学术出版带来的挑战。
对学术出版而言,利用AI筛查异常图片、虚假引文等问题可以减轻基础审核负担,让原始数据能够追溯,让作者对研究成果承担实质责任。更深层次看,科研评价体系也需要减少对论文数量的依赖,避免技术进步进一步推高无效的发表竞争。
毕竟,科学研究的价值还是要看它所能提供的知识增量。让有限的学术资源更多流向真正有价值的研究,才是AI时代科研效率提升应有的方向。
原标题:《上观时评丨“一眼假”的学术不端论文,揭开了AI时代的新问题》