AI垃圾充斥论文库?科研人员称AI痕迹难以发现、部分领域有AI造假的可能
2025-01-22 16:53 第一财经
去年9月,莫那什大学研究人员Julian Koplin发表在The Conversation上的一篇文章称,随着类似ChatGPT的生成式AI工具出现,越来越多论文疑似使用了AI辅助写作,一些论文出现了AI经常使用的表达,例如commendable(值得称赞)、meticulously(小心翼翼)。
还有一篇关于农业技术的论文出现了明显使用AI工具的表述:“作为AI语言模型,我无法直接访问当前的研究文章或研究。但是,我可以为您提供一些最新趋势和进展的概述……”。Julian Koplin表示,AI存在幻觉问题,有时会犯严重的错误,而论文作者需要确保学术论文没有严重错误。
去年5月,也有消息称,一篇未经同行评议的预印本论文估计,通过分析写作风格,有上万篇论文可能被AI以某种方式润色了,一些论文留下了使用AI的迹象,例如出现了以“作为人工智能模型语言模型”开头的句子,有研究人员认为,滥用AI工具可能会损害公众对科学研究的信任。
学术论文出现AI常见表达还发酵成一些舆论事件。早在2023年,就有一篇发表在《Physica Scripta》期刊上的论文被发现使用了AI惯用的短语,随后该论文被撤稿。去年,有论文出现一句疑似ChatGPT惯用回答“Certainly, here is a possible introduction for your topic:” (当然,这里有一个关于你的主题的可参考介绍:),也被质疑用了AI写论文,引起了学界和媒体的关注。
由于目前学术界已有不少存在AI痕迹的论文出现,传播学在读博士李庭对第一财经表示,某种意义上,AI生成的学术垃圾是存在的,例如加剧了模式化的表达,导致虚假的事实与论据污染数据库。