AI垃圾充斥论文库?科研人员称AI痕迹难以发现、部分领域有AI造假的可能
2025-01-22 16:53 第一财经
生成式AI在学术领域正在加快科学发现,甚至因此登上了诺贝尔奖台,但技术的另一面是,学术造假越来越方便,学术界近期开始担忧,AI垃圾或许会充斥论文库。
瑞典布罗斯大学学院近期发布了一篇文章,称研究人员在谷歌学术平台中发现了上百篇疑似由AI生成的文章,研究人员认为,由AI生成的“垃圾科学”正在侵蚀学术平台,给同行评审系统带来压力,也对科研人员的信息素养提出更高要求。
第一财经记者留意到,近一年来,学术界出现了不少被质疑使用AI生成的论文,甚至被撤稿,也出现了使用AI技术“润色”论文被认为是学术不端的事件。
记者梳理发现,目前可以将AI可能导致的学术垃圾分成两类,一是用AI翻译或生成部分文字表达,二是利用生成式AI学术造假,前者AI主要起到辅助写作的作用,但可能因为论文作者不仔细检查生成的内容导致论文出错,后者的主要问题在于AI使学术造假变得更便利。
“我还没有发现大量明显由AI生成的论文,如果作者将AI的痕迹删除干净就难以发现。但理论上AI确实能用于辅助论文写作,也出现了被怀疑使用了AI生成的论文。”一名高校科研工作者告诉记者。记者采访的多名在读博士或科研工作者认为,他们还没有发现AI导致学术垃圾充斥论文库,但AI已经能用于做一些学术辅助工作,在不同研究领域使用AI学术造假的可能性则有所不同。
AI垃圾充斥论文库了吗?
担心AI垃圾充斥论文库的不只瑞典布罗斯大学学院研究人员。