AI垃圾充斥论文库?科研人员称AI痕迹难以发现、部分领域有AI造假的可能
2025-01-22 16:53 第一财经
有研究者认为,目前还不用太担心AI垃圾影响学术研究。“学术圈一直是优胜劣汰的机制,真正能留下来、被反复引用和讨论的文章不多。AI生成的文章如果没有实质内容,很快就会被淘汰出局。不用太担心AI垃圾充斥论文库或滋生学术不端。” 一名理论物理学博士告诉记者。
AI学术造假有多大空间?
对学术而言,生成式AI有其高光时刻。
2024年诺贝尔物理学奖和化学奖都颁发给了AI领域的科学家,将AI for Science(AI驱动科学研究)的关注度提升到空前的水平。诺奖得主中,既包括用物理学工具开发机器学习基础方法的学者,也包括用AI模型预测蛋白质复杂结构的学者。越来越多科学家考虑用AI辅助科学研究了。
一名化学研究者告诉记者,他在紫杉醇生物合成研究中全面应用AI,例如用AI判定实验是否生成紫杉烷类分子。一名数学物理学研究者表示,她也让学生尝试用AI识别少层石墨烯的层厚和转角。
研究者们用AI加速科学研究和使用现有AI工具生成论文、进行学术造假,是这个技术的一体两面,但有着本质的区别。
例如,要做出像上述能辅助学术研究的AI工具,门槛颇高。从2018年推出可预测蛋白质结构的AlphaFold1到2024年推出AlphaFold3,谷歌DeepMind团队花了近6年时间。记者了解到,要训练出可加速科学研究的AI工具,也需要研究者花费精力获取AI训练所需的数据,这个过程并不容易。