AI垃圾充斥论文库?科研人员称AI痕迹难以发现、部分领域有AI造假的可能
2025-01-22 16:53 第一财经
就是否接收使用了AI辅助的论文、是否采取措施辨别论文是否使用AI辅助或造假、措施是否有效,第一财经记者向知名学术期刊Natrue、Cell、The Lancet、Science、ACM、IEEE和中国图象图形学报发送邮件,截至发稿前未获回复。
不过,2023年底,来自美国加州大学和英国的团队用文献计量学的方法统计了Top 100出版社和Top 100期刊针对AI的使用规范和声明,其分析结论发表在了《英国医学杂志》(TheBMJ)上。
上述研究者发现,在前100大出版商中,24%提供了关于生成式AI使用的指导,在前100名高排名期刊中,87%提供了生成式AI使用指导。在提供指导的出版商和期刊中,只有1%的期刊明确禁止在手稿生成过程中使用生成式AI,但96%和98%的出版商和期刊分别禁止将生成式AI作为作者。
关于该如何声明生成式AI的使用,不同的期刊和出版社存在差异,包括在方法部分致谢等部分,但总体他们认为,作者应对AI生成的内容仔细核对,并负有全部责任。
一名新闻学在读博士生告诉记者,目前她只注意到新闻传播学领域较知名的国际会议IAMCR对投稿论文使用AI生成技术提出要求,大致意思是可以使用AI技术,但作者需要说明使用AI工具的用途等。记者也留意到,一些知名期刊要求作者说明AI工具的使用情况。Nature对论文使用AI技术的要求包括,作者需要说明文章使用了AI工具,用AI辅助文案编辑则不需声明,但作者须对最终文本负责。Science也要求作者披露AI工具的使用,并要求作者对文章的准确性负责。IEEE要求作者在致谢部分说明文章使用AI生成内容的情况。