返回首页 >

AI造谣乱象“野蛮生长”?专家:可设置敏感关键词

2024-11-20 10:00   央广网

  “当前AI网络谣言具有仿真性和规模性的特征。根据输入指令的不同,AI在短期内能够批量生成大量内容不同的网络谣言,而且生成的网络谣言信息内容更加贴合人类表达方式,并结合深度伪造技术生成图片、视频、录音,使得社会公众越发难以辨识网络信息的真伪性。”北京航空航天大学法学院副教授赵精武告诉记者。

  记者随机用“AI文案速成”小程序测试,在对话框内输入“火灾”这一主题有关的内容创作指令,便生成了一篇新闻报道,甚至包括现场救援细节,及消防安全提示,让人真假难辨。赵精武指出,AI网络谣言的危害性主要表现为扰乱社会公共秩序,削弱政府公信力、诱发电信网络诈骗等。

  为牟取非法利益造假,涉嫌构成多种罪名

  赵精武分析,个人或组织利用AI技术造谣背后的动机是复杂多样的,既包括部分网民为了寻求存在感、刺激感,故意编造AI网络谣言,也包括犯罪分子为了牟取非法利益,编造AI网络谣言,以便顺利实施电信网络诈骗等犯罪活动。

  今年6月中旬,一家MCN机构的实际控制人王某某因利用AI软件生成虚假新闻并大肆传播,扰乱公共秩序,被警方行政拘留。据警方通报,王某某共经营5家MCN机构,运营账号842个,自今年1月以来,王某某通过AI软件生成虚假新闻,最高峰一天能生成4000至7000篇。

猜你喜欢

热点新闻

{$loop_num=0}