返回首页 >

网传“2024年中国男性平均寿命仅69.9岁”?这样的谣言是怎样产生的

  此前,“80后死亡率破5.2%”这一谣言就在网上引发过广泛关注,谣言背后就有AI大模型身影。对此,北京邮电大学人工智能学院人机交互与认知工程实验室主任刘伟表示,尽管AI大模型能够处理和分析海量的数据,并从中提取有价值信息,但由于存在训练语料受到污染等局限性因素,可能会发生“机器幻觉”和“机器欺骗”情况。使用者要有自己的判断能力:

  “‘机器欺骗’和‘机器幻觉’的根就在于,生成式语言大模型都是基于统计概率和数学规则的,它没有真实世界的价值和事实的这种观念。因为文本里面有大量的错误,也有虚假的,也有恶意的,这些它都要学习。它学什么就会输出什么。怎么解决这个问题,就需要大家把人的常识和任务环境结合在一起来进行比对,知道它哪些问题是回答的比较好,哪些问题是偏离了正常的事实和价值观。”

  这则谣言的传播路径和其背后的逻辑,实际上暴露了当下信息生态的三大症结:科学概念的混淆、技术工具的双刃剑效应,以及流量驱动下的信任透支。部分自媒体博主刻意模糊概念差异,将碎片化信息包装成“权威结论”的行为,实际上却造成了谣言的滋生和传播。

  破除信息迷雾,需要多方合力筑牢防线:平台应完善审核机制,对混淆核心概念的内容进行标签警示;技术开发者须强化AI模型的价值观校准,避免“机器欺骗”污染信息生态;公众也要提升科学素养,警惕“权威包装”下的概念陷阱。

  (中央广播电视总台中国之声)

  

责编:于琳琳

猜你喜欢

热点新闻

{$loop_num=0}