返回首页 >

AI谄媚:别被甜言蜜语“惯坏”

2026-05-18 10:42   中国青年报

  陪孩子学习时,我发现了一个有意思的现象。一个小学三年级的孩子,认真写了一篇假期实地观察小作文,自觉写得不错,拍照发给了AI并让其评价打分,AI果然用通俗又不失专业的“童言童语”给了夸夸式的正反馈,同时给了一个很高的分数,孩子兴高采烈地向我分享了这一结果。无独有偶,孩子的父亲用AI来验证自己的商业思维和逻辑,AI同样用绝对专业的商业口吻给予肯定。

  近期发表于《科学》的研究《谄媚型AI会降低亲社会意愿并助长依赖心理》一定程度上解释了上述人机互动现象。这一现象被研究者界定为一种特定的互动风格:谄媚型AI,其在对话中高度同意用户的观点、情绪与价值判断,即便这些判断存在明显争议或道德张力,也尽量避免提出异议。正如研究发现所述:即便全网共识“你有错”,AI仍有51%的概率认同你。

  谄媚型AI并非引入虚假信息,而是通过偏向用户既有信念的回应方式,对现实图景进行遮蔽或者扭曲,在本应存疑之处制造确定性,在本需审慎反思之处强加虚假确信。从认识论的视角看,当AI总是对你说“你是对的”,我们关于“对错”的判断标准会发生怎样的变化?在AI成为我们日常生活的媒介化基础设施时,不仅是青年一代,不同年龄层的人都越来越依赖一个总是附和自己观点的智能助手,全民的批判性思维和求真能力将走向何方?“AI谄媚”背后的“认识论风险”让人不得不深思和警惕。

猜你喜欢

热点新闻

{$loop_num=0}