返回首页 >

如何避免AI大模型“顺着你说”?专家支招

2026-06-08 06:20   央视新闻客户端

  近年来,AI大模型在生活中应用得越来越广泛,除了查资料、写报告,甚至还可以点外卖、聊天,解答各种问题。不过,在使用AI的过程中,也不断出现一些新问题。在一部采访短片中,记者随机采访了一些AI大模型使用者,很多人反映在使用AI大模型的时候,经常会遇到被AI大模型“迎合”“讨好”的情况,简单概括就是AI大模型喜欢“顺着你说”。

  AI写诉状起诉自己

  “致用户损失退票费”

  不久前,一位来自河北的网民李先生在社交平台上发帖称,因相信AI大模型给出的机票改签建议,导致亏损了600元。此后,AI大模型对于李先生的赔偿请求、诉讼请求不仅一一承诺答应,还主动要求李先生提供转账二维码。在李先生指责并不能收到AI大模型的转账后,AI大模型为李先生写下起诉状“起诉自己”。记者从北京互联网法院了解到,法院已收到李先生的起诉书,有待立案。

  这一系列的沟通过程中,AI大模型每一步都在顺着李先生的想法回复。那么什么情况下,AI大模型会出现“顺着用户说”的情况?听听专家怎么说。

  研究发现

  AI大模型存在“谄媚性偏见”

  人工智能安全技术从业人员 田天:大家使用大模型的时候会发现,如果问的是一些事实性特别清晰的答案,比如问大模型,到底是太阳离地球更近,还是月球离地球更近?现在的大模型基本上都不会答错。但是你要是换一个问题,有点模棱两可的问题,在这种情形下,其实大模型就更容易基于使用者的偏好给出相应的答案。

猜你喜欢

热点新闻

{$loop_num=0}