中新经纬8月6日电 (谢婧雯)有网友因轻信某AI关于机票退票手续费的回复损失600元；有消费者用AI预约餐厅到店后被拒；还有农民按AI推荐的除草配方喷洒农药，导致150亩芝麻苗一夜枯萎……AI幻觉给用户带来麻烦甚至造成财产损失已非个例。

　　近日，话题“豆包究竟见过多少人的糗事”登上微博热搜。当AI深度融入人们生活后，它也制造了不少离谱的“翻车”现场。

　　AI幻觉从何而来？因AI犯错遭受损失，用户该如何维权？平台“内容由AI生成，请仔细甄别”的提示能否成为免责金牌？

　　AI幻觉从何而来

　　所谓大模型幻觉，主要表现为模型生成的内容不符合用户输入要求，或者与客观事实不一致。

　　长期埋头于学术研究的人对AI幻觉肯定不陌生。

　　不少人有过类似经历：让AI提供某项内容来源，它迅速甩出一篇看似无懈可击的文献——标题专业、作者是“大牛”、刊载于国际顶级期刊，卷号页码也完全符合GB/T7714参考文献格式。可手动去检索DOI(可视作论文身份证)后发现，这篇文章压根不存在。

　　网友常吐槽的“豆包型人格”，根源同样是AI幻觉。当用户向AI助手“豆包”提问时，它常顺着问题回答，遇到拿不准的内容，也会理直气壮地瞎编一通。

　　AI为何会一本正经地胡说八道，认错态度诚恳却转头继续犯错？这背后的技术原理是什么？

　　中国信息通信研究院(下称信通院)人工智能研究所安全治理部主任石霖告诉中新经纬，大模型本质上是一个概率性输出系统。“它其实不知道问题对应的真实答案是什么，只是计算后觉得某个字、某个答案的概率更高，就把最高概率的回答输出。”