返回首页 >

越来越多人学习工作中拿AI当“全能搭子”,遇事不决问AI靠谱吗?

2026-06-04 06:21   北京日报客户端

  根据解释,“AI幻觉”通常指大语言模型在缺乏真实依据的情况下,生成看似合理但实则存在事实错误或逻辑谬误的内容。“AI幻觉”往往是以看似逻辑自洽、表述严谨的方式生成虚假信息,尤其在回应严肃知识性问题时,会凭空捏造事实、杜撰不存在的学术文献,甚至伪造个人信息,且往往伪装得极为逼真。

  在哪些场景下,AI容易“胡说八道”?记者将这个问题抛给Deepseek,得到了比较具体的答案。根据Deepseek的回答,AI在具体事实与数据、最新事件、小众或专业领域、逻辑推理、预测未来、解释主观或模糊概念、顺从用户预设等7个方面容易犯错。

  比如某个人物的出生日期、某个事件的具体时间地点,AI可能会把相似信息混在一起,编造出看似合理但实际错误的内容。一些冷门知识,例如某些冷门书籍的内容、偏远地区的法规细则等,由于数据不足,AI也容易“瞎编”。以Deepseek为例,它的“知识储备”截止于2025年5月份,在此之后发生的事,如果没有开启联网搜索,它就可能会给出过时或虚构的信息。

  需要注意的是,至于“明年房价会涨吗”这类问题,AI虽然会基于规律给出推测,但本质上只是文字组合,并非可靠预言。至于价值判断类的问题,例如“为什么张三是个坏人”,AI可能会顺着假设回答,但实际上张三这个人可能并不存在。

  为什么AI会出现“幻觉”?记者了解到,AI助手本质上是一个大型语言模型,通过学习海量文本中的统计规律,来预测下一个最合适的词。简单来说,AI并不知道自己说的内容是什么,这就像一个人背下了很多对话模板,能流利聊天,但没真正理解内容。

  有“AI依赖症”的人更容易被忽悠

猜你喜欢

热点新闻

{$loop_num=0}