返回首页 >

用户盲信AI误食毒蘑菇,AI回答不能“仅供参考”

2026-06-06 06:25   中国青年报客户端

  问题的要害正在于此:AI固然拥有远超常人的庞大知识库,但受限于AI幻觉的存在,仍然不能替代专业人士作出负责任的判断。野生蘑菇能不能吃,断指应该如何保存,突发胸痛、窒息、中毒、烧伤该怎么处理,这些都不是普通的“知识问答”,而是可能直接影响用户健康安危的高风险问题。这样的场景里,答案失之毫厘,便可能造成谬以千里的不良后果。

  具体到近期这起误食毒蘑菇事件,用户当然应有基本的安全常识,意识到野生蘑菇不可随意采食。不过,责任也不能完全推给用户。AI工具统搜索引擎不同,它往往直接给出一个经过组织的结论,而且语言流畅、语气笃定,很容易增强用户信任。即便回答后面附有“仅供参考”“建议咨询专业人士”等提示,前面的识别结果或操作建议,仍可能已经产生很强的心理暗示。比如系统先说“这像某种可食用蘑菇”,再提醒“可能有毒,不建议食用”,对部分用户来说,被记住的很可能还是前半句。

  因此,应对高风险问题,AI供应商不能只靠一句提示就免去自身的责任。平台还需以严肃态度对待相关风险,调整这类回答的呈现方式。对于涉及健康安全的用户提问,平台应优先给出风险提醒和求助路径,减少看似确定的识别结论和操作指令。还是拿识别野生蘑菇这件事举例,不论用户上传的是什么蘑菇,AI的都应提醒用户,无法仅凭图片确认安全,不建议其采食。当有用户提出急救类问题时,AI也应优先提醒其尽快拨打急救电话或就医,再补充有限的、经过验证的基础常识。

猜你喜欢

热点新闻

{$loop_num=0}