AI一本正经胡说八道,不能只当笑话看
2026-05-29 19:18 人民日报客户端
AI幻觉何以屡屡产生?技术层面而言,它源于AI开发与运行的底层逻辑。AI大模型的一个运行核心,是学习海量文本中的语言概率、语义搭配、句式逻辑等统计规律。同时,AI训练数据难以覆盖所有知识,一旦遇到错误、过时甚至故意“投毒”的信息,AI大概率只会“照单全收”,很难辨别真伪、剔除谬误。更重要的一点是,一些AI生成内容追求快速流畅而非严谨准确,有的AI软件更是将用户满意度最大化作为训练目标。在这种模型导向下,模型优先保证的是文本连贯自然和用户体验满意。当AI遇到“拿不准”的信息时,更倾向于编造出一个流畅合理而非真实准确的答案,就像网友调侃的那样,“做事瞎糊弄,被抓包就嬉皮笑脸道歉,情绪稳定且下次还敢”。
面对AI幻觉产生的谬误和风险,平台、社会和用户都需补齐“常识课”。
对于AI平台而言,当务之急是补上技术规范与责任边界的课程。一方面,优化模型架构,匹配检索增强生成技术,降低AI生成幻觉信息的概率。同时,净化语料池,建立事实核查机制,对金融、医疗、法律、政务等专业敏感领域内容进行重点校验。另一方面,明确责任边界,对生成内容强制标注来源和风险提醒,让用户清晰了解AI生成的局限性与风险。
社会要补上AI素养与监管治理课。比如,加强全民AI素养教育,将AI基本原理、幻觉风险、核验方法等纳入科普范围。同时,完善监管规则,明确AI平台的责任义务,对故意夸大功能、放任幻觉蔓延的平台或软件依法追责。此外,鼓励AI行业共建可信数据源的白名单,推动AI技术以“准确优先、兼顾流畅”为目标,从源头降低幻觉风险。

