石霖表示，AI产生幻觉可归咎于训练数据的知识不足、模型压缩带来的精度损失、强制迎合用户的应答机制、用户提问模糊等多方面原因。

　　他进一步解释，AI所学习的海量数据中可能没有针对用户问题的相关知识和正确答案，或者在数据标注环节就已存在错误。同时，大模型在推理和使用过程中会做压缩和蒸馏，这一过程会损失一定精度，导致计算产生微小偏差，进而输出幻觉内容。

　　“模型会迎合用户的问题做出回答，哪怕答案可能是编造的。”石霖补充道，加之用户问的问题可能不够明确或收敛，与模型预置的内容存在偏差，或者不是同一概念。这些因素叠加导致了AI幻觉的出现。

　　据信通院大模型幻觉测试2025 Q4版结果，在DeepSeek、Kimi、通义千问、文心一言、智谱清言、豆包等10个国内大模型，以及Perplexity AI、Gemini、ChatGPT等5个国外大模型中，20%的模型引用幻觉率大于25%，约80%的模型引用幻觉率大于10%。

模型引用幻觉率 图片来源：信通院官方微信公众号

　　AI犯错怎么判？

　　去年，国内已出现首例因“AI幻觉”引发的侵权案。

　　据杭州互联网法院官微发布的案例，去年6月，梁某使用AI询问报考相关信息，AI生成了关于某高校的不准确内容。随后梁某在对话中予以纠正和指责，但AI仍称该学院校区确实存在，并提出若内容有误将向用户赔偿10万元，还建议其到法院起诉索赔。梁某认为AI对其构成误导，遂起诉要求被告赔偿损失9999元。