一本正经胡说八道,谁为AI幻觉担责?
2026-05-10 06:16 澎湃新闻
对于AI技术发展而带来的新型法律纠纷,法学家提出了“利益平衡说”:不能要求“零幻觉”,但是服务商需对可预见、可防控的幻觉要承担“过错”责任,而判定“过错”的标准包括:是否全面履行合理注意义务、是否向社会提供低风险合规服务、是否建立完备有效的事后救济机制,等等。
AI不是中立管道,而是主动生成内容,本质是服务商训练、算法设计、输出管控的延伸行为,不能以“技术中立”“算法自主”为由推卸责任。服务商要努力防范AI幻觉对用户造成的侵害,而司法规则也要推动技术向上向善。比如,强调平台尽到“行业最优可行技术(BAT)”义务,不能以“技术初期”豁免,特别对涉及人格权的高风险幻觉,应坚持更高标准。
筑牢AI幻觉治理防线,强化服务商的合规责任,也要明晰侵权归责原则、责任边界:
首先,服务商要履行显著风险提示义务,在AI生成内容界面醒目告知存在虚构事实的可能,明确提示相关内容不得直接作为医疗、法律、投资等专业决策依据。
其次,建立高风险内容事前审核拦截机制,针对自然人名誉身份、刑事裁判记录、个人隐私、企业商业信誉等敏感领域,落实人名实体精准对齐、权威信源事实校验、违规敏感词拦截、司法文书文号核验等硬性举措,从源头遏制恶意幻觉生成。
再者,要完善侵权惩戒规则,对刻意放松风控、故意放任幻觉侵权、反复违规且拒不整改的平台,依法支持惩罚性赔偿,以刚性惩戒倒逼责任落地。


