返回首页 >

AI犯错,用户买单:“仅供参考”能免责吗?

2026-08-06 14:58   中新经纬

  中新经纬梳理发现,Kimi、千问、DeepSeek等主流AI平台均在用户协议中规定,生成内容仅供参考,用户须自行核实其真实性与准确性,不得将AI输出作为医疗、法律、金融等专业领域的决策依据。其中千问强调,涉及信贷、教育、雇佣、住房、保险、医疗等重大事项决策时,须经人工审核。

  对此,杨兆全认为,AI的风险提示并不构成绝对免责。例如豆包对话框上方“AI生成可能有误,注意核实”的提示仅为普通风险告知,属于格式条款,不能完全免除平台的法定责任。若AI虚构了可核验的官方规则或服务功能(如机票退改政策、餐厅预约服务等),而平台未进行事实校验和场景风控,即便有上述提示,仍可能被认定存在过错。

  专家表示,AI幻觉在现有技术水平下,无法根除。石霖提到,用户可将AI生成的内容输入多个模型相互校验。“如果想要规避AI幻觉,可以选择不用大模型做知识存储,而是调用外部数据库或知识库。”

  除了让用户懂得模型的使用边界,石霖也建议,模型厂商可用技术手段检测模型回复内容,如果涉及金融、医疗等敏感场景,应做一些技术处理,规避模型独立生成答案的可能。或者在设计其他场景服务时,真正连接到相应的企业,提供如预订等真实服务。

  (中新经纬)

  

责编:马婉莹

猜你喜欢

热点新闻

{$loop_num=0}