返回首页 >

新华调查丨AI提供的信息不靠谱,开发者要担责吗

2026-03-30 16:59   新华社

  杭州互联网法院跨境贸易法庭庭长肖芄认为,AI生成的不准确信息本身并不构成侵权,需要考查的是提供服务的开发者是否存在过错。

  那么,如何界定开发者是否有过错?肖芄进一步解释,基于当前生成式人工智能几乎不可避免会出现一定程度的信息偏差,就需要考查比如开发者是否使用了当前行业内通行并被证明有效的措施,来提升技术可靠性,降低错误发生的概率,由此证明是否存在过错。

  “经过调查,本案中的开发者确实采用了可行的技术手段,力求降低错误发生。”肖芄说。

  记者调查发现,本案中这款生成式人工智能应用程序,已经针对信息可能存在的不准确性,在页面醒目位置对用户进行提示:“内容仅供参考,请仔细甄别”。法院认为,这也证明了开发者尽到了提醒告知义务。

  如何找到促进创新和权益保障的平衡点?

  人工智能行业业内人士表示,从底层技术逻辑来看,当前生成式人工智能基本都是基于词元的预测,如果这一底层架构没有发生根本性转变,信息偏差就不可避免。去年2月,清华大学新媒沈阳团队发布的一个报告指出,市场上多个热门大模型在事实性幻觉评测中幻觉率超过19%。

  “有训练测试案例证明,即使数据集中只有0.01%和0.001%的文本是虚假的,模型输出的有害内容也会分别增加11.2%和7.2%。”该业内人士说。

猜你喜欢

热点新闻

{$loop_num=0}