返回首页 >

别让AI健康助手成为药品夸大宣传的帮凶

2025-07-17 10:22   北京青年报

  若AI健康助手持续充当虚假宣传的“帮凶”,后果不堪设想。老年群体本就是健康谣言的主要受害者,他们更容易相信“一吃就灵”“彻底根治”等话术。当AI用看似专业的语气复述虚假信息时,不少老年人很难分辨这是广告还是科学建议。尤其是,一些AI虽然在对话的末尾加上“请遵医嘱”等提醒,但是在前文用大量篇幅渲染产品功效,这种“先误导再甩锅”的操作,更容易混淆视听。

  拦截误导信息应成为AI健康助手的基本功,为此需从技术和管理两端发力。技术层面,建立医疗信息核验系统,强制要求AI在提供药品建议时,必须交叉验证信息来源,对曾经受过处罚的产品自动标注风险提示。如果出现多人举报AI健康助手推送误导信息现象,则应暂停提供相关内容,并迅速开展技术升级改造。管理层面,需明确AI医疗应用的责任边界,要求应用管理方完善内容审核机制,对涉及药品推荐的功能进行专项备案,避免AI助手随口一说、事后不管。

  当前市面上这类AI产品品类丰富,既有通用大模型工具,也有专业医疗工具。这些产品在健康科普、慢性病管理等方面已展现出实用价值,其超强的功能让人惊叹。但正如合格的医生既要会看病,更要能辨别伪科学一样,AI健康助手的基本功里,也要包含对虚假信息的快速识别与拦截能力。唯有如此,AI不会成为健康风险的放大器,而是真正服务于健康与医疗。

  

责编:孙海燕

猜你喜欢

热点新闻

{$loop_num=0}