揭秘“AI假医生”:2分钟就能生成,张口就说“吃了就好”“我自己也在用”,可不带AI水印
2026-10-13 13:51 中新经纬
中国信通院人工智能研究所安全治理部工程师陈杰告诉中新经纬,治理虚拟“医生”带货乱象,在技术层面有“证真”与“鉴伪”两大类主流方式。
“证真”是靠给AI生成合成内容添加显式或隐式标识。但陈杰表示,当前部分网络传播内容未规范标识:有的标识浅淡、位置不明显;有的仅在标题标注“#AI视频”;有的标题和画面均无提示。这增加了普通用户辨别真假的难度。
“鉴伪”则靠技术检测,即通过AI生成合成内容检测技术对多模态合成内容进行自动识别,从生成内容存在的纹理异常、光影偏差、生理特征失真等特征入手,判断内容是否由AI生成。
按照《人工智能生成合成内容标识办法》及配套强制性国家标准的要求,网络平台需部署相应的检测能力,即使发布视频的用户未主动勾选AI生成相关选项,平台也有义务对疑似AI生成合成的内容主动识别,并采取添加显著标识、限制传播等处置措施。
就普通人尤其是老年人如何肉眼分辨数字人“医生”,陈杰建议关注三点:一是画面渲染特征,AI生成人物的皮肤纹理与光影过渡通常过于平滑、亮度偏高,口型与语音易不同步;二是生理与动作逻辑,如人物咀嚼进食只见张口动作不见食物、讲话不见舌头;三是画面文字要素,AI对复杂文本的渲染能力不足,背景中生成的字幕、标识文字常出现错字、笔画粘连、扭曲变形等问题。
陈杰指出,AI合成内容已在短视频平台规模化渗透,老年群体对AI生成技术普遍缺乏基础认知,更易误认。他建议,借鉴反电诈宣传经验,依托社区宣传、家庭代际提醒等渠道,开展AI内容识别科普,提升老年群体媒介素养与风险防范意识。
(中新经纬APP)



