据中央广播电视总台报道，最近，一批名叫“小海”的苦命男孩在短视频平台上批量涌现，他们对着镜头哭诉着单亲、窘迫的身世，让不少中老年人看了心疼落泪，纷纷下单买货帮扶，甚至有老人独自坐火车前去探望。然而，这个“贴心晚辈”现实中根本就不存在，全是由AI合成的“数字人”。另据澎湃新闻报道，10月18日凌晨，一位演员在微博发文，怒斥某自媒体账号利用AI技术冒用其形象和声音进行带货，质问对方“骗了多少人的钱？请如数奉还”。

　　批量生成“假晚辈”、利用AI技术仿冒演员带货，相关账号其实按照《人工智能生成合成内容标识办法》相关规定，标注了“内容由AI生成”，有的平台还提示“请谨慎甄别”。这种操作看似保障了观众和粉丝的知情权，但标注“AI生成”改变不了该类账号的虚假人设、虚假短视频内容欺诈大众的客观事实和本质，不但没有起到对虚假内容的拦截作用，相反更像是虚假内容欺诈合规化的通行证。

　　AI生成标识制度的目的，是客观呈现网络内容制作方式，但现实中，上述账号中“AI生成”字样较小，一些目标人群或是较难注意到“AI生成”标签，或是不太了解“AI生成”的真实含义，因而很容易被相关视频所误导，进而信以为真。