AI“苦命男孩小海”收割老人,平台审核不能总是被动响应
2026-10-20 15:50 澎湃新闻
平台并非没有动作。多数小海视频左下角标注了“内容由AI生成”,部分账号简介还写着“AI数字人,大家理性看待”。从形式上看,平台似乎履行了告知义务。但对一些不识字、不了解AI的老人而言,怎么可能注意到这一行小字,又怎么能理解AI生成对“这个孩子是否存在”意味着什么?
标识的目的本是提醒,而当提醒的对象未必能马上接收和理解时,这行小字就只剩下了平台用来切割责任的符号意义。标注“AI生成”改变不了虚假人设和欺诈内容的本质,反而可能变成虚假内容合规化的通行证。
更关键的问题在于,平台把治理重心放在了事后。曝光之后,部分AI小海账号改名、删视频、被禁止发布作品,看上去雷厉风行。可这种“打地鼠式”处置的被动性显而易见:封掉一个小海,批量生成的下一个小海立刻补位,因为生产成本太低,而平台的事后封禁远远赶不上账号复制的速度。在短视频平台可以看到,媒体曝光之后,“海海会努力”等账号已被封,但还有“海海要努力”“努力的海海”等账号继续立人设,只要前端审核不充分,后端处置就永远在追着骗术跑。
平台手握算法、数据和审核能力,完全有能力把责任前置。识别一个AI小海并不需要多么复杂的技术:同一套少年形象反复出现,话术高度同质,评论区充斥着老年用户“心疼”“下单”的留言,带货指向明显高于市场价的商品——这些信号足以让一个高风险账号在发布阶段就被拦截,而不是等到媒体曝光、老人独自出行要去看望之后才被动响应。








