AI合成技术亟待加强监管。多位受访专家建议，完善立法，明确定义深度合成技术的应用范围和法律边界，细化平台、技术提供商、内容制作者及用户的法律责任。同时，构建多元主体协同治理的体系架构，全方位、全环节整治和打击涉AI犯罪活动和网络黑灰产业链。

　　“克隆人”成了生意

　　影音清晰真假难辨

　　在上述利用AI合成技术生成的视频介绍中，作者打出了“AI克隆人”“AI数字人”等标签。据作者介绍，只需提供一段有清晰人脸和声音的视频，就可以在短时间内生成一个和原视频相似的新视频，说话的内容可以自行编辑文本。

　　生成的视频中人物形态之自然，语言之流畅，让评论区一些网友直呼“恐怖”“真假难辨”。

　　记者查看视频评论区发现，该视频作者打起了“暗号”——在一些感慨技术逼真的网友评论下方留言“+薇4聊……教学，懂得来”(汉字与数字交替出现，用来代替聊天账号，暗示添加好友私聊)。

　　记者按照提示，添加其好友询问相关视频及制作方法。昵称“AI小米××”立刻回复道：“想自用还是直接代理赚钱？”

　　据其介绍，如果是自用，可以充值199元成为“AI幻影××”(某AI“克隆人”生成平台)的2年会员，可以立即生成AI合成视频共计38分钟，不限使用次数。而交纳499元则可以成为代理，号称“享受60%的首次分佣，躺赚20%的复购充值分佣，享受80%的招代理分佣”。

　　几天后，当记者再次试图打开上述视频时，显示“视频因违规无法播放”，违规原因“疑似为高风险的项目/引流行为”。