雷军、刘德华成受害者 总台揭露AI合成名人音视频乱象
2025-02-16 19:45 央视新闻客户端
从恶搞企业家雷军到AI制作张文宏医生音视频为自己带货,甚至还有不法分子利用AI深度合成视频,进行诈骗。过去一年,AI深度合成音视频侵权现象愈演愈烈。
此前就曾有网友曾利用AI制作的刘德华声音,为自己博取流量,刘德华电影公司还紧急发布声明提醒网民,不要落入伪造刘德华声音的AI语音合成技术骗局。近日记者调查发现,实现AI深度合成音视频并不算难事,甚至在一些购物平台,AI深度合成技术已经成为众多网店牟利的工具,只需花费几十元,就可定制AI深度合成名人音视频。
网络主播直播教学
用开源工具AI深度合成
这些AI深度合成的声音和换脸是如何制作出来的?记者调查发现,相应的深度合成软件在网络上下载并不算难,而且还有一些网络主播会开直播教网友如何使用。
记者在手机应用商城搜索换脸换声,会出现众多工具。不过记者发现换脸工具,设定了固定的场景,且从效果看逼真度不高。那么网店制作的逼真度高的AI深度合成的声音和换脸是如何做到的?
中国网络空间安全协会人工智能安全治理专业委员会专家 薛智慧:当前咱们有很多开源的这些软件和工具都可以实现这种换声换脸的效果,可以供网民自由下载,在自己的电脑上进行安装和使用。