返回首页 >

AI换脸+拟声 “深度伪造”的迷局何时能解?

2025-03-23 06:09   央视新闻

  专家表示,AI换脸和换声之类的软件,属于半专业软件,普通网民还不能轻松掌握。但是,记者在调查中发现,普通网民即便不能掌握技术,也能轻松获得自己需要的合成视频。

  在购物平台搜索声音克隆,就会出现众多商家。记者发现声音AI深度合成的价格,根据字数不同在20到50元之间。商家告诉记者,只要提供一分钟的语音素材,就可以用AI深度合成该声音的任何话语。其中一个商家还给记者发来了此前客户在他的网店定制的刘德华的声音。

  总台央视记者崔世杰介绍,AI深度合成视频分两个步骤,

  首先是声音克隆,获取目标人的声音。

  再用目标人的一段视频,将克隆好的声音与之合成,并进行嘴型匹配。

  这样一个AI深度合成视频就完成了。

  记者选择一家声音克隆的网店,在支付了20元提供了自己的声音模板和文字后,得到了AI深度合成的记者的声音。

  记者随后在另一家AI制作视频的网店,支付58元,提供AI深度合成的记者声音和视频后,就得到了AI制作的记者自己的带货视频。

  AI伪造视频

  违反了哪些法律法规?

  针对AI深度合成作品,法律法规有明确的规定。2023年施行的《互联网信息服务深度合成管理规定》要求,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。

猜你喜欢

热点新闻

{$loop_num=0}