“地震被压在废墟下的小男孩”居然是AI生成的 记者调查→
2025-01-10 06:16 央视新闻客户端
记者也试着用了一款剪辑软件,只用30秒就生成了一则所谓的“地震报道”。
记者在一款用户量庞大的剪辑软件中,使用其提供的AI视频生成功能,输入一句关于小女孩在地震中被救出的文字描述,不到30秒钟,软件就生成了一段20秒左右的视频,并提供画外音解说。视频中并未标注“AI生成”字样,软件也没有要求用户添加这样的标识。
而在引发大量关注的“被压废墟下的小男孩”图片和视频中,创作者何先生也告诉记者,AI软件没有强制要求标注“AI生成”字样,是自己在视频上方添加了水印,但后来被盗用者删掉了水印。
有人工智能研究者表示,目前亟须建立统一的规范要求,避免AI以假乱真。
吉林大学人工智能学院院长 宋轩:无论是我们个人上传的相关的由AI生成的视频或者图像,还是由软件包括平台发布的等等相关的AI生成的内容,我觉得必须遵守披露和声明原则。所有的内容如果是由AI生成的,无论是在生成的过程中,还是上传的过程中,需要进行声明和披露,就是要明确标注出来,说这个内容是由AI生成的。我觉得对于个人用户,这也是我们在使用AI的过程中应该遵守的一个基本原则,一个道德准则。
AI软件生成的内容是否需要主动标注?
那么,由AI软件生成的图片和视频,究竟该不该主动标注由AI生成?
去年9月,国家互联网信息办公室发布关于《人工智能生成合成内容标识办法(征求意见稿)》,其中提到: