返回首页 >

“地震小孩被埋图”系AI生成 记者实测:多数AI软件成图无提示 发布者会被追责吗?

2025-01-09 09:11   红星新闻

  为测试该类图片的生成过程,红星新闻记者尝试在多款AI智能生成软件中进行相关图片生成,多数软件生成图片无风险提示,如在一款AI智能APP中,记者输入“日喀则地震婴儿被埋”的关键词,软件在未给予任何侵权、违规、虚假信息等干预提示下,自动生成了多张相关图片。

  对此,北京京展律师事务所主任律师张晓玲分析认为,AI软件在输入有关地震等关键词时,未给出任何“不传播虚假信息”等提示,直接生成相关图片,存在不妥。

  “AI软件在算法上,应当也有能力对关键词进行识别,需要具备一定的道德和法律的判断能力,在用户输入关键词时给予明确的警示,避免生成和传播虚假信息。”张晓玲说。

  而在发布环节记者也发现,上传上述AI生成的“地震婴儿被埋”图片后,记者随机配上音乐,并标注“日喀则地震孩子被埋,祈求平安”等字样,相关视频便被顺利发出。视频发布约1小时后,相关内容下方出现“疑似使用AI生成技术”的平台小字提示信息。测试完成后,记者也随即删除视频内容。

▲引热议的“地震小孩被埋图”被曝去年就在某平台的一条短视频中出现过,并声明是AI生成

  针对该情况,红星新闻记者以网友身份询问抖音客服,一名接线人员回应称,按照先行审核程序,AI生成的图片及视频只有在创作者发布后,平台才能进行识别和审核。若审核发现为AI图片,平台会在内容底部标记“疑似使用了AI生成技术,请谨慎甄别”字样。

猜你喜欢

热点新闻

{$loop_num=0}