6月14日，中央网信办AI内容强制标注新规全域落地，同时“清朗·整治AI应用乱象”专项行动持续推进。近期，理想汽车遭AI批量造谣抹黑、AI伪造高考谣言引发恐慌等事件频发。AI技术在带来便利的同时，造谣引流、侵权诈骗、虚假营销等乱象滋生蔓延，侵害公众与企业权益，扰乱网络秩序，治理工作亟待深化。

　　AI违规生成花样百出，信息真伪辨别难度陡增。当前AI图文、短视频生成门槛极低，部分自媒体为博流量，一键批量制作虚假资讯、伪造名人言论、编造政策谣言，造谣成本近乎为零。AI换脸、人声复刻、深度伪造等技术被滥用，用于制作低俗内容、实施电信诈骗，甚至炮制虚假突发事件，误导公众认知，引发社会恐慌。此类内容传播速度快、扩散范围广，覆盖全年龄段网民，严重污染网络生态。