日前，中央网信办AI内容强制标注新规全域落地，同时“清朗·整治AI应用乱象”专项行动持续推进。

　　近期，理想汽车遭AI批量造谣抹黑、AI伪造高考谣言引发恐慌等事件频发。AI技术在带来便利的同时，造谣引流、侵权诈骗、虚假营销等乱象滋生蔓延，侵害公众与企业权益，扰乱网络秩序，治理工作亟待深化。

　　一是AI违规生成花样百出，信息真伪辨别难度陡增。当前AI图文、短视频生成门槛极低，部分自媒体为博流量，一键批量制作虚假资讯、伪造名人言论、编造政策谣言，造谣成本近乎为零。AI换脸、人声复刻、深度伪造等技术被滥用，用于制作低俗内容、实施电信诈骗，甚至炮制虚假突发事件，误导公众认知，引发社会恐慌。此类内容传播速度快、扩散范围广，覆盖全年龄段网民，严重污染网络生态。

　　二是行业监管存在短板，技术治理体系尚不健全。AI内容治理涉及网信、公安、市场监管等多部门，职责划分不够清晰，存在监管衔接不畅问题。平台审核机制滞后，面对海量AI生成内容，人工审核难以全覆盖，算法识别准确率不足，导致违规内容漏网传播。AI内容溯源与追责机制不完善，批量造谣账号隐蔽性强，跨平台作案取证难、追责难。

　　同时，部分平台主体责任落实不到位，为流量默许违规内容传播，加剧乱象蔓延。