中央网信办部署开展“清朗·整治AI应用乱象”专项行动
2026-04-30 17:02 网信中国微信公众号
第一阶段重点整治7类突出问题:一是未按规定履行大模型备案登记义务。未按照《生成式人工智能服务管理暂行办法》规定,向网信部门履行备案登记程序,存在“应备未备”情形。二是AI平台安全和审核过滤能力不足。模型底层安全能力缺失,在设计训练及部署应用阶段,价值导向存在偏差、纠偏能力不足。缺乏安全围栏机制、审核过滤能力不足,生成违法不良信息,或在生成内容中包含违法不良信息的云盘及网站链接。三是大模型训练语料安全问题。训练语料审核把关不严,模型训练数据存在违法不良信息。训练数据来源合规性存在问题,模型训练过程中使用未经授权的文字、图片、音视频等数据。训练数据覆盖面不足、高质量语料缺乏。四是AI数据投毒问题。通过篡改训练语料、伪造权威数据、使用GEO(生成式搜索引擎优化)技术恶意营销等方式实施AI数据投毒。炒作、教授AI数据投毒方法,或在电商平台兜售教程及工具。在模型生成回答过程中,对引用信源缺乏交叉验证和风险提示机制,未标注引用信息链接。五是生成合成内容标识落实不到位。未落实《人工智能生成合成内容标识办法》及配套强制性标准要求。未对生成合成内容添加标识或标识大小、位置、透明度等不规范。未落实跨平台隐式标识互识互认义务、未按要求在生成合成内容周边添加显著提示标识或对生成合成内容识别能力不足。存在教授去除AI标识的教程信息、提供违规“去标识”工具服务。六是滥用AI技术开展违法违规活动。借助AI技术实施渗透入侵、恶意样本注入、破坏计算机系统等网络攻击行为。未经他人授权,利用AI技术提供“换脸拟声”服务。


