国家网信办等七部门联合发布的《生成式人工智能服务管理暂行办法》明确要求人工智能的开发运营者在训练环节，要对训练素材进行审查，不得包含违规、违法数据。在输出环节，应当建立内容过滤机制，要对生成结果进行内容审核和技术过滤，发现暴恐、谣言、淫秽色情等违法内容要及时处置。

　　游云庭认为，主观上以营利为目的、客观上组织并放任大规模淫秽内容生成的行为，如果不加制裁，势必引发“剧场效应”。AI平台做色情内容，本质上都是在投机取巧，虽然能带来短期的流量和关注，但对社会危害巨大，从商业角度看，不合规也是短视的。

　　技术本身是一面镜子，映照出的是人性的复杂与幽暗。部分用户钻算法漏洞以满足私欲，或许是人性中难以根除的噪点。但作为商业主体的AI平台与开发者，应该坚守的是，凭借AI的功能和价值来吸引用户，而不是通过突破底线来博取眼球。色情流量来得快，法律的清算却从不撤回。（第一财经）