“随着技术快速进步，AI工具易获取性越来越强，AI技术的使用门槛降低，这对行业发展来说是好事，但也意味着通过各种动机生成AI内容的成本降低了。”萧子豪透露，对于有一定技术基础的个人或公司来说，基于开源社区里的免费资源，只需要花费万余元，就能在家中配置一台小型服务器，并让一些能够进行智能语音合成、视频生成的开源模型在服务器上“跑”起来，产出各种AI音视频内容。

　　“AI工具本身是中性的，如何避免工具被不良动机的人滥用，是监管部门、平台需要进一步探索的。”在萧子豪看来，由于个人用户判别能力有限，平台应尽可能对于所有的人工智能生成内容进行明显标注，并提醒用户或观众进行交叉验证，避免被误导甚至遭遇诈骗风险，但目前来看，各平台尚未对此做出足够的投入。

　　侵权主体及其手段隐蔽性强等特点，也给AI魔改的治理带来较大挑战。记者体验可灵AI、海螺AI等视频生成平台发现，非会员用户制作的AI生成视频会自动打上“某某AI”的水印，但如果用户花上十余元到数十元不等的会员月费，就能实现无水印。“当你看到一段AI魔改视频时，早已不知转手了多少次，而最初制作这个视频的人和AI工具也极难溯源。”萧子豪说。

　　小米创始人雷军发文建议加强对AI换脸拟声的治理。他建议，应明确AI换脸拟声应用的边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的处罚力度。相关部门应支持平台企业开发可精准识别人工智能深度合成内容的技术能力，优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制，确保及时阻断问题内容传播。（北京日报）