刷屏的“医保局张主任”背后,有人负责AI合成,有人炮制“爆款”信息,有人趁着凌晨发布,有人盯着流量补贴
2025-05-29 06:29 法治网
回到文章开头讲述的那个故事,小李发现母亲转发的“AI专家”后,没有立刻反驳,而是默默截图、上传至举报平台。20分钟后便收到反馈:“举报通过,违规作品已下架。”她顺手将处理结果转发到家族群,留言:“下次看到这类‘说话像机器人’的专家,先点举报!”
对小李的这一做法,陈兵也持同样态度,“发现疑似AI谣言等虚假信息,可向平台及监管部门举报,共同净化网络环境。”他表示,治理AI谣言需技术手段与制度保障双管齐下。
陈兵建议,平台需提升多模态AI检测能力,如结合声纹、语义、画面匹配度等识别技术筛选可疑内容,并建立“AI初筛+人工复审”的分层机制,对疑似账号及时筛查。监管部门则需在完善AI内容法规的同时,运用“技术监管技术”的思路,建立对平台和自媒体的常态化技术监测机制,提升AI谣言的识别处置效能。
周垂坤认为,治理AI谣言需从技术拦截、法律追责、公众教育等多维度构建防御体系。他指出,用户需提升辨识能力,对“无信源、情绪化标题”内容通过官方渠道交叉验证。平台应完善AI内容识别技术,建立谣言特征数据库,通过技术手段拦截高风险内容,并对违规账号实施封禁、限流等刚性措施。自媒体需要强化法律合规培训,避免借助AI技术“蹭热度”。同时,他呼吁监管部门加强AI生成内容备案管理,留存追溯日志,以专项行动打击造谣产业链,以提高违法成本形成震慑。

图源:“央视新闻”视频截图