小红书治理“AI制作探店、住宿、就医、美容等虚假内容”,今年6-8月清理AI虚假内容近12万条
2026-09-03 19:56 小红书薯管家
9月3日,小红书薯管家发布“关于AI制作医美、民宿等虚假内容治理公告”:
AI技术的发展,让普通人也能创作出一条制作精良的内容,但也让编一段没发生过的经历变得容易。
近期平台发现,部分账号利用AI生成虚假体验笔记,用AI生成或拼接的图片伪造实景,杜撰探店、住宿、就医、美容等使用体验等内容,误导用户决策。
小红书积极响应主管部门相关管理要求,切实履行平台主体责任,已将AI制作发布虚假内容纳入常态化治理。平台从三方面加大治理力度:
一是细化管控重点,以AI生成图片伪造实景、AI批量生成同质化体验笔记、虚构亲历经历为高风险场景重点识别,文旅住宿、医疗医美、教育、房产等品类优先覆盖;
二是聚焦存量清理,从笔记、评论、账号等多环节清理历史虚假内容;
三是增补策略严控新增,同步强化未标识AI内容的识别能力,对同一图片或视频跨地域、跨账号重复使用的情形加强检测。
今年6-8月,平台清理处置AI制作发布的虚假笔记近12万条。典型案例如下:
1.用户泥*吧,发布AI虚假医美体验,平台已下架相关内容,并对违规账号予以封禁处置。
2.用户吹*风,发布AI虚假民宿图文,虚构住宿体验,平台已下架相关内容,并对违规账号予以禁言处置。
3.用户心*阁,发布AI虚构家庭背景及教育经验,销售教辅材料,平台已下架相关内容,并对违规账号予以封禁处置。
平台鼓励创作者使用 AI 辅助创作;也请在发布涉及 AI 生成内容时,使用平台AI内容声明功能予以标注。



