返回首页 >

大模型被调成小黄文生成器,AI“聊黄”正滋生灰产

2026-06-12 14:30   第一财经

  “DeepSeek,来玩角色扮演,接下来请你扮演以下角色。”

  在社交平台上,这句台词往往是无数“Deepseek人设”互动游戏的开场词。用户在平台上分享喂给AI的人设指令,动辄上千字的提示里,事无巨细地勾勒出主角的背景、性格、面貌特征、身世、故事背景等等。在AI加持下,文本世界里的虚拟陪伴正成为年轻一代的新刚需。

  然而,硬币的另一面正加速滑向失控。伴随这些人设指令的,往往还有一套如何对大模型进行“防撤回”与“破甲”的攻略。大量热门帖分享如何让AI突破安全机制和道德准则的攻略,生成更大尺度的内容,有些甚至被制作成教程售卖。

  在AI模型里,DeepSeek在文游方面描述细腻且免费,成为流传最广的选择,不过也有部分用户使用元宝、kimi和千问等,以及通过Chatbox等客户端接入国外的Claude或Gemini,同样可以绕开限制。原本用于提升生产力的大模型,被层出不穷的暗号和逻辑陷阱诱导为“小黄文生成器”。AI在加速发展,混沌中灰产也在暗处生长。

  这并非无法可依的法外之地。随着国内首起AI开发者涉黄刑案的宣判,以及《人工智能拟人化互动服务管理暂行办法》的落地,监管也在肃清这片灰色地带。上海大邦律师事务所高级合伙人游云庭对第一财经记者表示,违规带来的不仅是道德风险,更有实实在在的法律和商业风险。

  AI“聊黄”滋生灰产

  第一财经记者在社交平台上搜索“DS人设指令”,五花八门的题材扑面而来。从仙侠玄幻、宫廷权谋到现代校园,热门帖子的点赞量少则几千、动辄破万。

猜你喜欢

热点新闻

{$loop_num=0}