AI剧情聊天软件乱象:角色扮演背后的擦边色情和语言暴力
2024-11-23 19:30 法治日报
记者选择“否”选项,而网页并未限制内容访问,反而继续展示了包含“强攻”“弱受”“病娇”等标签的人物角色分类。这些分类与选择“是”选项、确认年满18岁后所展示的内容并无显著区别。
记者进一步观察发现,这些人物角色的图像大多衣着暴露,且其简介中充斥着性暗示和暴力元素,例如:“班上那个性格内向的女孩问你要电话号码,然后给你发她的裸照”“自杀、焦虑”等描述。
在某社交平台上,一位来自浙江的网友在关于AI聊天体验的交流帖子下方留言:“我发现了一个很好玩的网页,无限制词,想要的可以私信我。”记者通过私信与该网友取得联系,获得了其提及的AI聊天网页链接,进入该网页后,页面上充斥着大量涉及色情内容的角色设定和故事场景,内容直白露骨。
该网站要求用户登录后才能与角色进行聊天,且在登录前会有提示信息:“登录后解锁所有功能。”用户需点击“我已满18岁,开始登录吧”的按钮方可继续,若选择“取消”,则无法登录并使用该服务。尽管网页设置了年满18岁的限制提示,但实际上,即便未成年人点击了登录按钮,系统也并未采取任何措施验证用户的真实年龄。
引导用户为爱氪金,平台治理存在不足
除了聊天内容直白露骨、语言暴力之外,一些AI剧情聊天软件的功能使用也与充值机制密切关联,例如通过充值VIP会员或购买虚拟钻石等,增强智能体的记忆力、加速智能体的回复速度、解锁语音通话功能等,吸引未成年人“氪金”。
北京初中生小宁在几个AI剧情聊天软件上的充值金额从几百元到上千元不等。