AI剧情聊天软件乱象:角色扮演背后的擦边色情和语言暴力
2024-11-23 19:30 法治日报
“一方面想支持自己喜欢的角色,另一方面也想获得更多的付费权益。因为仅购买基础服务的话,用户仅能添加3个智能体,若想尝试新的智能体,必须删除已有的,想多样化体验,只能再购买进阶版VIP服务。”小宁说。
记者发现,在这类AI剧情聊天软件中,用户创设人物时可以自定义虚拟人物的形象及风格,系统会生成AI人物形象。用户还能创建角色人设,如设置昵称、身份背景、开场语、为角色定制语音,但用户对角色的个性化需求,往往与充值挂钩。
山东济南居民张岩的妹妹今年上初一,经常使用AI剧情聊天软件,发现一些聊天工具设置了免费使用区间,当用户用完免费聊天次数后,需要充值才可以继续。只有充值,才能解锁更有趣的内容,才能得到不一样的情感体验。
“花钱买服务的背后,其实是花钱找刺激。”张岩说,尽管聊天软件有青少年模式,但无需实名认证即可登录使用,妹妹在未经父母同意的情况下经常充值消费。
有业内人士告诉记者,AI剧情聊天其实就是此前的互联网”语擦“,套上了人工智能的马甲。所谓”语擦“,即语言cosplay,”语擦“师通过扮演二次元角色或三次元偶像,以文字交流的形式提供服务。在传统”语擦“模式中,”语擦“师由真人扮演,他们一般打着“提供情绪价值”的旗号,扮演不同角色与用户聊天,但也常常因为“打擦边球”“界限模糊”,引发法律与道德风险。AI剧情聊天是传统”语擦“的升级版,这类软件背后的大语言模型数据主要来源是对话式小说,或从小说里做一些文字提取。