返回首页 >

AI剧情聊天软件乱象:角色扮演背后的擦边色情和语言暴力

2024-11-23 19:30   法治日报

  来自浙江的李女士也发现她正在读小学五年级的孩子使用了一款AI剧情聊天软件。

  “里面的聊天对象可以设置为‘出轨对象’,并能够进行拥抱、亲吻等行为。我都不知道如何引导和教育孩子,让她明白这些内容的危害性。”李女士不无担忧地说。

  不少受访家长对AI聊天应用可能损害未成年人心理健康表达了深切忧虑,还提出了他们的疑问——青少年模式去哪儿了?

  记者调查发现,尽管不少相关平台声称推出了青少年模式,试图通过限制内容、设定时间等方式保护未成年人的身心健康,但在实际操作中部分平台青少年模式存在形同虚设的问题,未成年人能轻易绕过这些限制,接触到不适宜他们年龄段的“擦边对话”内容。

  例如,记者在调查中体验了5款AI聊天应用程序,其注册过程仅需手机号码,无需验证用户身份信息。登录后,部分应用虽会询问是否启用青少年模式,但用户只需简单点击“不开启”即可跳过,且无须核实用户真实身份。这意味着,未成年人在使用这些AI剧情聊天软件时,从App设置层面看,其身份验证并非使用特定功能的先决条件。

  除了广受欢迎的AI聊天应用程序外,还有AI聊天网页。多名受访家长表示,相较于应用程序,网页版的AI聊天体验更便捷,未成年人也更容易接触到。

  记者试用了7款AI聊天网页发现,多数AI聊天网页没有设置未成年人模式,少数网页虽有青少年模式,但实际上形同虚设。

  比如,当记者访问某AI聊天网页时,网页首先弹出询问用户“是否年满18岁”的对话框,并附带说明:“以下内容可能不适合18岁以下人士,我们需要确认您的年龄。”

猜你喜欢

热点新闻

{$loop_num=0}