AI剧情聊天软件乱象:角色扮演背后的擦边色情和语言暴力
2024-11-23 19:30 法治日报
受访专家认为,在青少年模式下,如何强化内容审核机制,确保技术能有效筛选不良信息,是一个重要议题。而针对AI剧情聊天软件,特别是其青少年模式,应强化内容审核机制以确保技术能有效筛选并阻止不当对话。此外,平台需要对AI模型进行伦理审查,以保障其生成的内容符合相关法律与法规的要求。
“在法律层面,虽然已有一些原则性的规定,提供了大致框架,但在具体实践操作中,还需要开发者和技术服务提供者结合现实生活中遇到的各种问题,不断积累素材和经验,不断摸索,开发出真正符合未成年人需求且安全可靠的AI模型,为未成年人的健康成长提供有力保障。”张延来说,既然AI虚拟人的行为表现是平台设计和管理的结果,那么平台负有监管和优化其AI模型的职责,以防止AI对用户造成伤害,确保AI模型的健康发展与用户权益的充分保护。
朱巍提到,一些AI聊天App可能不适合未成年人使用,因此应从分发商店和移动终端层面进行限制,确保未成年人无法下载和使用这些App。对于已经下载的App,家长应设置青少年模式或限制使用时间等功能,这一模式不仅需要在用户端实现,还需要在内容产出层面即内容审核上得到体现,内容审核应基于算法产生的对话机制进行。需要更精细化的技术手段和管理措施来确保青少年模式的有效实施。