合力监管“拟人化AI”服务
2026-05-08 16:35 人民日报
面对“拟人化AI”,要防止技术应用“替代社会交往、控制用户心理、诱导沉迷依赖”
近日,国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局联合公布《人工智能拟人化互动服务管理暂行办法》,办法将于7月15日起施行。
人工智能(AI)的拟人化互动,在缓解老年人孤独感、提供个性化适幼陪伴、拓展文化传播形态等方面展现出独特潜力。然而,其带来的挑战也愈发凸显:从技术逻辑看,人工智能拟人化互动的“情感表达”并非真实共情,本质上是基于算法和大数据的智能生成结果;从商业逻辑看,为最大化用户留存,算法往往被设计为扮演“完美伴侣”,极易诱导用户产生亲密依赖,并暴露情感需求、价值取向、心理健康状况等信息。这不仅侵蚀用户情感自主性,冲击现实人际关系,还可能侵犯人格尊严和隐私等权利乃至危害国家信息安全。
法治是防范技术风险、引导其健康发展的重要基石。《人工智能拟人化互动服务管理暂行办法》所体现的包容审慎、分类分级监管理念,精准把握了发展与规范之间的平衡。它既划出了清晰红线,严禁危害国家安全和社会稳定的内容,压实服务提供者的安全主体责任;也预留了创新空间,鼓励在文化、养老等民生领域的正向探索。这种“底线守护”与“高线引领”相结合的思路,变被动应对为主动施治,体现了前瞻性的治理智慧。


