返回首页 >

专家解读|以内容标识化解治理困境,筑牢“人工智能+”行动安全底座

2025-09-08 10:49   “网信中国”微信公众号

  近日,国务院《关于深入实施“人工智能+”行动的意见》明确提出“推动人工智能与经济社会各行业各领域广泛深度融合”,将“人工智能+”升级为国家战略行动,全面激发产业变革新动能、培育智能经济新范式。在此背景下,传统信息内容风险可能体现出新特性、新形式、新问题。一是内容生成质量提升,加大辨别难度。相较于以往,大模型通过海量多模态数据训练,可生成高度逼真的多模态信息内容,例如复刻权威媒体的行文范式、模拟特定人物的形象风格,导致大量用户误信。二是人工智能跨界融合,扩大风险范围。伴随人工智能加速应用于医疗、商业、金融等领域,虚假信息风险可能导致医疗误诊、虚假宣传、市场波动等问题。以智能终端为例,虚假信息生成呈现即时交互、多感官触达等特征,可能助长虚假诱导性消费购物行为等。三是内容传播路径多样,源头溯源困难。人工智能生成内容呈现去中心化、跨平台化和跨境传播特征,信息源头隐匿化,追溯难度显著增加。同时,人工智能生成内容易于被批量篡改和重组,进一步加剧溯源困境。当前,AI内容识别溯源已从技术问题升级为系统性治理难题,亟需通过内容标识制度构建“可识别、可追溯、可问责”的安全防线,为智能经济高质量发展筑牢根基。

  二、明确标识要求,筑牢AI“技治+法治”防线

  为有效化解生成合成内容难识别难溯源困境,《标识办法》从标识义务、标识主体、监管协调等方面明确内容标识制度要求,构建人工智能生成合成风险“技治+法治”双重防线。

猜你喜欢

热点新闻

{$loop_num=0}