返回首页 >

中央网信办:当前人工智能领域主要面临5方面安全风险挑战

2026-09-01 13:06   央视新闻客户端

  三是应用形态快速演进,安全风险形态加速迭代。2025年以来智能体应用快速涌现,人工智能正从“回答问题”走向“执行任务”,安全风险也从“生成有害内容”向“自主实施行动”加速跃迁。今年年初爆火的OpenClaw等高权限终端智能体掌握系统级权限,可直接执行终端命令、跨网络调用文件与工具,安全隐患突出,同时智能体大量“技能”插件被确认存在安全风险。这类高权限智能体一旦被攻击者利用,可成为突破网络边界的“跳板”、实施攻击的“肉鸡”、偷窥窃密的“木马”,从“得力助手”沦为“卧底帮凶”。

  四是误用滥用恶用风险凸显,冲击社会秩序与伦理边界。在信息服务领域,人工智能可被用于输出违法有害信息,混淆事实、误导用户,污染网络内容生态;在科研领域,人工智能降低了生物、基因等高伦理风险领域的进入门槛,可能引发突破科研伦理底线的风险;在就业领域,人工智能加速重构传统经济结构,造成传统劳动力需求出现下降情况。

  五是全球人工智能领域面临技术霸权风险。人工智能产业链呈现高度全球化分工协作格局,但个别国家奉行“技术霸权”,通过出口管制等单边措施制造供应链壁垒,同时利用舆论优势炮制大模型不实测试报告恶意抹黑他国技术发展,还凭借训练语料资源优势进行价值观渗透,进一步拉大治理鸿沟。

  (总台央视记者 陈雷 宋琎)

  

责编:刘旋

猜你喜欢

热点新闻

{$loop_num=0}