返回首页 >

中央网信办详解人工智能领域面临的安全风险挑战

2026-09-01 17:19   海报新闻

  2025年以来智能体应用快速涌现,人工智能正在从“回答问题”走向“执行任务”,安全风险也从“生成有害信息”向“自主实施行动”加速跃升。王丽宏提到,今年年初爆火的OpenClaw也出现了高权限终端智能体掌握系统级权限,可执行终端命令、跨网络调用文件与工具,安全隐患突出,同时智能体大量“技能”插件被确认存在安全风险。这类高权限智能体一旦被攻击利用,可成为突破网络边界的“跳板”、实施攻击的“肉鸡”、偷窥窃密的“木马”,从“得力助手”沦为“卧底帮凶”。

  在信息服务领域,人工智能也可能被用于输出违法有害信息,混淆事实、误导用户,污染网络内容生态;在科研领域,人工智能降低了生物、基因等高伦理风险领域的进入门槛,可能引发突破科研伦理底线的风险;在就业领域,人工智能加速重构传统经济结构、生产结构,可能造成传统劳动力需求出现变化的情况。

  此外,全球人工智能领域也面临着技术霸权风险。人工智能产业链呈现高度全球化分工协作格局,但个别国家奉行“技术霸权”,通过出口管制等单边措施制造供应链壁垒,同时也利用舆论炮制大模型不实的测试报告,恶意抹黑他国技术发展,还凭借训练语料资源优势进行价值观渗透,进一步拉大了治理的鸿沟。

  

责编:蔡 溦
审签:曲欣萍

猜你喜欢

热点新闻

{$loop_num=0}