返回首页 >

世界互联网大会聚焦智能体安全,360作为核心成员单位持续推动AI安全治理

2026-11-02 21:11   海报新闻

  随着AI从内容生成走向自主执行,智能体开始调用工具、访问数据并自主完成任务,安全风险也从内容层面延伸到权限管理和行为管控。围绕这一变化,专委会计划在2027年就智能体权限管理、自主决策与人类管控、多智能体协作安全、全周期安全管理等方向开展专题研讨和联合研究。

  围绕这些议题,360持续参与专委会相关工作。2026年,专委会安全与治理推进计划先后赴华为、360集团、阿里云智能集团、百度等成员单位开展实地调研;7月,潘剑锋在专委会举办的“前沿人工智能安全风险的协同治理”研讨会上发表主旨演讲。这些交流与研究,也建立在360长期的技术实践基础之上。

  针对智能体安全,360以“以模治模、以智能体对抗智能体”为防护思路,推出360智能体安全防护与管理系统。该系统覆盖智能体资产发现、行为管控、威胁检测、事件响应和损失恢复等关键环节,可对智能体、技能插件及模型链路进行识别管理,并对文件访问、网络连接、命令执行等行为实施运行时管控,帮助企业把智能体运行过程纳入安全管理。

  据悉,智能体安全只是360 AI安全体系的一部分。在更广的AI安全领域,360还布局了大模型安全、AI应用治理等重点方向。其中,自研的AI安全攻防系统“图龙锋”通过中国信通院“互联网智能体治理——漏洞挖掘智能体能力评估”,成为首个通过该项评估的产品;同时,360参与多项AI安全国家标准和行业标准研制,形成从产品到标准的完整能力支撑。

猜你喜欢

热点新闻

{$loop_num=0}