返回首页 >

“养虾先剪脚” 多方发力布局智能体安全

2026-05-07 10:33   经济参考报

    在企业积极探索实践的同时,政府监管与行业标准也在加速完善,为智能体安全保驾护航。今年4月,国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》,明确对人工智能服务实行包容审慎、分类分级监管,提出安全评估、算法备案、推动人工智能沙箱安全服务平台建设等制度,这也是我国首次在人工智能专门立法层面,明确提出“人工智能沙箱”治理理念。与此同时,工信部等十部门联合印发《人工智能科技伦理审查与服务办法(试行)》,将科技伦理审查程序规范化,明确要求保障模型系统的鲁棒性、可控可信、透明可解释及责任可追溯。

    行业标准建设方面,人工智能安全标准体系正加速构建。今年3月,工信部公开征求《人工智能安全治理模型上下文协议应用安全要求》等行业标准意见;4月,全国网络安全标准化技术委员会下设的人工智能安全标准工作组明确表示,将重点推动《网络安全技术 人工智能安全能力成熟度评估方法》《网络安全技术 人工智能应用安全分类分级方法》等核心标准的制定与落地,为行业安全发展划定清晰边界。

    “养虾先剪脚,关起笼子再上岗。”一位业内人士形象地概括AI智能体的安全发展路径:先为智能体赋予最小权限,通过网络隔离、沙箱限制、合法身份认证等方式筑牢安全防线,当前优先做好“虾片/虾饼”式的能力裁剪,待安全体系成熟后,再逐步放开其功能权限,实现安全与效率的双向提升。(记者 吴蔚)

  

责编:焦源朋

猜你喜欢

热点新闻

{$loop_num=0}