返回首页 >

面对AI“越界” 各国如何携手守住边界?

2026-09-27 06:27   央视新闻客户端

  针对智能体高自主性、高权限带来的隐私泄露、越权操作、行为失控等安全风险,《框架3.0》提出了相应防范措施。例如,加强人工审批,在关键决策节点设置强制人工审批环节,防范高风险操作;为智能体配备唯一身份标识及对应的身份凭证,按需分配任务权限等。有分析认为,《框架3.0》以“过程”为脉络,以“身份”为支点,以“权限”为关键,为智能体确立了系统的治理体系。

  中国人民大学高瓴人工智能学院吴玉章讲席教授 曾毅:我们为什么要重视过程?因为在人工智能的研发,特别是智能体的研发过程和使用过程中,设计、研发、使用、部署,一直到智能体或人工智能服务被淘汰,整个过程的任何一个阶段都有可能出现不同形式的风险和挑战。所以为什么我们要强调全生命周期,为什么要强调全过程,这个是它的重要性。每一个智能体都应该有自己的身份,这样的话我们可以对智能体的潜在风险进行提前防范;另外一方面就是溯源,解决问题的过程中哪些智能体进行了参与,为溯源审计提供了非常重要的保障。

猜你喜欢

热点新闻

{$loop_num=0}