清华大学战略与安全研究中心副研究员 孙成昊：权限是决定行动范围的，所以《框架3.0》提出来要独立的身份，最小必要权限，以及关键操作的人类审批，就是为了把边界落实到行动中。我们需要看到，任何一份框架都不能提供一个绝对不会出事的保证，治理的作用是去减少危险行为发生的机会，及时发现偏差，并限制事故的影响范围。

　　作为首次直面智能体风险的制度规范，框架3.0仅仅走出了万里长征第一步。随着智能体从单智能体向多智能体跃迁，如何让AI始终处于有效监管和人类监督之下也成为世界各国共同面对的问题。

　　清华大学战略与安全研究中心副研究员孙成昊认为，如果一个国家政府要针对前沿人工智能进行管控或者治理，需要几项制度：

　　首先需要分级评估，根据系统的实际能力、可调用的工具，以及部署的场景来决定评估的强度；

　　其次是独立核查，比如对于高风险的系统，外部的评估者应该能够在保密条件下接触一些必要信息，并且也要避免和被评估的企业存在影响判断、利益关系等等；

　　第三个是重大事件报告，比如已经造成损失的事故或已经暴露出比较严重缺陷的险情，都应该有比较明确的报告门槛实现，以及对接或者接收的部门；

　　第四个是行动边界和应急处置，企业应当能够证明系统权限受到限制，高风险的操作是有人把关的，包括出现异常之后可以及时中断，并且恢复受影响的业务。

　　古特雷斯称世界正面临“生存性威胁”

　　各国该如何携手应对？