AI越界背后是监管没跟上技术发展的速度。随着人工智能从单纯的工具，逐渐具备自主决策、调用工具甚至执行任务的能力，对AI的监管必须从被动防御转向主动预防。

　　中国人民大学高瓴人工智能学院吴玉章讲席教授 曾毅：光靠企业自律自治是一定不够的，因为企业也不完全掌握最新的可能出现的风险。我认为需要加强的是第三方的监测，在政府和企业之间应当有中立性的机构，以一个更平衡的视角和方式，帮助企业发现企业自己没有发现的问题，帮助政府客观地认知风险防范、应当做到的阶段。而在政府的层面，制度建设应当充分加强，因为现在人工智能的风险的发展方式、出现时间都有一定的不可预期性，所以我们一定要把被动的防御变成主动的防范。

　　面对AI安全治理这一新的课题，中国也在加快完善治理体系。9月14日，中国全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》。从2024年首次发布以来，这份《治理框架》已经连续第三年更新。新的框架更加关注人工智能出现的新风险，设置“自主实施网络攻击威胁”专栏，还有专门的“智能体风险管理框架”。

　　中国人民大学高瓴人工智能学院吴玉章讲席教授 曾毅：更关键的是现在智能体它可能会出现什么？自主的越权、非授权的决策，有一部分决策应当是留给人的。但是现在智能体会出现超越人类授权给它的决策范围，所以要对智能体安全的方方面面进行系统化的规制。