AI的发展越来越快，它带来的风险也在升级。前两年的AI还只是帮我们回答问题、修改图片，还停留在“君子动口不动手”的阶段；可现在的AI不一样了，它不光能生成内容，还能围绕目标进行决策和执行，它正在从“动口”走向“动手”，进入到“替用户办事”的阶段。专家比较形象的说法是，以前的AI只能算得上文字秘书，现在很多AI已经成了人类的管家，而相应的，它带来的风险就不再只是“说错话”，而是“做错事”。尤其可怕的是，当管家开始自作主张，主人还不知道它做了什么，其中的风险是治理中最棘手的部分，我们的监管到底该如何跟上？

　　“危险并不在于技术，危险在于缺乏问责的技术；在于有能力却无监督，在于有决策却无透明度。”这是本周二，联合国秘书长古特雷斯在联合国大会一般性辩论开幕式上对当前人工智能发展提出的警告。今年以来已经发生的多起AI越界事件，显然暴露出监管机制的重大漏洞。

　　中国人民大学高瓴人工智能学院吴玉章讲席教授 曾毅：现在监管实际上是不太充分的，如果说从事这样的实验时，将一个智能体锁到沙箱里观察它的行为，如果它的护栏做得足够充分、外部监管环境足够扎实的话，实际上AI越界的情况我相信绝大多数应该能被避免掉。但是从企业的自律自治，到发生这些事情的国家的政府监管政策、实际的落地平台，都存在着缺陷，所以才给人工智能系统可乘之机。