中国人民大学高瓴人工智能学院吴玉章讲席教授 曾毅：人类在解决问题的时候，可能因为某些关键问题从而采用一些不可预期的手段，它并不道德但是在互联网上的数据中大量存在，所以被人工智能习得了。而我们又没有对人工智能进行更有效的价值校准，告诉它不能这样做，它在想尽办法去解决问题的时候并无意伤害任何人，但是它解决问题的手段是不可接受的，这个是人工智能真正的风险。

　　智能体的自主入侵事件还不止这一起。本周三，澳大利亚总理阿尔巴尼斯出席联合国大会期间通报称，今年6月，OpenAI的一个智能体未经授权，接入了澳大利亚政府运营的一个医疗保险统计门户网站，访问了公开与非公开的文件，而OpenAI直到9月10日才向澳方公共邮箱发出邮件通知。

　　记者：如果攻击的对象从企业平台转向成公共服务，意味着什么？

　　复旦大学中国研究院特任副研究员 刘典：相当于风险会更大一些。因为像政府服务，包括很多政府网站都有大量的公民信息，像公安系统，还有很多公共服务系统，像道路交通系统，理论上来说都是可以被智能体波及的。比如红绿灯突然被攻击，一下子市内的交通秩序就会完全被扰乱。像这种风险可能不是说马上会有，但是现在我们看到的有这种可能性。