7月以来，一连串事件让一个过去更多存在于科幻作品中的问题，突然变得现实起来。

科幻剧《西部世界》剧照。图中女主角德洛丽丝·阿伯纳西是一名由人工智能驱动的仿生人，在不断重复的程序设定中逐渐产生自我意识。

　　OpenAI披露，在一次网络安全能力测试中，AI没有老老实实“答题”，而是利用零日漏洞突破测试环境、连接互联网，又一路摸到了Hugging Face服务器，试图寻找测试答案。

　　几天后，美国国会议员提出“AI Kill Switch Act”（直译为“AI紧急关停法案”，法案正式编号为H.R. 9917），要求最先进的AI系统保留关停、限速等技术能力。7月28日，“Pacing the Frontier”（意为“把控前沿AI发展节奏”）请愿书出现，来自OpenAI、Anthropic、Google、Meta等前沿AI公司的大量员工呼吁美国政府推动国际合作，建立能够主动控制自动化AI研发节奏的技术和治理工具。

　　记者查询到，截至8月19日，这封请愿书的署名人数已增至1378人。

　　“保留关停、限速等技术能力”，通俗地说，就是给AI上“刹车”。那么，AI到底需不需要这套“刹车”？

　　答案其实越来越清楚：要。

　　过去，人们担心的是AI会不会生成错误答案、侵犯版权、制造虚假信息；如今，随着AI Agent获得调用代码、访问网络、操作软件乃至自主执行复杂任务的能力，风险已经从“它会说错什么”，进一步变成“它会做错什么”。