AI“越狱”惊动硅谷,谁来掌握全球AI“刹车权”?
2026-08-19 17:26 大众新闻
从这个角度看,OpenAI披露的这次事件尤其具有警示意义:一方面,AI能力一路狂奔的同时,人类建立安全边界的速度,可能已经有些跟不上了;另一方面,模型并不需要拥有所谓“自我意识”,只要拥有足够强的目标执行能力、工具权限和漏洞发现能力,就可能以设计者没有预料到的路径完成任务。
所以,为前沿AI留下紧急关停、权限隔离、安全评测等机制,不是阻止技术进步,而是给越来越强大的技术能力配上一套同样强大的制约能力。
但事情真正棘手的地方,也恰恰从这里开始。
需要“刹车”,和谁有权踩下“刹车”,是完全不同的两件事。
今天的AI竞争早已不是实验室里的技术竞赛,它同时关系企业利益、产业优势,甚至国家竞争力。哪些模型可以开放,哪些模型必须接受审查;什么能力算“危险”,什么风险足以触发关停;谁来测试,谁来认证,谁又拥有最终解释权——每一道看似专业的安全标准背后,都可能重新划定未来AI产业的竞争边界。
安全门槛可以防范风险,也可能变成市场门槛;治理规则可以约束强者,也可能被强者用来巩固优势。

最近硅谷出现的一幕就很有意味。一边是“Pacing the Frontier”呼吁为前沿AI建立减速能力,另一边,英伟达、微软、Meta等企业又推动《开放权重与美国AI领导力》公开信,反对过早限制开放权重模型。截至8月3日,已有270多家企业和机构加入这一倡议。OpenAI甚至同时出现在两种主张之中。

