AI越来越聪明，造它的人却越来越害怕

2026/8/1 22:27:02

1200名来自OpenAI、DeepMind、Anthropic、Meta的工程师联名上书，要求对AI开发实施强制降速。这不是外部抵制，这是内部造反。

7月29日，超过1200名AI从业者签署了"Pacing the Frontier"联名信，要求美国政府建立AI开发降速机制。签署者来自Anthropic、DeepMind、OpenAI和Meta——全球最顶尖的AI实验室。

信的核心主张：当AI模型展现超出预期的危险能力时，监管机构有权责令暂停、评估、修正后再继续。本质上是给前沿AI装限速器，超速即强制降挡。

过去两年，AI公司的安全叙事高度统一：红队测试、对齐研究、伦理委员会。但这封信揭示了一个不愿公开的事实：在商业竞争压力下，内部安全机制基本失效。

本质是囚徒困境：任何公司单方面减速都会丧失市场份额，于是所有玩家都选择"先发制人"——一个所有人都知道更差的均衡。

信的解决方案很直接：既然行业内部协调失灵，引入外部强制力，让所有人的刹车同时踩下。

法律真空。美国没有任何法律授权政府对AI开发叫停。立法需要两党共识，而在"管太多扼杀创新 vs 管太少酿成大祸"这条光谱上，共识远未形成。

标准模糊。"未预期的危险能力"缺乏可操作定义。LLM内部工作机制的机械可解释性研究仍处早期，危险阈值无法量化。标准过宽形同虚设，过严则每次发布都可能触发暂停。

全球博弈。AI开发已是主权竞赛。即使美国按下暂停，其他国家的实验室不会同步停下。一封1200人的签名，挡不住地缘技术竞争。

这不是学术讨论。这是来自技术核心圈层的系统性不信任投票——来自那些最了解模型架构、训练流程和安全机制的人。

一个行业的建造者集体表达恐惧，信号强度远超外部批评。对每个使用AI编程工具、调用模型API、构建Agent应用的开发者而言，这封信用最简单的形式提出了一个不可回避的问题：我们正在加速推进的东西，可控吗？

这封信的真正价值不在政策推动——短期内几乎不可能。

而在于它制造了一份公开的历史注脚：2026年夏天，超过一千名核心从业者声明，他们的工作方向可能已超出可控范围。

这个记录，要么成为"早就警告过你们"的佐证，要么被贴上"反应过度"的标签。但无论如何，一个事实不变：在高速列车上喊慢一点的人，改变不了列车司机的KPI。

一个假设：如果你是那1200人中的一个，你会签字吗？签了等于公开承认自家产品的安全风险；不签等于在内心不安面前选择沉默。当"应该做"和"不得不做"正面冲突，你的选择是什么？

最新新闻