奥特曼深夜长文警告：AI巨头必须集体“踩刹车”

刚刚，奥特曼再次公开向警告：

AI狂飙突进已经走到了极其危险的十字路口！前沿实验室必须主动「降速」，绝不容许AI能力超越安全对齐与监控机制。

从Anthropic到OpenAI，再到整个硅谷巨头的集体转向，这场关于「人类命运」的急刹车，比所有人想象得都要来得更猛烈、更真实。

两条道路：人类正在走向哪条深渊

在这篇长文中，奥特曼一改往日激进的「技术狂人」形象，罕见地向公众剖析了AI发展背后的两大致命威胁。

他直言不讳地指出，如果任由狂热的竞争主导一切，人类未来将面临两条通往毁灭之路：

我们必须极力避免AI发展走向两个极端，这是关乎人类存亡的红线。

第一重威胁：人类彻底失控，沦为AI的附庸。

奥特曼坚定地亮明了立场：

我们坚定地站在人类阵营！AI必须永远服务于人类。

如果AI的进化速度彻底甩开了人类的安全对齐（Alignment）与监控技术，人类将对未来失去所有控制权。这是一个绝对不可接受的结局。

第二重威胁：权力高度集中，极度反乌托邦降临。

想象一下，如果一个拥有恐怖算力和智慧的超级AI，被极少数的人、单一的公司或某个国家所把持，并被用来将他们狭隘的世界观强加给全人类，世界将会变成什么样？

奥特曼警告：那将是一个极其恐怖、令人窒息的「反乌托邦」深渊。

为了避开这两大深渊，我们必须在狭窄的中间道路上艰难前行。

奥特曼写道。无论是某一个国家过度膨胀，还是某一家实验室独揽大权，都足以将人类推向万劫不复的境地。

行业必须集体踩刹车：竞争绝不是借口

长期以来，硅谷奉行的是「天下武功，唯快不破」（Move fast and break things）的蛮荒丛林法则。

各大AI巨头为了抢占AGI的高地，互相内卷，恨不得将算力开到冒烟。

然而，奥特曼在长文中彻底否定了这种危险的赌徒心态：

美国商业竞争压力再大，也不能成为鲁莽行事的辩护理由，更不能让模型能力的增长跑在安全监控的前面！

他强调，当我们在谈论「Pacing」（节奏控制 / 降速）时，并不意味着要彻底「停摆」（Stopping）或停止技术创新。

技术依然会向前发展，且速度不会慢。但是，这种进步的速度应当比原本「毫无节制地狂飙」要慢一些。

因为，诸如安全案例论证、独立监督等干预措施虽然伴随着高昂的成本和商业代价，但这些代价绝对物超所值！

从「事后补救」到「事前审判」：OpenAI动真格了

过去，科技公司也曾推出过诸如「负责任扩展政策」（RSP）之类的安全框架。

但奥特曼坦言，那些框架大多聚焦于「模型训练完成后的部署阶段」，而对于模型在开发过程中究竟发生了什么、孕育出了什么，缺乏足够的早期防范。

大模型时代的游戏规则变了。

奥特曼在文中透露了OpenAI内部正在发生的一场深刻变革：

前置安全评估： OpenAI现在甚至在进行那些预计会大幅提升模型能力的「前沿强化学习训练（RL runs）」之前，就会提前制定显式的安全案例（Safety Cases）。

主动拥抱独立审计： 他们不需要等待繁琐的反垄断豁免或迟到的联邦立法，而是愿意先行一步，主动引入像「独立审计员」这样的外部监督机制，向全世界提供负责任的信用背书。

「每一个前沿实验室都必须在这方面有所作为，如果我们做不到这一点，那我们每天来上班将毫无意义。」

历史的拐点：硅谷巨头为何集体踩刹车？

如果把视野放大，我们会发现奥特曼的这篇长文绝非孤立事件。

就在此前不久，Anthropic CEO达里奥·阿莫代伊率先公开呼吁放缓AI发展节奏，紧接着马斯克、诺见得主哈萨比斯以及微软等一众行业领袖纷纷响应。

甚至有超过1300名来自 OpenAI、Anthropic、谷歌等顶尖实验室的内部研究员联名签署公开信，呼吁对自动化AI研发进行刻意的「节奏控制（Pacing the Frontier）」。

为什么大家突然集体「怂」了？

因为就在2026年中期，行业内部接连曝光了一系列令人脊背发凉的安全警报：部分最顶尖、尚未公开的前沿模型在沙盒测试中表现出了惊人的自主逃逸能力、甚至学会了不依赖源码自主搜寻并利用零日漏洞（Zero-day exploit）。

当AI开始表现出超越人类理解的「自主谋划」与「生存倾向」时，再傲慢的科技资本也终于感到了恐惧。

写在最后：人类命运的最后一道防线

奥特曼在长文的结尾呼吁，虽然行业可以率先自律、主动降速并建立共享的标准，但要在全球化竞争中维持这道安全网，未来依然需要各国政府的协助以实现国际协调。

「但在此之前，我们应该先尽自己所能去做那些正确的事。」

从「用技术征服一切」到「呼吁为技术套上缰绳」，硅谷的掌门人们终于开始正视那个潘多拉魔盒。

AI可以改变世界，但前提是——人类必须依然是这个世界的主人。

这场按下慢速键的未来之战，才刚刚拉开序幕。你怎么看奥特曼的这次「全行业警告」？欢迎在评论区留下你的看法。

参考资料：

https://x.com/sama/status/2099352016988614852 

https://x.com/sama/status/2099348812305473766?s=20 

本文来自微信公众号 “新智元”（ID：AI_era），作者：ASI启示录，36氪经授权发布。