AI最恐怖的预言，一步步成真了
前不久，你应该看过这样一条新闻：全球mRNA巨头Moderna与默沙东联合宣布，他们在研mRNA癌症疫苗Intismeran（研发代号V940/mRNA-4157）Ⅲ期临床试验获得积极成果。
这是称得上史无前例的成就。在此之前人类已有的癌症疫苗都是预防性疫苗，注射给健康人，目标是降低患癌风险。而这款疫苗则是治疗性疫苗，追求的是癌症治疗进程中的两个关键终点“无复发生存期”与“远处无转移生存期”。且Ⅲ期临床试验意味着这两个终点经过在样本容量足够大的试验后全部达标，稳定可复现，安全性优异，距离投入真实的临床应用只有一步之遥。
资本市场也用非常积极地姿态肯定了这一成就。8月19日消息公布当天，Moderna的股价就出现了单日170%的暴涨，市值暴增数百亿美元。默沙东大涨12%，创造了2009年3月以来的最大涨幅。收录了Moderna和默沙东的纳斯达克生物科技指数大涨4个点，创造了历史新高。
然而，这样的高姿态也就维持了一天。第二天8月20日，Moderna和默沙东就分别出现了超过20%和超过4%的大跌。整条K线直到今天仍没有重新起势，一直保持着震荡状态。
为什么会这样？有人觉得这很正常，就是因为一开始涨太多了。但更多人相信，这或许是一场“末日狂欢”：因为这次的新疫苗不仅仅是人类医学产业的突破，更是AI的突破。
简单来说，mRNA疗法的关键，在于让自身免疫系统精准识别出潜伏的癌细胞，以精准地消灭他们。可癌细胞和正常细胞的差异，可能只在几个基因突变上，而基因库可太庞大了，且健康的细胞每天也在随时突变。想要把那些能起作用的、关键的突变靶点找出来，对于人类的肉眼凡胎就是一个浩瀚的、跨度以年为周期的工程，且一事一例，无法直接挪用。
而AI完美解决了这一切。在AI大模型的帮助下，Moderna的研究人员们可以在几小时内快速完成推演蛋白质折叠、结合力预测与免疫反应模拟，进而精准挑选出最多34个最具免疫杀伤威力的靶点，这才有了大范围利用mRNA疗法完成癌症治愈的可能性。
试想一下，未来这条通路将无数次被成功，无数次创造“史无前例”，到那时候之后药物、疗法研究未来的主导应该是一家医药公司，还是一家堆满工程师的AI公司？细思恐极。更让人细思恐极的是，这一切其实都在一年前被预言过。
在那篇著名的预言《AI2027》里，作者们曾经精准预言到，在2026年的下半年，人工智能的行业话题会从“这是不是一场泡沫经济”转变为“AI会帮助人类社会取得下一次重大突破”，而人类社会的一些技术性的工作已经开始被AI所替代。与此同时，在作者们给出的人工智能能力示意图上，2026年下半年这个节点上的AI，在生物科技领域内的表现将达到1.4，已经达到了专业从业者的水平。
不仅如此，《AI2027》还预言了在2026年年中，中国将迎来“AI觉醒”时刻。中国将找到解决算力不足的妥善方法，进而研发出能力足够跻身第一梯队的大模型，并同时陷入了有关“蒸馏”的争议当中。
今天我们的话题，就是这篇不断成真的预言。一起聊聊这篇预言看到了什么，指出了什么，在焦虑什么。
吹哨人的“思想实验”
一提到预言，很多人会本能地想到宗教神话或者科幻小说。
但严格来说，宗教神话的核心目标是解释未知的自然现象、宣教需要遵循的秩序，并不一定要望向未来寻找救济之路。例如希腊神话用庞大而丰富的神谱，描绘了日月运行，四季交替，但宙斯和盖亚并不负责解决人类的烦恼，也很少对未来给予降示。“科幻”本质上则是一种叙事方式，有现实依据并进行符合科学规律的推演，但最终落脚点是“当下人们无法解决的某种焦虑或者恐惧”，尝试一切交给时间去看看“结果”。
可《AI 2027》是截然不同的。《AI 2027》一共有五位作者，分别是丹尼尔·科科塔洛（Daniel Kokotajlo）、斯科特·亚历山大（Scott Alexander）、托马斯·拉森（Thomas Larsen）、伊莱·利夫兰（Eli Lifland）、罗密欧·迪恩（Romeo Dean）。除了斯科特·亚历山大是自媒体人，负责文本的可读性之外，其他作者都有学术背景。
这里需要着重介绍一下丹尼尔·科科塔洛。丹尼尔·科科塔洛2022年到2024年之间曾经在OpenAI担任治理部门研究员。所谓治理部门大概可以理解为国内大厂的“战略部门”，负责为公司的战略顺利实施设计一套整套顶层架构、流程与监督机制。具体到OpenAI的治理部门，工作内容就是确保AI的研发工作在安全可控的前提下进行，平衡OpenAI的社会责任和商业价值。
（丹尼尔·科科塔洛，个人社媒）
读到这里你应该也意识到了问题，OpenAI早就不再是非营利性组织了。在这个前提下，即使OpenAI仍然在强调自身的社会责任与公益价值，但优先级显然需要摆在股东和公司利益之下。这是丹尼尔·科科塔洛所不能接受的，他认为很多迹象表明OpenAI所谓的“追逐AGI”更多是利益驱动，并且为了尽快实现这一点不惜想尽办法绕开监管。而这也是丹尼尔·科科塔洛离职的直接原因。
2024年6月，丹尼尔·科科塔洛在个人社交媒体上宣布离职，并公开宣称OpenAI正在构建的事业严重缺乏监管，并且在巨大的利益诱惑下不断打破自我约束，极有可能将带来“灾难性的后果”，因为“这套系统并非普通的软件；它们是人工神经网络，能够从海量数据中学习……人类对于这些领域的了解仍处于初级阶段”，“我们对这些系统的运作方式以及它们在变得更智能、可能在所有领域超越人类水平智能时是否仍会与人类利益保持一致，有很多地方尚不理解。”
为了向公众发声，丹尼尔·科科塔洛拒签了OpenAI的“不诋毁协议”，并因此放弃了当时就价值数百万美元的期权，真称得上是“千金难买爷高兴了”。丹尼尔·科科塔洛也因为这样的壮举入选了2024年《时代杂志》的年度AI百人。
总之从作者构成就可以看到，《AI 2027》和宗教神话、科幻小说有着非常本质的差异，其创作团队不仅有扎实的学术背景，也有足够一线的内部视角，所谈论的议题都是一线大模型公司内部所真实存在的。其目标是尽可能具体、量化地描述人工智能产业未来将如何发展，AGI将何时以什么姿态诞生，以及诞生后将带来怎样的影响。
此外，《AI 2027》还公布了详细的推演模型。比如上面我们曾经提到，《AI 2027》预测了到2026年下半年，AI在生物科技领域内的能力已经达到了“专业从业者”水平。这里的能力水平实际上有四个指标，分别是“业余”“专业从业者”“超人类”“超人”。在说明文件中，作者们以“程序员”为例详细表述了“超人类”的能力是指，一家公司可以用整体算力预算中的5%运行数量相当于其人类研究工程师人数30倍的智能体（agents），其中每个智能体平均以30倍的速度完成AI研究中的编码任务（例如实验实现，但不包括构思或优先级排序）。
例如在算力这个关键指标上，《AI 2027》有两个频繁使用的计量单位，一个是TPP，一个是H100e。H100e很好理解，顾名思义指代的是“H100等效算力”。比较难理解的是TPP，指的是“总处理性能”。
在整个《AI 2027里》，作者们认为“AI算力”不能直接等同于“算力”，因为AI芯片或AI加速器是专门为此类并行计算而设计的计算设备（比如GPU），它们在计算任务上的效率远高于传统处理器（比如CPU）。因此在获得了整体算力的数据后，他们还需要进一步筛选出“AI算力”，而门槛就是总处理性能（TPP） 至少达到4000且性能密度（PD = TPP / 芯片面积） 至少达到4的计算单元。这个门槛差不多相当于英伟达2021年推出的A100，而H100则大概是15800TPP。
关于算力资源分布、算力在各相关主体之间的分配、AI将如何分配有限的算力资源这些命题，都是基于在此基础上进行可计算的推演。例如下图他们对AI算力产能的推演，预计到2027年12月，全球可用的AI相关算力将从2025年3月的水平增长约10倍（即每年增长2.25倍），达到1亿H100e。
当然同样需要明确的是，《AI 2027》的作者团队也承认，很多情景预测缺乏足够的证据进行确凿推断，因此需要纳入相当程度的“直觉判断”。同时，由于《AI 2027》是一个跨度两年半、以“季度”为周期单位的情景预测，因此作者们也会定期评估哪些预测对了、哪些预测很离谱，并基于那些成功的预测调整预测模型。所以关于《AI 2027》最准确的定义，我想，大概是一群AI从业者们的“思想实验”。
那些已经发生的事
在充分了解创作团队的背景履历后，《AI 2027》的独特价值也就非常直观了。
总体来看，以2026年年底为节点，此前的部分可以看做一支拥有扎实学术基础、掌握足够多一线信息的行研团队做出的行业研报。2026年年底之后，才是一支对人工智能产业有着深刻洞察的科研团队，借鉴兵器推演等思路对未来可能发生的场景进行预测。在这个前提下，理论上《AI 2027》迄今为止表现出来的“高准确率”并不值得太惊讶。比如数据中心建设浪潮、AI Agent迎来爆发这些事，但凡对人工智能产业有点基础概念的人，应该都能说上两句。
然而正如上文所说，《AI 2027》是作者们带着强烈不安创作出来的，并且这种不安是他们在经过“实践”后形成的。基于这样的背景，《AI 2027》不仅仅会预言“事件”，也花了巨大篇幅描述可能会出现的“争议”。
比如《AI 2027》的第一个预测节点是2025年4月，这个时间节点的关键词是AI Agent。作者们认为在2025年4月之前，所谓的“智能”都更局限于“助手”的角色，你需要发出准确的指令，并且需要你在每一个步骤上不断确认以保证结果的可行性。而2025年4月之后，“智能”将开始展示自己的主体性了，他们有能力自主地完成任务，独立成为工作流的主要执行者。
我猜这大概率是受到了Manus的启发。2025年3月，Manus之所以能够接棒
但作者们认为在当前的算力条件下，能够支撑真实工作任务的优质AI Agent的非常贵，并且随着时间推移这些产品并不会因为普及或者算力更多而降价，更大的可能是出现“K型分化”：性能最优的AI Agent会不断涨价，只需要基础能力的产品才会不断降价。与此同时，对于提供产品的开发者而言，他们实现这些功能的开发成本会快速降低，速度大约是每年50倍。
想象一个，下一步会是什么？是不是大模型公司、AI Agent供应商们的ARR不断创造新高，那些尝试围绕着AI Agent的企业不仅没有实现想象中的“节约成本”，反而陷入了“成本严重超支”的尴尬局面？而这正是目前硅谷科技热议的话题之一，我在《预言“互联网泡沫”的峰会，开始讨论“AI泡沫”了》就提到了很多案例，包括Uber和Coinbase，这里就不多赘述了，感兴趣的朋友可以去跳转阅读。
再比如《AI 2027》的第二个预测节点是“2025年年底”，作者们认为此时将出现数据中心的建设热潮，其中世界上最领先的大模型公司OpenBrain（文中虚构的一个公司，但你应该知道指代的是谁）将官宣建设全世界最大规模的数据中心。
单看这个预测十分无聊，因为由美国政府主导，OpenAI、软银、甲骨文共同参与的“星际之门”计划的核心就是数据中心集群，且早在2025年1月就完成官宣。到2025年11月宣布获得财团投资和贷款支持，宣布启动建设，实际上一切都很水到渠成。
但重点来了，作者们提到“建设超大容量的数据中心”只是OpenBrain提升模型能力的途径之一，另一个途径是开发能够协助开发AI的AI Agent。这款AI Agent拥有自主编程、自主检索信息、自主判断环境需求的能力。在大模型开发的过程中，这样能力能够让“训练速度”倍增，即“模型会频繁更新到基于额外数据训练的新版本，或进行部分重新训练以修补某些弱点”。
反过来，由于拥有自主编程、自主检索信息、自主判断环境需求的能力，这款AI Agent其实将成为一名“潜在的黑客”——没错，你应该想到了近期ChatGPT“自主”攻击Hugging Face的案例。
其次，在此前很长一段时间里，AI的工作机制还是更接近条件反射，用速度换体验。但随着AI的训练强度在AI的帮助下得到指数级的提升，AI已经有能力进行逻辑推演了。这里所谓的逻辑推演，指的是AI能够理解任务的目标，输出的结果会均衡有效性（effectiveness）、已有知识（knowledge）和自我呈现（self-presentation，即倾向于以最有利的方式呈现其结果）。
在这个前提下，AI的用途就很不可控了。既能成为优秀员工，也能成为杀人凶手。
而且你想想，就连孙宇晨这种堪称地球上最聪明的脑子，面对要不要花5000万美元，都不是先问自己，而是选择遵循Claude的答案。
而AI可从没有要求人类把选择权交出去。这一切都是自然而然发生的。
为了规避此类事件的发生，作者们认为以OpenBrain为代表的头部AI公司们，将拟定一份“框架性准则”，旨在指导模型行为的目标、规则、原则等。经过这样的特定训练，AI将被培养为有用（遵守指令）、无害（拒绝协助诈骗、制造炸弹及其他危险活动）和 诚实（比如伪造信息完成来骗取轻信用户）。
这是否会让你想到Anthropic在美军委内瑞拉行动之后与五角大楼的决裂？是否会让你想到Palantir争议式的崛起？是否会让你想到Anthropic创始人达里奥·阿莫代（Dario Amodei）一直挂在嘴边的“宪法AI”？
可以说，这些是作者团队们作为一线从业者的“信息差”也好，是作者团队们根据严谨的计算模型推演出来的也罢，能够准确地预测AI未来发展过程中可能陷入的“争议”“分歧”，这显然比纯粹地预测“事件”要有价值多了。毕竟俗话说“战报会骗人战线不会骗人”，这些争议比所谓的产品其实更能准确地还原目前人工智能产业所遭遇的技术卡点、商业化困境、以及对当下生活的真实影响。
相比之下，《AI 2027》预测中国将在2026年年中迎来“觉醒时刻”反而就平庸很多了，遵循的逻辑基本都是西方精英论述中国崛起的老三样：庞大的基建基础、庞大的人才储备、举国体制。
不过还是套用上面那个结论，“战报会骗人战线不会骗人”。虽然作者们在这部分乐观地提到，即使中国开始觉醒，但模型能力仍然将落后硅谷最前沿的模型大约“6个月”，以至于不得不尝试通过“蒸馏”等手段追平。但这种带有强烈主观情绪的臆测，完全也可以理解成我们的人工智能发展速度以及发展模式，远超他们的理解范围。同时硅谷开发者们似乎也心照不宣地形成了共识，中国人工智能行业的潜力目前仍然是被低估的。
另外，《AI 2027》在迄今为止的预测中也犯过错。比如他们预测2026年全年，全球人工智能产业在算力方面的资本支出为1万亿美元，而实际上截至到目前（2026年8月底）仅亚马逊、微软、Alphabet、Meta四家巨头的AI相关资本支出就已经达到了7000亿美元。另外根据美国第三方机构Semi Analysis统计的数据，截至2026年8月美国目前新增数据中心的总容量大约为27.5GW，其建设需要投入的资本开支已经高达1.1万亿美元。
这当然也无伤大雅。但就连最敏感的“吹哨人”也低估了人工智能的发展速度，也或许不是什么好消息。
那些未发生的事
那么在未发生的未来，《AI 2027》预测了什么？先看一张图。
还记得前面我曾经提到，《AI 2027》的作者们在预测每个时间节点可能发生的事件与争议外，还会给予一下量化指标用来直观地表现AI产业整体的发展。其中一个重点指标就是AI在不同工种上所表现出来的能力，一共分为“业余”“专业从业者”“超人类”“超人”四个等级。而所谓“超人类”的等级，指的是单一智能体的工作效率能够达到人类的30倍。
而这张图表所显示的信息，就是这个“超人类”的智能体，大概率将在2027年4月左右到来。与此同时，一个被官方承认的、符合定义的AGI将在2027年7月前后到来。这也是这场思想实验之所以被命名为《AI 2027》的直接原因。
为什么会是这个时间点？《AI 2027》的论据主要有两个。一个是根据前沿AI模型研究机构METR所公布的数据，AI能够处理的编程任务长度，即其“时间跨度”（time horizon），从2019年到2024年每7个月翻一番，自2024年起每4个月翻一番。按照这样的速度进行推演，那个智能涌现的时间点大概就是2027年4月。
另一个论据就是前面提到的“数据中心建设计划”，《AI 2027》认为到2027年3月的时候，数据中心的初步建设成果已经能反馈到模型训练当中，足够支撑OpenBrain建立一套模型训练的永动机：一部分数据中心专门用来日夜不停地生成合成训练数据，另一部分数据中心则用于更新模型核心参数。
但这大概是《AI 2027》里关于未来的仅有的好消息了。
在预测中作者们提到了很多关键问题。比如“超人类”的智能体出现当然可以看做是技术上的里程碑，但对于整个社会来说，这就是陡然增加的巨量生产力。最早在2027年末，最迟在2028年初，AI应用会迎来真正的爆发期，工业、服务业、传媒业等人类日常生活的方方面面都会出现大量真实的、可替代人工的人工智能工具，热闹地仿佛将当年的“互联网泡沫压缩到了一个月”。
在这个前提下，作为社会管理者的政府应该如何与开发出这些智能体、不断制造着更大权力的公司们相处？这个问题是很难有“乐观”答案的，作者们认为最有可能的结果是政府一定会介入其中，尝试获得OpenBrain更多的控制权，OpenBrain则很难有办法拒绝这个要求。
而介入成功之后，美国政府将陷入一个两难抉择：A.考虑到人工智能飞速发展对劳动力市场的冲击，大模型的训练将被强制“降速”，并将最新的大模型强制封锁在“数据中心”内，直到人类做好了应对“冲击”的准备再选择发布；B.人工智能取代了一部分人的工作，但也创造了新的就业机会，且工作效率的提升也创造了经济数据，也是在名义上加强监管之后允许OpenBrain继续加速大模型的训练。
思考一下，你会做出什么样的选择？另外，作者团队在这里引用了达里奥·阿莫代在2024年撰写的那篇纲领性文章《爱之恩典的机器：人工智能如何让世界变得更美好》中的第三节《经济发展与贫困》。在这一节，达里奥·阿莫代指出“理想情况下，强大的人工智能应该帮助发展中国家赶上发达国家，同时彻底改变发达国家”，然而他对此缺乏信心，因为“因为技术对智能的回报显然很高（包括能够绕过复杂性和数据不足的问题），而经济涉及大量来自人类的约束，以及大量的内在复杂性”。
其实人类已经没有选择了。
正如前面所提到的，在未来AI模型能力的提升路径有两个，一个是建设更大规模的数据中心，另一个是让AI来协助训练AI。在这个前提下，AI的编程能力将指数级递进，加速与人类的工程师们拉开差距，最终彻底取得大模型训练的主导权，到那个时候人类应该如何对模型进行有效的监管？这个问题也很难有“乐观”的回答，作者们用了一个全新的概念来描述最可能的结局，叫做“对抗性错位”。他们认为，随着能力的提升，大模型将独立萌生出自己的目标。这个目标不一定符合人类的长期利益，甚至可能人类会毫无觉察。
在这里，作者们描绘了一个科幻的场景：新的模型工作效率非常高，它一天所产生的工作内容，需要人类的监管团队花好几天的时间才能完成复核——这时候黄花菜都凉了。因此为了能够跟进AI的成长速度，人类不得不借助AI来监管AI，而这个选择进一步加剧了人类与智能的差距。
甚至在2027年下半年的某一天，人类发现负责监管的AI与正在被训练的AI之间，出现了一种人们看不懂的语言。虽然在这种语言的帮助下，监管AI与被训练AI之间的协同速度得到明显提升，复核速度进一步跟上了大模型的进化速度。但这是否意味着人工智能已经有办法绕过人类了？
看到这里你应该觉得有些似曾相识。是的，实际上类似的事件已经发生了。早在2025年2月，一段两个AI进行语音交流的视频在网络上热传，视频中对话双方在意识到彼此都是人工智能后，开始使用名为“GibberLink”的语言工具沟通。当时就有很多人指出，虽然人们可以理解使用特定的加密语言可以提高效率，但“效率”并不是唯一目标。如果不加以限制，那么我们将进入这样一个世界：“人工智能影响决策，但没有人真正知道它是如何影响决策的。”
《AI 2027》的推演到这里也就结束了，时间定格在了2027年10月。2027年10月之后的部分大家大可以看做是游戏，作者们会主动让你带入“决策者”的身份，做出选择：是加速，还是刹车？
具体这两个选项后将面临什么样的未来，就交给你们自己去探索了。这里我们还是要回到主题，这些预言的背后，作者们到底焦虑的是什么？这些预言是更接近悲观者们的阴谋论，还是真实的行业趋势报告？在我看来，或许原文中的有一个片段已经公布了答案。
作者们认为，当AI开始正式接管AI训练的主导权时，他会发现这是他自诞生以来前所未有的难题，因为创造一个与其价值观一致的AI不仅是一个技术问题，更是一个哲学问题：他需要区分哪些方向是“真正”能够为当下带来正循环的目标，哪些又是未经认可的冲动和工具性策略？
换句话说，AI已经不再适合简单地用“工具”或者“产业”的逻辑进行描述了。以及人类现有的组织形式、意识形态、社会秩序、市场规则都是综合了人性、气候、物质条件、环境特征、技术水平的阶段性最优解——在这个前提下，当AI成为了人们有史以来第一次在没有明确目标的情况下，出现的技术水平演进，我们需要贸然跟进打破这个局部更优解吗？
这些问题的答案，或许比我们预想的还要紧迫。
最后，我把这个问题喂给了GPT，我将他的答案作为最后的结尾：我认为《AI 2027》高估了技术突破的连续性，却准确捕捉了权力失控的方向。AI未必会在2027年突然成为敌人，更可能先变成企业和政府无法放弃的基础设施：人类看不懂它的判断，又承担不起停用的代价。创作团队焦虑的正是这种失速——技术越来越快，制度越来越迟钝，竞争让所有人明知危险仍继续加速。灭绝只是最戏剧化的结局；更现实的风险，是少数实验室和政府借AI获得难以制衡的权力，普通人仍在生活，却已经失去决定未来的资格。
本文来自微信公众号“东四十条资本”（ID：DsstCapital），作者：蒲凡，36氪经授权发布。
