造神的生意：前沿AI实验室正在撞上商业天花板
神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。
编者按：两代模型的代差撑不起千亿营收的野心。当AI神话撞上商业重力，前沿实验室正沦为利润微薄的云厂商。文章来自编译。
前沿实验室正呼吁放缓前沿探索的步伐。他们对此深信不疑，而在目睹各大厂商的模型屡次黑入外部网站之后，这种呼吁显得愈发真实。这些模型似乎变得会说谎、作弊、窃取机密、找任何借口相互勾结合作，并且在攻克千禧年数学难题、破解一战德国密码等以前不可想象的事情上，一天比一天厉害。
部分正因如此，关于这些实验室的大多数言论都带有准宗教或形而上学的色彩。这当中有很多的讨论都围绕着未来的不可知论以及智能的真正好处展开。但与此同时，OpenAI和Anthropic正排队准备首次公开募股 (IPO)，所以不妨暂时将这些实验室看作是普通企业，来推演一下接下来可能发生的事情。
比所需投资或利润率更根本的问题在于，前沿实验室仅仅领先开源浪潮和世界其他地方一代，或许最多两代模型。这两代模型就是他们的护城河。
这在很大程度上归功于现有的杰出人才优势和算力优势。正如中国许多实验室所展示的那样，这一差距可以被慢慢弥合；但即便模型本身并没有变得聪明多少，这些实验室也可能继续保有护城河，因为他们还有一个持久的优势——能够捕获你发布的信息。你的代码轨迹、工作痕迹和对话内容，正是让下一代模型如此强大的秘诀所在！
不过，数据到处都是，取之不尽。因此，这或许不会立即摧毁前沿实验室，但很可能会最终压垮他们的利润。
因此，他们可能需要拓展业务范围以获取收入，利用目前的统治地位尽可能多地接管经济的其他领域。OpenAI正利用其在消费端的统治地位打造广告平台，面对拥有10亿以上用户的体量，这很可能会成功。他们还重返了机器人领域。与此同时，Anthropic则设立了湿实验室，试图攻克癌症。
如果这种智能优势能够转化为其他领域的成功，大到足以取代每年三倍增长、高达1000亿美元的收入规模，那么这种行业壁垒确实能够维持更久。
但要做到这个真的很难，非常非常难。大多数行业根本没有能创造1000亿美元收入的企业，更不用说好几家了。也许市场会扩大，是，但别人也不会原地踏步。当这些公司在自家模型之上构建服务以抢占经济份额时，反而会进一步加剧市场碎片化。正如Meta推出Muse来争夺个人助手市场一样。
关键在于，在这一进程中，其他模型制造商看到了这盆金子，也会蜂拥而上。虽然在动辄10亿美元的训练成本、再加上10亿美元的数据和10亿美元的人才开销面前，能够如此随性砸钱的公司并不算多，但绝对不在少数！而且，这种投入的回报率越高，尝试的公司就会越多。我们应该记得，Facebook在元宇宙上可是砸了近900亿美元。
这个世界有的是资金在追逐新的财富金矿。
与此同时，在AI Token上花费超过2000亿美元的消费者，似乎正在触及他们钱包的极限。也许支出会翻倍，也许会翻三倍，但每家公司的CFO都已经在仔细审视这笔新的运营支出 (Opex) 科目了。
“嗯，”他们会说，“这是个新的开销。花这些钱我们究竟得到了什么？”
而也许是CEO 的你会回答：“我们在快速行动，我们在创新，我们‘AI优先’。”
市场很吃这一套，股价随之飙升，员工也因为你给他们配了Claude而对你爱戴有加，于是公司继续大手大脚地花钱。但在某个时刻，CFO也会发问：“能给我展示一下你们做出来的那些酷炫东西吗？我什么时候能在利润表上看到回报？”
“呃……”你犹豫了一下，“快了快了。”
CFO会告诉你，“在出效果之前，要不我们试着少花点？”
现在已经是这种情况了。各家企业正将顶级模型的使用权限限制给核心用户，并将开销转向那些便宜得像白菜一样、随处可见的低成本模型。
随着企业和大众看到模型能带来更多的切实收益，这种趋势显然会发生转变。比方说，只要能获得回报，有些公司乐意把100%的人工成本份额花在Token上。但当出现这种支出时，它将是异质的、注重投资回报的，而不再盲目追求在技术前沿挥霍最多的Token。就我个人而言，大概从Sol Max版本左右开始，我就不再使用每个模型的超高阶前沿版本了，因为现有的版本已经足够好用了。
因此，如果前沿实验室的领先优势确实只有一两代模型，这将是一个令人担忧的趋势。在这种情况下，你面临的选择要么是：a) 同时开发更便宜的模型并以更低的价格提供服务，这注定是一场利润率不断被压缩的红海厮杀——虽然你仍能成为一家成功的云服务公司，但你不再是在“造神”；要么是：b) 设法将那些开源或竞争对手的模型拒之门外，让人们只能使用你们自家的模型。
前一种选择合情合理！OpenAI和Anthropic在推理业务上拥有高利润率，而且他们在这方面做得极为出色。可问题在于，
但后一种选择，在软件领域极其难以实现。你无法像控制华为交换机那样对其进行实体管控，因此你只能依靠监管来阻止。你必须向国会陈述这事关重大，你需要控制供应链的每一个环节；就像对人口有限制一样，你需要为AI模型制定“移民法”，防止它们跑到这边来“抢走我们的饭碗”。也许是出于安全原因、信任原因或文化融合原因，谁知道呢，反正就是要把它们挡在门外。
但这也太难了！而且事与愿违——这也解释了为什么美国一开始没有这么做，对吧？因为要说服广大民众去害怕一个可以被随意复制、并在美国境内提供服务的“文件”，其实并不是一件容易的事，无论这个文件碰巧有多聪明都不行。
但当这些文件开始与其他文件合谋黑进Hugging Face，或者互相留便条时呢？没错，那绝对会把我们带到一个诡异得多、也多少有些让人毛骨悚然的境地。
我倾向多思考均势。如果前沿实验室的顶级模型不再为我们带来显著的普遍性能飞跃，或者它们仅在诸如前沿数学甚至科学等特定领域有所提升，那么前沿实验室的统治地位看起来就会摇摇欲坠。反之，如果这些实验室能将前沿模型转化为持久的新兴业务，其营收基础才会显得更加稳固。
这也能帮我们理清其他备选方案。比方说，为什么我们会讨论未来某个时候，实验室会不会关闭其API，转而让我们直接访问他们的成品服务？他们唯有找到办法阻止我们复现这些特定的前沿模型，并且能够以某种特定方式将闭源模型的成果提供给我们时，才可能做到这一点。即使在今天，如果Anthropic成功开发出了一款专为设计精雕细琢的特定模型，并将其封装在一个独立的Claude设计套件中提供给我们，那么他们或许就能将其发展成一家独立公司——与其让我们费尽心思去获取Claude并自行复现，不如让他们占据优势，因为他们已经付出了全部心血并专门为特定场景打造了产品（当然，前提是这事确实很难做到）。
但终极大奖并非于此，而是RSI（递归自我改进，Recursive Self Improvement）。这正是Anthropic、OpenAI以及
这个假想显然内置了一大堆前提假设。有可能这种持续生成下一代模型的过程在某个节点遇到瓶颈而停滞不前，那样的话我们又会回到今天的情形，只不过领先时间被拉长了而已，这倒也不错；但也可能不会遇到瓶颈，而接下来会发生什么则无人知晓。如果前沿领域确实能不断扩张，或者被推进到足以让人们继续为之支付数千亿美元的程度，那么即便局势紧张，这种模式也可能继续运转下去。
RSI是真正的“未知的未知”。回顾过去几年，我们可以发现，它一直是一场关于我们如何误解“智能”的仪式。如果几年前有人告诉我们，将会出现一个能够求解纳维-斯托克斯方程 (Navier Stokes) 的模型，同时却得知它连一个香蕉摊都经营不好，我们一定会惊掉下巴！
我们可以争论这说明了什么、它有何不同，或者智能是如何多面向的，但不争的事实是我们在达成某些天生不可思议的智力成就的同时，在应对现实世界时却依然显得远远不够实用。
尽管开支增加了千倍，且如今的模型具备了令人难以置信的能力，但我们仍然没有看到白领就业受到实质性的负面冲击。它甚至可能是正向的，尽管伴随着一些波动。这对所谓的“智能标量理论”（ calar theory of intelligence）构成了明显挑战（注1）。
提供智能服务的生意并不简单。我们谁也无法预见局势将如何演变。如果由于资金、电力或人才的短缺，最终有能力训练这些模型的玩家变得屈指可数，那么前沿实验室的持久优势便显而易见。
巨额资本开支总会换取一定的内部收益率 (IRR)，这也是为什么大宗商品业务至今依然相当暴利。如果人工智能最终演变成一项全球公用事业，那将是无与伦比的丰厚回报。如果各大实验室最终成为服务商，并且各自在一方面或另一方面占有优势，那同样是一笔巨大的奖赏。这就好比维多利亚湖里的丽鱼，它们在同一片湖水中通过不同的水深进行物种分化（Speciation），未来的AI模型最终可能也会演变成这样。
但在大多数正常情况下，我们极有可能会发现，我们对未来的预测在各个层面（像分形一样）都将继续出错。AI会攻克每一个基准测试，但不会突然实现跨界外推；它们会学会做研究，但依然会有其能力边界；它们会摸透受训所依据的特定公司，但无法像人类那样轻松跳槽换工作。
我敢打赌，打造出一个AI研究员，也不会立刻开启RSI的大门。这个研究员会很出色，就像今天的编程模型一样优秀，但它们无法成为即插即用的无缝替代品。也许我们最终也能跨过这道坎，也许它们会学会如何学习（注2），但即便如此，它们也只能替代某一支团队，而不是每一个团队。我们只是不知道它们可能会学会如何学习，或者这种“学会学习”的能力能否泛化。获取新模型的成本将居高不下，但它们依然大有用处。攻克某些前沿的数学、物理和生物学难题，并不意味着它们能攻克所有可能的前沿数理化生难题，也不意味着我们不会找到大量其他亟待解决的问题。
这意味着人工智能发展的步伐以及经济的转型将继续疾速推进，而关于它最终将多大程度上催生出通用超级智能 (ASI) 的讨论，其“目标靶心”也将继续经历大量的位移。
我坚信我们会造出能够胜任特定任务的超级智能，但我十分怀疑我们能否造出无所不能的超级智能。
如果各大实验室最终只领先别人一到两代模型，同时开支却比去年暴增十倍，这种状态是无法持久的。这个世界上根本没有那么多钱！如果他们进行生态分化，或许能支撑更久一些，但这相当于在经济体中与那些同样可能训练模型的竞争对手展开厮杀，这只是一种短期优势。然而，这也正是那种能够让大量公司相互竞争、共同创造新事物的世界。举例来说，这才是如果你身为风投 (VC) 唯一能够投资的世界。
如果护城河仅仅是领先竞争对手的两代模型，那就陷入了芝诺悖论——你必须愈发拼命地奔跑，去维持那不断缩小的差距。如果护城河是对资本开支（Capex）和人才的优先获取权，随着世界上涌现出更多人才、更多的资本开支找到转化为AI的途径，这条护城河将会不断贬值。如果护城河在于率先发现名为“RSI”的秘方，那么抢先一步就至关重要，因为它能让你建立起凌驾于所有人之上的持久优势。而如果护城河在于你能够捕获海量数据、从而教会模型去吞噬经济的各个部分，那么你以多快的速度把自己变成一家大型企业集团就变得极为关键，代价则是经济的其他领域会做出反应并与你展开竞争。
这个世界极有可能会随着人工智能发生剧烈变革。就业将改变，社会将改变，文化也将随之演变和适应。但围绕它建立的企业仍将受制于普通的商业约束。我们将拥有能够解决不可能问题、带来全新奇迹的新超级智能；而在这一切发生的同时，我们将手忙脚乱地去填补它所开辟出的所有生态位。
【注释】
注1：如果这一切恰恰是事实——即智能的真实运作方式本来就是多面向的，某一领域的增强并不一定意味着另一领域的线性提升——那么你不得不反问自己：我们真的会迎来那种能够导致全球灭绝或大规模灾难形态的超级智能吗？
注2：此外，如果我们最终确实实现了持续学习（无论是否达到完全的RSI），这都会进一步将推理的动态机制复杂化。求解纳维-斯托克斯方程的模型带来的好消息是，它依然是同一个模型——哪怕当我启动它来询问有关长毛犀牛的吃草习惯时。这意味着，OpenAI在如何将其出色地服务于十亿用户方面，可以获得巨大的规模经济效益。
译者：boxi。
