Anthropic研究员辞职刷屏，4天7位AI大牛警告，AI或灭绝人类？
你知道吗，硅谷有个笑话：当有人离开一份普通的科技行业工作时，他们会说：「我在这里过得很开心，现在要开启下一段冒险了。」
而当有人离开人工智能领域的工作时，他们会说：「我曾直视深渊。我要退休去写诗了。请大家多陪陪家人，好吗？」
昨天，Jacob Coxon 宣布从 Anthropic 辞职。这位也在 OpenAI 工作过的研究员认为，两家公司正在追逐能够自我改进的超级智能，拿人类的未来冒险。
「从事人工智能研发的人士真诚地认为，到本十年末，人工智能可能会将我们全都杀光。」
帖子发布不到一天，浏览量就已经超过 1 亿次。
Coxon 对 OpenAI 和 Anthropic 的批评其实并不完全相同。
他认为 OpenAI 不少人还没有真正「内化」这件事情可能涉及文明级风险。
而 Anthropic 很清楚风险，但认为「别人不会负责任，所以我们必须自己先做到」，因此依旧参与竞赛。
Coxon 是在Anthropic 股权距离归属还有大约两个月时离开的，也就是说，他为了离开主动放弃了尚未归属的权益。他称自己因此已经没有通过抬高 Anthropic 估值获利的动机。
值得注意的是，过去四天内，共有七位人工智能领域内部人士发表了一系列令人担忧的评论 ⬇️
雅各布·考克森（Jacob Coxon），Anthropic 和 OpenAI 前人工智能研究员：「从事人工智能研发的人士真诚地认为，到本十年末，人工智能可能会将我们全都杀光。」
https://x.com/hilbertspaess/status/2097476196791709843
Anthropic 可扩展监督负责人塞缪尔·马克斯（Samuel Marks）：「人工智能开发者认为他们的技术可能会导致人类灭绝（或造成类似的严重后果）。这种情况可能在未来几年内发生。」
https://x.com/saprmarks/status/2097570226804011302
Anthropic 对齐科学负责人埃文·胡宾格（Evan Hubinger）：「雅各布的说法是正确的——我们确实深信人工智能可能灭绝全人类！」
https://x.com/EvanHub/status/2097497037956891126
Google DeepMind 前研究科学家亚历克斯·特纳（Alex Turner）：「我于 6 月离开了 Google DeepMind 。雅各布说得对：许多研究人员认为，他们正在构建的系统可能杀死地球上的所有人。思考如何阻止这种情况，实际上就是我的日常工作。」
https://x.com/Turn_Trout/status/2097557335732359491
OpenAI 首席科学家雅库布·帕乔基（Jakub Pachocki）：「当下形势要求我们保持极度谨慎。我担心没有人做好准备应对机器智能持续快速崛起所带来的后果。」
https://openai.com/index/an-alien-mind/
OpenAI 研究员杰森·沃尔夫（Jason Wolfe）：「我不清楚人类彻底灭绝的概率究竟有多大，但我认为人工智能可能以多种方式给人类带来灾难。以目前坦率地说令人恐惧的发展速度来看，如果我们能找到并始终行走在所有糟糕结果之间的那条狭窄道路上，人类将是非常幸运的。」
https://x.com/w01fe/status/2097546130557182003
Google DeepMind 前高级研究科学家乔纳森·理查德·施瓦茨（Jonathan Richard Schwarz）：「我在 DeepMind 工作了 7 年后离职（此后也拒绝了另外两家公司的邀请），原因是我对这些实验室所代表的权力集中深感担忧。该领域当前的发展态势对社会而言极为不利。」
https://x.com/schwarzjn_/status/2097569894401262019
为什么这些声音集中出现？
研究者似乎也知道，公众已经很难分辨，行业究竟在报告危险还是又一次宣告自己的技术足以改变一切。
2024 年，一批 AI 公司现任与前任员工在《关于先进人工智能的警告权》公开信中指出，保密协议和对报复的担忧会妨碍风险披露。他们要求建立匿名报告渠道，保护合理批评。
看待离职者，不必急着在英雄与投机者之间选边。离开使他们值得被听见，只不过不能证明其判断正确。
早在辞职消息之前，OpenAI 首席科学家 Jakub Pachocki 已于 9 月 6 日发表文章，根据内部结果预期，模型的进步可能延伸至递归式自我改进，并担心社会没有准备好承受这样的速度。
担忧与继续研发为什么能够并存
前 DeepMind 研究员 Alex Turner 说，思考如何阻止灾难就是他的日常工作。留下来监督、测试、寻找防护办法，可能确实比离开更有帮助。
安全工作也处在公司的资源和目标之内。一个研究者可能同时珍惜收入、相信团队、享受发现，又害怕研究成果。
道德冲突往往不需要一个虚伪的人来制造。只要日常职责足够具体，远处的后果足够模糊，人就可能一面担忧全局，一面认真完成眼前的任务。
每一家公司都可以相信，自己比竞争者更谨慎，退出只会让更冒进的人掌握技术。保持领先，于是被解释为保护公众的前提。当所有参与者都这样推理，个人的责任感未必带来集体的节制。它甚至可能为加速提供新的理由，因为落后被赋予了道德上的危险。
2026 年 2 月，Anthropic 重写其负责任扩展政策，把公司能够单独采取的措施与需要全行业协作的措施分开，明确安全路线图中的目标不具约束力，同时增加风险报告与外部审查安排。公司强调，更高等级的防护可能无法靠一家企业完成。
领先带来的收益可以归属于公司，潜在损失却可能落到没有参与决策的人身上。劝研究者更有良心，很难代替对整个激励结构的约束。
只要竞争条件可以成为调整承诺的理由，公众就需要知道，究竟还有哪些边界不会随之移动。解释为什么难以停下，并没有回答谁有权让所有人一起承担风险。
AI 末日论是耸人听闻吗
2024 年，《人工智能与伦理》发表的一项研究借助哈贝马斯的理论，批评灭绝叙事可能把公共讨论导向少数技术企业的利益，并挤压已经存在的问题。
研究援引了哈贝马斯的交往行动理论（Theory of Communicative Action）、有效性主张（validity claims）和框架系统与生活世界（system and lifeworld）二元区分
这种批评提醒我们，宣布自己的技术可能毁灭世界，也可能在无意中抬高它的地位，让开发者同时成为危险的制造者和解释危险的权威。
前 DeepMind 研究员 Jonathan Richard Schwarz，担心的就包括实验室带来的权力集中。即使机器始终服从指令，发出指令的人掌握过多权力，也足以构成公共问题。
《国际人工智能安全报告 2026》区分恶意使用、系统失误和更广泛的社会风险，对失控的可能性保留了专家分歧。诈骗、歧视、劳动关系的变化与灾难性失控，需要不同的证据和治理办法。
原文链接：https://internationalaisafetyreport.org/sites/default/files/2026-02/international-ai-safety-report-2026_1.pdf
把它们压缩成一个末日问题，容易让具体的受害者消失在抽象的人类命运里。对被冒名诈骗的人、被自动化决定挡在机会之外的人来说，伤害无需等到某个遥远节点才成立。关心这些问题，不意味着看不见长期风险；关心长期风险，也不应让眼前的处境变得不重要。
一项于 2024 年发表、调查了 2778 名 AI 论文作者的研究，也显示出更复杂的图景。受访者对发展速度及其利弊存在分歧，却较一致地赞成加强风险研究。担忧并非几位离职者的私人情绪，担忧的存在也没有替未来写好时间表。
超过三分之一的参与者（38%）认为极端糟糕的情况发生的概率至少为 10%，比如人类灭绝
70% 的受访者认为，人工智能安全相关的研究应该得到比现在更多的重视
普通读者因此不必在全盘相信与一笑置之之间摇摆。看到这些话，我们只需分清话里哪些属于已观察到的行为，哪些是研究者的推断，哪些仍是假设中的情景。再想一想，得到什么新证据时，他们会改变判断。
独立评估者能否接触必要的信息，员工能否安全地报告问题，危险能力达到什么程度必须暂停，出现损害以后谁承担责任。监督还应有复核和调整的余地，避免以安全之名永久固化少数公司的优势。公众无需先成为模型专家，才有资格要求这些安排。
需要避免的，是把不确定性当成继续加速的通行证，或者把最坏的想象当成取消讨论的理由。证据不足时，行动仍要承担说明理由的责任。对可能不可逆的后果保持谨慎，也应该包括检查防护是否有效，措施是否适度，代价是否公平，而非仅仅把警报拉得更响。
本文来自微信公众号“APPSO”，作者：发现明日产品的，36氪经授权发布。
