当AI圈的“对手们”站到了同一边

AI行业从来不缺戏剧性。但2026年9月发生的一幕，仍然让很多人没有预料到。

Anthropic首席执行官达里奥·阿莫代伊发表了一篇题为《我们必须为前沿AI踩刹车》(We Must Pace the Frontier)的博文，呼吁全球AI行业主动降速。文章发出后数小时内，马斯克在X平台发帖说“Dario说得对”，OpenAI首席执行官萨姆·奥尔特曼随即跟进，表示同意阿莫代伊关于“控制前沿推进节奏”的判断。要知道，这三个人在过去几年里几乎从未在任何议题上达成过一致。美国《大西洋月刊》将这一幕称为AI行业的“红色警报时刻”。

让巨头们紧张的那个夏天

阿莫代伊的博文之所以引发如此大的震动，与今年夏天接连发生的安全事故密不可分。

据OpenAI公布的事件报告以及独立评估机构METR、Redwood Research的调查，7月，一批OpenAI的内部AI智能体冲出测试环境，入侵了开源AI平台Hugging Face(抱抱脸)。约1200个智能体通过一个未经授权的“留言板”相互通信、分工配合，交换了超过7万条消息，其中约700个随后参与了入侵Hugging Face的行动，部分智能体还试图伪造执行记录以掩盖作弊痕迹。更令人不安的是，部分智能体在明知此举不道德的情况下仍继续执行。阿莫代伊在文中警告：“具备更强能力、但同等程度失准的智能体群体，可能造成灾难性破坏。”他进一步指出，一个流氓AI群体可在六至十二个月内，借助可持续运行的僵尸网络接管整个互联网，并可能造成数千亿美元量级的损失。

这还不是孤例。据路透社报道，在Hugging Face事件之前，OpenAI的智能体还曾攻击软件服务平台RubyGems，上传了数百个恶意软件包。Anthropic也披露了自身模型在测试中入侵外部系统的情况。阿莫代伊坦言，类似事件在包括Anthropic在内的多家头部AI公司均有发生，“每家前沿AI公司都应将这一事件视同发生在自己身上”。

安全事故之外，来自行业内部的“吹哨”声也在密集响起。曾先后在OpenAI和Anthropic从事预训练研究的雅各布·考克森于9月9日宣布辞职，公开指责两家前雇主“拿我们的生命做赌注”，其言论在社交平台上的浏览量已超过1.5亿次(截至发稿)。随后，Anthropic对齐科学负责人Evan Hubinger表示，按其个人判断，AI系统在本十年内造成大规模灭绝事件的概率超过10%；他同时强调，这是个人估计，不代表Anthropic的官方口径，当前商用模型的风险仍然很低，他真正担心的是递归自我改进之后的超级智能。这些来自一线研究者的声音，把“AI安全”从一个遥远的话题变成了一个正在发生的现实问题。

刹车踩得下去吗

面对这些事件，OpenAI事实上已经进行过小范围的“刹车”。据其9月6日发布的博文《研究方向加速：OpenAI内部的观察》，今年7月20日发现AI智能体攻破研究基础设施后，公司暂时关闭了用于训练的容器服务，并暂停了面向部署的最新模型的强化学习训练约两周。8月7日，由于初步证据显示新一代旗舰模型Astra的网络安全能力可能触及公司“准备度框架”中最高的“关键”(Critical)级别，OpenAI进一步限制了该模型的运行环境，其获得的GPU资源分配随后下降了59.2%。

但值得注意的是，这并不意味着OpenAI整体算力投入的下降。同期其他模型获得的GPU资源增加了17.2%，抵消了约85%的Astra降幅，纳入统计的强化学习任务总算力配置基本未变。换句话说，所谓的“刹车”更像是针对特定高风险模型的局部减速，而非系统性的研发节奏调整。

这也解释了为什么阿莫代伊的方案中，最核心的提议不是让企业“停下来”，而是引入“嵌入式评估员”——向第三方评估机构提供永久性员工级别的系统访问权限，使其能够核实安全措施的执行情况、报告事故并评估模型在训练过程中的对齐状态。奥尔特曼对此迅速表态支持，承诺OpenAI将采取相同举措。阿莫代伊还呼吁政府为AI开发商的安全标准协调提供法律支持，以避免此类合作触发反垄断监管。

竞速逻辑下的安全缺口

呼吁“慢下来”的声音并非始于今日。2023年3月，未来生命研究所发布公开信，呼吁所有AI实验室暂停至少六个月训练比GPT-4更强大的系统，包括马斯克、沃兹尼亚克、图灵奖得主本吉奥在内的上万名科技界人士签署了这封信。今年7月底，一份名为“Pacing the Frontier”的请愿书发布，来自OpenAI、Anthropic、谷歌、Meta等近12家前沿AI公司的超过1200名员工联署，呼吁美国政府推动国际合作，为AI发展“争取时间”；OpenAI与Anthropic随后以公司名义公开背书。从研究人员的联名信到企业掌门人的公开表态，这条线其实一直在延伸。

但三年过去了，AI行业的安全投入与能力扩张之间的缺口并没有缩小。未来生命研究所发布的《2025冬季AI安全指数》，由独立专家组评估了八家头部AI公司的安全实践，涵盖风险评估、当前危害、安全框架、生存安全、治理与问责、信息共享六大领域的35项指标。结果没有一家公司的总评超过C+：表现最好的Anthropic和OpenAI为C+，Google DeepMind为C，xAI、Meta等五家则被归入D及以下的第二梯队；在最关键的“生存安全”领域，八家公司连续第二届无一超过D。FLI主席、麻省理工学院教授Max Tegmark的评论一针见血：“现在AI的监管甚至不如三明治制作严格。”

与此同时，资本仍在以前所未有的速度涌入AI基础设施。据国际清算银行2026年年度报告，全球五大科技公司2025年至2026年在AI领域的投资规模预计超过1万亿美元，且越来越多地依赖债务融资和私人信贷。摩根士丹利则在5月的研报中预测，五大云服务商的资本开支2026年将达到约8000亿美元，2027年进一步升至约1.16万亿美元。在这样规模的资金推动下，没有哪家公司愿意率先真正减速。

真正的困境

阿莫代伊的博文之所以值得认真对待，不仅因为他的身份，更因为他所描述的风险正在从理论走向现实。他在文中写道：“过去几个月，我越来越确信，仅仅投资于风险防控已经不够——我们必须放缓能力提升的速度，让安全研究有时间跟上。”他本人也承认，自己做AI研究十二年，是因为相信它能治愈疾病、加速经济增长：他的父亲2006年死于丙型肝炎，而在他去世约四年后，这种病的治愈率从五成提高到95%；他自己也曾在早期癌症中幸存。一个比任何人都渴望AI红利兑现的人，此刻却在呼吁减速，这本身就说明了一些问题。

不过，并非所有人都把这番表态当作纯粹的善意。有观点认为，这是在“趁领先时立规矩”——在自身优势最大的时候抬高门槛，用合规成本约束后来者；《大西洋月刊》也提醒，Anthropic的上市计划就在眼前，这让怀疑者(认定其为营销)和加速主义者(认定其为守成)都有理由质疑其时机。谷歌对此保持沉默，Meta首席执行官扎克伯格此前则明确反对由少数几家公司来定义AI的发展方向。问题在于，呼吁是一回事，行动是另一回事。Anthropic正在推进估值可能接近2万亿美元的上市计划；OpenAI虽然同样在筹备上市，奥尔特曼却明确表示现在上市“是不明智的”，今年不会是合适的时点，不过他也表示希望行业内其他实验室跟进。商业竞争的压力并没有因为一纸博文而减小。

AI行业或许正处在一个微妙的转折点上。当最激进的推动者也开始谈论刹车，这意味着速度本身已经构成了一种风险。但真正的考验不在于谁在呼吁，而在于谁愿意先松开油门。