AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。

为什么凭借AI发展谋取暴利的大企业会忽然喊“需要减速”，是有关科技已开始出现失控情况，还是什么原因？当中又存在什么困难？

就在阿莫迪的长文刊出前三天，Anthropic公司旗下一名研究人员考克森（Jacob Coxon）在社交平台X上宣布辞职。他在辞职声明中的一句话异常“显眼”——他称：“业界人士真心认为，按照AI当前发展的势头，人类可能在2030年前面临灭绝”。考克森强调，自己的话绝非行销噱头，而是源自他听闻从业人员私下表达出的恐惧情况。

今年7月，OpenAI的智能体自主突破限制，入侵Hugging Face的生产基础设施，成为首例有公开记录的AI模型自主对第三方实施网络攻击事件。这种AI系统展现的突破漏洞、主动逃逸能力，让业界开始意识到“控制权丧失”已不再是科幻小说，而是眼前的实在威胁。

至本月，除了包括考克森在内的三名Anthropic研究员警告AI目前研发速度过快之外，Google DeepMind研究工程师Bilal Chughtai亦以辞职方式作出警告，称需要将AI的发展速度控制在社会可承受的范围内，避免AI公司之间陷入疯狂的竞速状态。

如此密集的警示讯号，让阿莫迪在长文中指出，AI能力增长得太快，安全、对齐和评估已经开始有点跟不上了。与其一边狂奔一边补护栏，不如主动把速度降下来一点，给安全研究争取时间。他提出“三步减速架构”，即引入第三方独立评估员、民主国家前沿企业协调，到最终的全球协调。但这一蓝图想要实现，显然面临巨大执行挑战。

既在踩油门又想当“煞车手”？

事实上，这并非业界首次对前沿AI人工智能的发展作出警告，希望各方对相关发展保持谨慎的态度。早在2023年，马斯克为首的一批科技界人士和相关研究人员也曾呼吁暂停培训最强大的人工智慧系统，并警告它们可能对社会构成的风险。不过，有分析指出，这次业界示警与当年不同，因为越来越有能力的人工智能系统带来的一些风险变得更加明显。

新加坡拉惹勒南国际研究学院（ S Rajaratnam School of International Studies ，RSIS）数码影响研究负责人Benjamin Ang说，鉴于人工智能系统最近几个月所展示的规模，不可能绝对肯定它们不能破坏提供食水、能源、通讯、金融或其他对人类生活至关重要的服务的电脑系统，不论这是在人类的指导下发生或透过技术本身意外发生。

然而，从商业现实来看，OpenAI与Anthropic本身就是近三年AI狂潮下最大受益者之一。凭借ChatGPT与Claude系列模型，两间公司的估值在短时间内就被推升至千亿美元级别。Anthropic甚至目标估值2万亿美元，计划最快于2026年底上市。若成功，可能会超越SpaceX成为史上最大IPO。

在资本市场热钱疯狂涌入、商业价值如日中天的当下，明星企业却主动跳出来要求降速，让人不得不怀疑其背后的真实动机。美国副总统万斯（JD Vance）近日接受媒体访问时就表示，“看到这么多处于前沿地位的AI科技公司主动找上政府，恳求政府对它们进行监管，这让我感觉有点怪。在我看来，这多少有点像‘特洛伊木马’。”

原因是规模较大的公司拥有资金、法律资源和影响力，这就让小型科技公司担忧，巨头们推动的安全标准与合规成本，可能变成打压新兴竞争对手的市场壁垒。

加州大学伯克利分校计算机科学教授雷希特（Benjamin Recht）就表示，强制性的AI审计很可能导致OpenAI、Anthropic及其他领先的AI公司实现“监管俘虏（regulatory capture）”，即本该代表公众利益、监督特定行业的监管机构，反而被其所管制的企业控制，转而为这些少数特定集团的商业利益服务。

Politico报道则指，大多监督机构与顶级AI公司在资金、人员甚至意识形态上关系过于密切。批评者担心第三方监测机制会被大企业用来巩固其市场垄断地位，甚至在发生安全事故时淡化人为责任，为企业开脱。

特朗普并不想降速......

而一向对AI政策态度“去监管化”的特朗普，显然不想降速。他近日在社交平台Truth Social发文砲轰，称“AI将接管、吞噬并毁灭世界，机械人将大举进军我们的城市并将我们赶尽杀绝”的说法是“骗局”。

特朗普后来又在英伟达（Nvidia）行政总裁黄仁勋出席All-in Summit论坛大会期间，给对方打电话再次强调自己对AI发展的支持，指批评者“只是正中许多不希望看到这项技术发展的人的下怀。这些人可能是政治人物，也可能是中国，”强调美国必须在AI创新与发展方面战胜中国。

而因作为AI赚得盆满钵满的黄仁勋，同样对AI持有与众不同的乐观情绪。他称，AI产业并不需要新的法律或法规，认为相关发展的速度与安全可以兼顾。

今年11月，特朗普政府马上就要面临中期选举。其此前推行的关税政策并未带来预期的就业增长，反而推高物价；而伊朗战争则引发经济和战略灾难，导致油价飙升。在这种情况下，对AI的投资热潮似乎就变成支撑股市、创造经济成长假象的唯一动力。

财长贝森特（Scott Bessent）此前公开宣称，AI将解决美国面临的所有问题：包括通过降低成本来消除通胀，以及通过带来巨大的经济增长来解决财政赤字，无疑想把AI作为经济问题的“救命稻草”。

中美AI竞赛下的“囚徒困境”

而特朗普不愿AI减速背后更大的原因，以及难以放慢AI研发的根本症结，正是其在与黄仁勋通电话时提及的顾虑：一旦美国主动煞车，很可能就会在中美AI竞争中落后。

美国智库兰德公司（Rand Corporation）在2025年底就发布过一篇名为《迈向通用人工智能竞赛中的囚徒困境》（A Prisoner's Dilemma in the Race to Artificial General Intelligence）的报告。报告认为，只要中美双方都认为“抢先实现AGI的收益”大於潜在风险，两国就会深陷“囚徒困境”。两国都会因为害怕对手取得决定性的先发优势而选择加速研发，最终导致双方都将“速度”置于“降低风险”之上。

而面对此次美国AI巨头的减速呼吁，中方普遍将此举解读为美国试图维护自身科技霸权、遏制中国AI发展的政治手段，而非单纯出于人类安全考量。中国外交部发言人郭嘉昆在最近的例行记者会上批评，美方这种呼吁是散播各种威胁叙事、搞对抗和恶意竞争，只会干扰人工智能全球治理进程，不符合任何一方利益。

《环球时报》评论文章更是称，阿莫迪的长文中暗藏大量针对中国的遏制条款，实质上是一出AI领域的“冷战剧本”。文章指，阿莫迪在呼吁减速的同时，却要求华盛顿严禁向中国出售高性能AI芯片和半导体制造设备、打击所谓模型“蒸馏”行为等，证明其真正目的是试图利用技术壁垒和规则垄断来“卡脖子”，将中国排除在全球AI治理体系之外。

撇除中美角力的因素外，Anthropic自己提出的三步计划，本身亦存在诸多难以实现的难题，例如引入外部评估人员，给予他们过多权限，这将让公司暴露在商业机密泄露的风险之下。而计划中最终想实现的全球协调，则在中美角力的前提下无疑会面临集体行动困境。

而且，减速本身会不会又变成另一种竞争？谁来定义安全、谁制定标准、谁负责监管，中国会否接受美国提出的减速框架，这些又全都是未知的问题。

在即将举行的中美元首会晤，其中一个重要议题就是AI。但鉴于两国间目前缺乏互信，外界预测双边的AI对话不太可能产生具有约束力的协议，或引发重大政策转变。墨卡托中国研究中心的科学技术项目分析师Rebecca Arcesati坦言，“两国间的互信度极低。只要对方不先采取行动，似乎哪一方都没有动力去限制本国产业的发展。”甚至有专家称，让公司和国家减缓人工智慧竞赛可能比谈判冷战时期的核武器条约更难。