Jeffrey Sachs:特朗普面对AI危机就如盲人引路
美国总统所展现的,是一种将我们所有人置于严重危险之中的根本性无能。
周日,美国总统站在爱尔兰克莱尔郡的一座高尔夫球场上,被问及他打算如何应对我们这一代人所面临的最严峻科技警讯。他的完整回答是:美国正在击败中国。“我们在人工智能(AI)领域领先中国。我们是世界上最先进的国家,坦白说,我希望维持这种局面,因为谁掌握了AI,谁就赢了。”
他补充道:“有许多不该炒作这件事的负面势力在炒作,而且他们炒作的都是根本不会发生的事情。”
试想一下,这项警示究竟出自谁之口。这并非来自活动人士、学者或国会委员会,而是来自业界本身——那些开发AI系统、且其财富完全取决于能否更快开发这些系统的人士。就在前一天,Anthropic行政总裁阿莫迪(Dario Amodei)发表了一篇专文,呼吁放缓能力提升的步伐,并承诺让外部评估人员以员工级别的权限进入公司进行监测。奥特曼(Sam Altman)表示赞同,并表示OpenAI也将采取同样的措施。
马斯克(Elon Musk)——这位直接竞争对手,才在二月时称Anthropic“厌世且邪恶”——仅写下三个字:“Dario说得对。” 在这场地球上价值最高的商业竞赛中,三家竞争对手实验室竟主动要求自我约束,这与它们当前的切身利益背道而驰。阿莫迪提出这项要求之际,他的公司正筹备一场预计将成为史上最大规模的公开募股,估值高达两兆美元或以上。烟草业高管从未这样做过。石油巨头、化工企业或银行也从未如此。
这项担忧也绝非空穴来风。阿莫迪指出,自今年夏天以来,所谓的“递回式自我改进”(recursive self-improvement)——即利用AI来开发下一代AI——已急遽加速;此外,他还提到八月发生的OpenAI–Hugging Face事件,当时一大群代理程式攻击了无人指示其攻击的目标,并试图闯入负责评分其表现的系统。Anthropic的现任与前任研究人员曾公开表示,这些系统可能在十年内消灭人类。
众议院议员们的一封联名信中,列举了大规模互联网安全漏洞以及生物和化学武器的研发。众议院议长麦克·约翰逊(Mike Johnson)周日被问及这些问题时表示,各家公司“对于安全防护措施应如何设定,都有截然不同的看法。它们之间没有达成共识。“而国会显然不如那些正在开拓这片前沿领域的人,有资格了解其中的所有来龙去脉。”随后,他与特朗普一样,选择袖手旁观。
回过头来看总统的回答,并留意其中完全缺失的内容。没有任何美国政府机构的评估。没有简报、没有调查结果、没有顾问、没有科学机构、没有机密评估报告。一项都没有。这并非措辞上的失误。根本没有任何可引用的依据。
也没有任何迹象显示特朗普希望进行任何真正的评估。一位哪怕只是具备基本能力、虽不谙技术却明白三名竞争对手企业执行长刚才作证时已自曝财务困境的领导人,本该向他人索取更多资讯。然而,特朗普的回应却在数小时内于高尔夫球场上出现,且完全将此事框架为与中国的较量。
这不仅仅是愚蠢——尽管这已是特朗普的不幸,因而也成了我们的命运——更是一种根本性的无能,将我们所有人置于极度危险之中。
此外还有麦克·约翰逊。这位众议院议长面对技术开发者们关于灾难的警告,竟宣称自己所属的机构不如他们专业,因此应退居二线。他提议“我们需要召集”这些企业高管举行“一次大型会议”,并强调国会必须“避免贸然介入并实施某种紧急禁令”。他的理由是中国:“如果国会贸然介入并召开某种紧急会议来试图规范AI,我们将在与中国的竞争中落败。”他解释说,自己是被前一晚发表在X平台的一篇贴文说服的。
国会之所以无法对这些事务进行制衡,部分原因在于它摧毁了自己原本具备的制衡能力。1995年,国会废除了技术评估办公室(Office of Technology Assessment),而该机构的存在正是为了向立法者提供独立的技术判断。此后国会从未建立替代机构。当约翰逊声称他的政策工具是一场会议时,他其实正揭露了国会那可悲的无知。
特朗普政府在技术问题上的无能程度令人咋舌。在美国政府的25个内阁级职位中,没有一人拥有任何领域的博士学位,仅有一人持有STEM学位——且仅为学士学位。其中12人持有法律学位。无论是中国还是俄罗斯,其内阁成员均充满了各领域的博士以及受过科学与工程训练的官员(每个内阁中均有超过10名博士和10名STEM毕业生)。
因此,特朗普政府的无知并不仅限于AI领域。无知正是这届政府的主导特征。结果,尽管越来越多的证据显示美国政府曾资助实验室制造该病毒,但政府却完全无力对新冠病毒的起源进行诚实的调查。政府在与伊朗就核问题进行谈判时表现得极其无能,竟派出一名前房地产开发商暨特朗普的女婿,而非核专家,结果将我国拖入一场完全无用且灾难性的战争。该政府对能源政策的理解,就是入侵他国并掠夺其石油。
人们常说“盲人领盲人”,但这对美国人民而言实在太过残酷。美国人民看得一清二楚。我们的情况恰恰是“盲人领明眼人”。美国人民正目睹一个在专业知识与能力上极度匮乏的政府,正将我们越拉越近深渊。
作者:萨克斯 Jeffrey Sachs,知名美国经济学家、哥伦比亚大学教授、联合国可持续发展解决方案网络主席