习特会｜佛里曼警示：若不携手管控AI 恐引发超越911的全球灾难
谁会料到自杀恐怖攻击者会劫持客机，撞击世贸中心和五角大厦？实验室培养的呼吸道病毒，竟会夺走数百万条人命，并陷世界于经济衰退？但911恐怖攻击事件和新冠肺炎疫情却真的发生了。
《世界是平的》作者佛里曼（Thomas Friedman）警告，倘若美中未能尽快就人工智慧（AI）安全议题携手合作，AI恐将带来不堪设想的威胁。
佛里曼在《纽约时报》23日刊出的专栏中表示，他希望华府和北京能与美中AI公司共商大计，拟出一套长期计划，在AI技术领域竞争的同时，也能同意落实AI护栏，防止能力愈来愈强的AI系统自主发动攻击，构成严重的互联网资安、生物、核子或金融风险。美中领导人面临这场空前严峻的地缘政治、地缘经济和科技挑战，若避而不谈，将危及全人类。
他呼吁美国总统特朗普（Donald Trump，又译川普）24日与中国国家主席习近平会晤后，能讨论出因应策略，既让AI协助促成能源、生物学、新材料和药物研发领域的突破性发展，同时也能防范AI可能带来的最糟后果。
佛里曼自称站在“放慢AI发展，除非确定能控制AI”的阵营，并指出所谓“不可监管AI，否则可能减缓创新”的论调，忽略以下三点：
1. 历史证明监管新技术不致扼杀创新和市场
牛津大学马丁学院新经济思维研究所教授班霍克（Eric Beinhocker）就说：“良好的法规会建立信任感，而信任感会让市场成长。航空业或制药业为何能成长得这么快、这么壮大？因为政府监管建立信任感，让消费者相信他们搭乘的飞机和服用的药物安全无虞。”
今天尚未发生AI大灾难，支持“放任不管”的声音高亢；但一旦灾难爆发，这些宣扬AI放任主义必受声讨。当年对社群互联网大亨的纵容，导致如今付出巨大的代价。
2. AI不只是技术 也是有进化能力的新物种
班霍克解释：
我们已释出‘矽版达尔文’。
他指出，最新的AI模型已展现有能力“自我改良、自我复制和自我保护。这三种能力结合在一起，就会以矽的速度、而不是人的速度进化。结果就是极为强大、可能带来危险且难以控制的东西”。随著人们赋予AI系统形体，像是机器人、无人机和车辆，更是如此。
班霍克呼吁，在确定AI系统总是符合人类福祉之前，人类必须控制AI，绝不能让AI完全自主。
3. 特朗普政府AI政策乱无章法，缺乏跨机构合作
佛里曼指出，特朗普治国无方，政府官员多半只是坐等总统在社群媒体上发号施令，而他的社群平台贴文内容，往往是根据某人刚对他说的话，或从福克斯新闻台听到了甚么，就据此拟定政策框架。（所幸至少财长贝森特深入研究AI议题，并与中国官员对话，但他能否影响特朗普政府其他官员，仍有待观察）
根据《纽时》报道，特朗普身边人士透露，特朗普之所以驳斥“AI可能导致人类灭绝”的疑虑是“骗局”，不是基于技术评估，而是因为他担心“若促进美国经济成长的AI荣景减缓，市场可能崩盘，衰退将接踵而至”。
佛里曼指出，这种思维注定会酿祸。他建议特朗普应采纳前美国总统艾森豪威尔（Dwight D. Eisenhower）的诤言：“计划一文不值，但规划是一切。”意思是，没有任何既定计划赶得上变化，一旦战争或危机爆发就会打乱计划；但若依循严谨的规划过程，深入了解问题，找出哪些地方可能出差错，并建立团队互信，就能大幅改善迅速调适的应变能力。
这正是特朗普对伊朗发动战争前所欠缺的，以致美国今日付出巨大的代价。试想，比德黑兰或特朗普聪明千倍的AI代理，若是行为失控，可能发生甚么后果？
【延伸阅读】特朗普力撑数据中心建设 警告反对者恐让中国在AI竞赛中取得优势
延伸阅读：
【本文获“联合新闻网”授权转载。】
本文内容反映原文作者的意见，并不代表《香港01》的立场。