今年国际上发生的两件大事：伊朗最高领袖哈梅内伊（Ayatollah Ali Khamenei）遇袭身亡；委内瑞拉总统马杜罗（Nicolás Maduro，又译马杜洛）被美军强行控制。据外媒报道，美军在上述行动中都使用了人工智能（AI）。然而，短短数月时间，五角大楼（The Pentagon）却被AI搞得焦头烂额。

据《纽约时报》报道，7月中旬，美国空军向各大军事承包商发出了一封措辞十分严厉的信函，要求他们在9月1日前，必须彻底清除掉所有武器和控制系统软件中Anthropic公司的人工智能产品，否则将面临终止所有五角大楼业务的风险。

然而，近日，承包商们又收到了一封撤回令，信中称：“他们可以，至少目前可以，无视先前关于清除Anthropic产品的指令。”

一个月内，禁令下达又撤回。到底用不用AI？军事承包商心里没数，下达命令的五角大楼心里也没数。

这场混乱的源头，要从五角大楼和Anthropic的纠葛说起。去年这家公司和OpenAI、谷歌（Google）等一起拿下了五角大楼的军事AI合同。

但Anthropic坚持要保留美军使用的AI模型中的限制，而美军拒绝被一家私企凌驾到自己头上，于是今年2月底，五角大楼正式将该公司列为“供应链风险”，终止了其2亿美元（约15.7亿港元）的国防合同。

延伸阅读：五角大楼报告称美军太平洋基地设施问题多　混凝土剥落漏水有霉菌

有已离职的美国高级官员称，当时美国政府正在用该公司的大模型进行关键测试，停止使用相当于“单方面解除武装”。

布伦南司法中心（Brennan Center for Justice）的研究报告显示，自2016年以来，美国国防部已经拨款至少750亿美元（约5,879亿港元）给人工智能驱动的项目。实际应该会更高，因为很多机密项目的投入经费无法被统计。

美国花如此大价钱在军事AI上，得到的回报却不尽如人意。

五角大楼的旗舰AI项目“Maven计划”，即用AI分析卫星和无人机影像、快速锁定轰炸目标，在实际战场上的表现远没有宣传中的那样神奇。

数据显示，Maven的算法在天气良好的情况下识别坦克的准确率约为60%，而在恶劣天气或能见度差等不利条件下，这一准确率将会骤降至30%。

这意味著即使有天时地利，用AI来打击目标，10次里也只有6次能成功。

有多家外媒报道分析，美以伊冲突中美军误炸当地小学造成160多名儿童死亡的惨剧，正是因为美军AI调用的攻击目标座标来自十多年未更新的旧数据库，而这所小学所处的位置在十多年前是伊朗海军基地。

美军自己也无法信任手中的AI。

延伸阅读：伊朗小学遭袭逾百死　葬礼上母亲手中这款“中国书包”令人心碎

据CBS报道，在摩洛哥“非洲雄狮2026”（African Lion）演习中，美军测试了Overland AI公司的全自动战斗车辆ULTRA。但参与演习的一名军官表示：“我绝不会放心地把需要我做出的决定委托给电脑。”

即便前线频频发出“失控预警”，五角大楼的决策层却选择充耳不闻，加速将AI推向战场。

今年美国国防部发布了《人工智能加速战略》，提出要用AI重塑未来战争形态，“以战时速度运作”加快AI军事化。美国防部长赫格塞思（Pete Hegseth）更是直接在演讲中宣布，要“扫清美军内部阻挡人工智能高效发展的障碍”。

美国中情局（CIA）局长拉特克利夫（John Ratcliffe）将AI比作“数字核武器”，因为它的能力足够强大。但核武器是有按钮能操控的，AI却是开放的、每天都在变的。

如果一项技术连使用者自己都无法控制，那它能带给世界的，恐怕不是安全，而是更大的危险。

本文内容反映原文作者的意见，并不代表《香港01》的立场。