中美AI竞赛|月之暗面被控“出猫” 用Claude答复回应Kimi用户
中美AI角力持续。内地人工智能企业月之暗面近日传出拟港沪两地上市之际,遭美国AI企业Anthropic PBC指控秘密将数千条用户请求转发至该公司的Claude模型,并把返回结果冒充自身模型的输出,以期在人工智能竞赛中取得优势。
指控用虚假账户“蒸馏”
据彭博报道,Anthropic周四发布的一份报告称,月之暗面没有通过自家的Kimi模型处理这些请求,而是在用户不知情的情况下,把查询转发给Anthropic的聊天机器人。Anthropic提到了一个案例,称月之暗面向其系统发送了近30万条客户请求,主要调用的是Anthropic的Opus人工智能模型。
报告指出,由于Anthropic不允许其技术在中国境内使用,月之暗面使用了5,380个虚假账户,其中大多数的定位貌似在新加坡和日本。
Anthropic认定,月之暗面此类活动属于“蒸馏”的一部分,也就是开发者利用更强大人工智能模型产生的数据来改进较弱的系统。该公司认为月之暗面将从其系统获得的回复用于训练自身的软件。
Anthropic表示,DeepSeek和小米也曾采取类似做法。
另一边厢,中国商务部近期表示,有关中国人工智能公司大规模蒸馏美国模型的指控“于事无凭,于法无据”,如果美国“以打击蒸馏为名,实施遏压中国人工智能企业的行动,中方必将坚决采取措施予以反制。”
大模型请求 涉视频监控资料
蒸馏是一种常见的人工智能模型增强技术。Anthropic的管理人士Jacob Klein表示,Anthropic在对自家模型进行蒸馏时,也观察到了性能提升。
据彭博报道,Anthropic这份长达145页的报告概述了该公司从去年12月至今年8月期间发现并阻止的一系列与其软件有关的威胁,其中包括疑似由国家支持以及出于经济利益动机的网络攻击、监控活动和虚假信息行动。
报告发现,一名Kimi用户曾将中国监控数据上传到模型中,希望分析某个特定人员的行为是否异常。Anthropic称,这名用户可能以为该请求会由月之暗面处理,但最终却被提交给Anthropic模型,因此被这家美国公司看到。
Anthropic在报告中称,这项请求包含来自数百个摄像头的视频监控资料,其中涉及位于中国军事设施外部的摄像头。
报告中的案例还展示了人工智能如何加快恶意软件制作、社交媒体监控以及政治宣传。Anthropic表示,在每个案例中,公司都封禁了相关违规账户,并开发了防护措施,以防止类似行为再次发生。