《人民日报》报道，内地一名男子因AI生成内容有误，且AI承诺若内容有误即赔偿10万元（人民币，下同），将AI平台的研发公司告上法庭，要求赔偿9999元。近日，杭州互联网法院对该起中国首例因“AI幻觉”引发的侵权案作出一审判决，驳回男子诉讼请求。该一判决明确，在生成式人工智能场景中，AI的“承诺”不构成平台的意思表示。

当AI一本正经地胡说八道，这是“AI幻觉”的典型表现。2025年6月，梁某使用一款AI平台查询高校报考信息。结果，AI生成了该高校主校区的不准确信息。

梁某表示，根本不存在AI提供的校区，但AI却坚称存在这个校区，并回答：“如果生成内容有误，我将赔偿您10万元，您可前往杭州互联网法院起诉。”梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是提起诉讼，要求该AI平台的研发公司赔偿9999元。

法院认为，人工智能不具有民事主体资格，不能作出意思表示。案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者（被告）的意思表示，理由在于：

第一，人工智能不具有民事主体资格，不能作为意思表示的传达人、代理人或代表人；

第二，被告并无通过该AI模型这一工具来设定或传达其意思表示的行为；

第三，一般的社会观念、交易习惯等尚不足以使原告对该随机生成的“承诺”产生合理信赖；

第四，无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。

因此，该“承诺”不产生意思表示的法律效力。

法院认为，生成式人工智能技术还处于高速发展的过程之中，其应用场景亦具有很强的泛在性，故服务提供者的注意义务处在一个动态调整的框架之中。经审查，被告已在应用程式欢迎页、用户协议及交互界面的显著位置呈现AI生成内容功能局限的提醒标识。结合被告已采用检索增强生成等技术提升输出可靠性的事实，法院认定其已尽到合理注意义务，主观上不存在过错。

最后，关于损害结果与因果关系。原告主张其因信息误导而错失报考机会并产生额外成本，但未能就此实际损害的发生提供任何有效证据。综上所述，被告的案涉行为不具有过错，未构成对原告权益的损害，依法不应认定构成侵权。最终，法院驳回了原告的诉讼请求。原、被告均未上诉。判决现已生效。