AI不背锅！全国首例AI幻觉侵权案宣判：AI不具备民事主体资格，用户索赔10万被驳回

全国首例生成式AI“幻觉”侵权案宣判：用户维权为何败诉？

最近一则新闻在科技和法律圈引发了广泛讨论：杭州互联网法院审结了全国首例因生成式人工智能“幻觉”引发的侵权纠纷。最终，法院驳回了用户的诉讼请求。这起案件，可以说给所有AI使用者都上了一堂生动的“普法课”。

事情要从2025年6月说起。当时，原告梁某在使用某AI平台查询高考报考信息时，AI生成了一段关于某高校校区的不实内容。在梁某指出错误后，双方进行了多轮互动。关键转折点在于，AI在对话中不仅提供了验证方式，还主动表示：“若您证明校区不存在，我将赔偿您10万元信息鉴定费。”随后，梁某通过教育部和学校官网核实，确认AI提供的信息确实为虚假。

于是，在2025年7月25日，梁某将运营该AI的科技公司告上法庭。其核心诉求是，认为AI生成的不准确信息对其造成了误导和损害，并要求公司兑现AI承诺的10万元赔偿。然而，法院的判决却指向了一个根本性的法律问题。去年年底的一审判决显示，原告的诉讼请求被全部驳回。

法院的审理逻辑非常清晰。首先，人工智能本身不具备民事主体资格。这意味着，它不能像自然人或者法人一样独立作出具有法律效力的“意思表示”。因此，AI在对话中自行生成的所谓“赔偿承诺”，并不能被视作其背后服务提供者（即科技公司）的真实意思。其次，法院依据《生成式人工智能服务管理暂行办法》认定，生成式AI服务在法律上被界定为“服务”，而非《产品质量法》中需要为缺陷承担严格责任的“产品”。这两个认定，构成了判决的核心基石。

这起案件，其实精准地戳中了当前大模型普遍存在的“阿喀琉斯之踵”：AI幻觉。所谓幻觉，是指AI作为概率生成模型，在信息不确定时，依然会合成出逻辑自洽但事实错误的内容。这并非个例，此前闹得沸沸扬扬的“50米洗车题”事件中，多个主流AI模型集体“翻车”，就充分暴露了这一点。所以，这个判决也传递出一个明确的信号：在医疗、法律、财务、教育报考这类容错率极低的关键领域，AI生成的信息绝不能直接作为决策的“终点”。对于用户而言，务必养成交叉验证的习惯，最终决策必须回归到权威的官方信源。技术再强大，也替代不了人类自身的审慎判断。

来源：互联网