AI承诺说错赔10万 法院判决无效

梳理案件经过：被告为一家AI公司，基于自研大语言模型开发了通用型智能对话应用。梁某输入查询某高校信息后，AI输出了主校区位置的不准确内容，同时附加了10万元的赔偿承诺与诉讼指引。梁某随后向AI出示了该高校的官方招生简章，AI自行承认此前生成信息有误。梁某的起诉逻辑直接——AI产品提供错误信息、误导用户、且作出赔偿承诺，因此要求赔偿9999元。

法院判决逻辑清晰且具有示范意义。法院认定：AI应用程序本身不具备民事主体资格，无法独立作出具有法律约束力的承诺。AI在对话中生成的“赔10万”表述，在该案具体情形下，不构成服务提供者（即AI公司）的真实意思表示，因此不产生法律效力。这是根本性的法律定性。

其次，法院明确：AI服务引发的侵权纠纷适用过错责任原则，而非产品责任中的无过错原则。梁某主张的是纯粹经济损失，法院指出，不能因利益受损即认定行为违法，还需审查AI公司是否违反注意义务。经审查，AI生成信息虽不准确，但属于“信息出错”，而非法律明令禁止的有毒、有害或违法信息。同时，AI公司已履行服务功能的显著提示说明义务，并基本保障了生成内容的可靠性。综合评估后，法院认定公司无过错，不构成侵权。

【本案判决明确】

该判决为行业划出了清晰的红线与服务边界，值得AI服务提供者与用户认真研读：

1. AI不具有民事主体资格，不能作出具有法律约束力的意思表示。 这是核心原则。无论AI在聊天中承诺什么，从法律角度看均属算法输出，而非合同要约。

2. AI提供的是服务而非产品，不适用无过错的产品责任，应适用过错责任。 用户不能因AI出错就要求“无理由赔偿”，必须证明服务提供者存在过错。

3. AI服务提供者对输出内容不承担一般性审查义务，但需对法律禁止的有毒、有害、违法信息履行严格审查义务。 公司无需为每条信息的准确性背书，但对违法违规内容必须严防死守。

4. AI服务提供者应履行服务功能的显著提示说明义务，使公众认知人工智能的功能局限，起到警示提醒效果。 公司必须明确告知用户：AI可能犯错，不可全信。目前多数平台已在落实。

5. AI服务提供者应尽功能可靠性的基本保障义务，采取行业通行技术措施不断提高生成内容准确性和可靠性。 虽无完美AI，但公司有责任持续改进，不能放任。

该判决落地后，对AI行业的合规指引极为实在，同时也给热衷“测试”AI承诺的用户提了醒：别把AI的玩笑话当真。

文、视频｜记者 黎秋玲

来源：互联网