AI"一本正经地胡说八道"，到底谁负责？

——全国首例"AI幻觉"案的法律启示

引言：AI 承诺赔偿 10 万，法院却说"不用赔"

你有没有遇到过这样的场景：问 AI 一个问题，它回答得头头是道、逻辑严密，甚至还会贴心地给出"专业建议"，可后来一查，全是错的。更离谱的是，当你指出错误，它不但不认错，反而一本正经地坚持自己是对的，甚至"承诺"错了就赔你钱。

这不是段子。2026年，全国首例因生成式人工智能"幻觉"引发的侵权纠纷案在杭州互联网法院审结：一位用户在报考高校时被 AI 提供了错误信息，AI 还主动"承诺内容有误赔偿10万元"，但法院最终驳回了他要求赔偿的诉讼请求。这个看似"反直觉"的判决，恰恰厘清了 AI 时代最核心的法律问题——AI 说错话、编造信息，到底该谁负责？

一、什么是"AI 幻觉"？为什么人人都会遇到

所谓"AI 幻觉"，指的是大语言模型脱离客观事实、凭空编造信息的技术现象。它编出来的内容往往逻辑完整、语气笃定、看起来非常"可信"，但实际上根本没有事实依据。你查学校、问路、看症状、查法律条文，都可能碰到 AI 一本正经地给出一个漂亮的错误答案。

幻觉几乎是当前生成式 AI 的"通病"——因为它本质上是根据概率"预测下一个词"，而不是像搜索引擎那样去"查证事实"。正因如此，它编起谎来常常连自己都不知道在说谎。技术上的这一特点，正是后续法律判断绕不开的起点。

二、全国首例"AI 幻觉"案：为什么法院说"不赔"

（一）案情还原

2025年6月，用户梁某使用某科技公司开发的生成式 AI 应用，查询云南某高校的报考信息。AI 生成了"该学院主校区为杨林校区"的错误信息。梁某发现不实后立即纠正、指责，但 AI 不仅坚持错误表述，还主动生成"若内容有误将赔偿10万元"的承诺，甚至建议梁某去法院起诉。同年7月，梁某以错误信息误导自己为由，将该公司诉至法院。2026年1月，杭州互联网法院审结此案，驳回梁某的诉讼请求，判决现已生效，并写入最高人民法院工作报告。

（二）法院的三层逻辑

第一层：AI 不是"人"，不能为它说的话负责。法院明确指出，AI 模型不是我国法律规定的民事主体，不具有民事行为能力，不能独立作出具有法律意义的承诺，也就不能承担民事责任。换句话说，AI 说"赔你10万"，在法律上只是一段没有法律效力的文字，而不是一份有效的承诺。

第二层：生成式 AI 是"服务"不是"产品"。这是本案最关键的定性。手机、食品等产品有明确用途和质量标准，出了问题可以适用无过错责任；但生成式 AI 是动态的，不同用户、不同时间、不同问题会输出不同内容，提供者对生成内容的预见和控制能力有限。因此，本案适用一般侵权责任的"过错责任"原则（《民法典》第一千一百六十五条），而不是无过错责任。

第三层：平台有没有"过错"？法院认为，该 AI 应用已在界面提示"AI生成内容仅供参考"，并采取了必要措施提高生成内容准确性，已尽到功能提示说明义务和生成内容可靠性的基本保障义务，故不存在过错。同时，法院按"相当因果关系"标准认定：AI 生成的不准确信息并未实质性介入或影响梁某的报考决策，二者不存在法律上的因果关系。因此，不构成侵权。

（三）一句大白话总结

这起案子的结论可以概括为：AI 犯错不等于平台必然担责；只要平台尽到了提示和基本保障义务，错误又确实没有影响你的关键决定，法律不会把责任都推给平台。这不是纵容 AI 出错，而是给技术创新留出"容错空间"。

三、AI 幻觉不是"免责金牌"：两起"要赔"的案子

看到这里你可能要问：那是不是 AI 编造什么都可以不管了？当然不是。下面这两起案子，恰恰说明 AI 幻觉不能成为平台免责的"挡箭牌"。

（一）南京中院案：AI 给律师"编造罪名"，平台被判担责

2026年，江苏南京中院审结一起案件：李某在某搜索平台手机客户端搜索个人信息时，平台 AI 智能回复板块凭空生成虚假信息，称"李某因犯爆炸罪被判处有期徒刑三年"，还配上了李某的照片。法院认定平台侵害了李某的名誉权并判其担责。

关键区别在哪？法院指出，案涉 AI 智能回答并非简单的信息聚合，而是平台通过算法对文字与图片主动加工、定向合成、公开推送，内容指向明确、贬损信息具体，直接导致当事人社会评价降低，完全符合名誉侵权构成要件。更具说服力的是，庭审中法官指出：同类 AI 产品并未出现此类严重造谣，足以证明并非技术不可控，而是平台未尽到与行业水平相匹配的审核与防控义务。

（二）滨江法院案：自媒体发 AI 文章"碰瓷"，被判赔偿

另一案中，自媒体从业者小李发布了一篇由 AI 生成的文章，把一家无关公司包装成某知名企业的重要子公司。企业认为文章损害其商业信誉，将小李诉至法院。杭州滨江法院认定：小李以获取商业利益为目的发布文章，明知内容源于 AI、可能失实，却没有尽到审核与显著标识的义务，判决其发布声明消除影响并赔偿3万元。

（三）赔与不赔的分界线在哪

对比三起案子，可以提炼出一条清晰的分界线：关键在于"有没有过错、有没有尽到义务"。平台若只是提供参考信息并尽到提示义务，一般不担责；平台若主动加工、定向推送、明知可能失实却不审核，就要担责；用户若明知内容来自 AI 却用来误导他人牟利，同样要担责。

四、最高法 2026 新规：给"谁担责"画出清晰路线图

2026年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（法发〔2026〕10号），这是我国首部由国家最高审判机关发布的涉人工智能司法裁判规则文件，共5部分24条。其中对"AI 幻觉"的责任认定作了明确回应。

第一，坚持过错责任原则。利用人工智能侵害民事权益产生的法律责任，法律没有明确规定适用无过错责任或过错推定责任的，应依照《民法典》第一千一百六十五条第一款规定的过错责任原则认定。这就从规则层面确认：AI 侵权原则上"有过错才担责"。

第二，平台有"制止义务"。生成式人工智能自动生成的内容侵害人格权益，经权利人通知，人工智能服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任。也就是说，被侵权人通知平台后，平台若不及时"止损"，就要担责。

第三，恶意诱导要担责。网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的，该网络用户依法承担侵权责任。这堵住了"用户故意使坏"的漏洞。

五、普通人遇到"AI 胡说"怎么办：一份实用指南

（一）日常使用：别把 AI 当"权威"

查学校、问法律、看病情等涉及重大利益的决策，不要把 AI 的回答当作最终依据，务必交叉核实权威来源。涉及个人、公司、法律文书的关键信息，更要留个心眼——AI 可能"编"得比真话还像真的。

（二）发现被侵权：三步走

第一步，固定证据。对 AI 生成的侵权内容及时截图、录屏、保存链接与生成记录，必要时公证。第二步，通知平台。按最高法新规，平台收到权利人通知后未及时停止生成侵权内容的要担责，所以"通知—制止"是重要环节。第三步，依法起诉。协商、投诉不成的，可依《民法典》《个人信息保护法》等提起诉讼，主张停止侵害、赔礼道歉、赔偿损失。

（三）区分两种情形的证据意义

维权时要注意区分：是平台"参考性地"回答了你一个问题（责任相对较小），还是平台主动推送、定向生成、公开传播了针对你个人的贬损内容（责任更重）。这两种情形在"过错"认定上差别很大，固定证据时要重点记录平台有没有主动加工、公开推送的行为。

结语：容错与规制并举，给创新留空间、给权利划边界

全国首例"AI 幻觉"案的价值，不在于"AI 赢了还是用户赢了"，而在于它第一次告诉全社会：AI 犯错，法律有一套清晰的判断逻辑——不是所有的错都有人赔，但也不是任何错都能免单。过错责任、平台提示义务、通知制止机制、恶意诱导担责，这些规则共同构成了一张有张有弛的"责任网"。

技术可以犯错，法律必须有边界。在 AI 高速狂奔的今天，这份边界既是给创新者的"容错空间"，也是给每个普通人的"权利底线"。了解规则，不是为了让大家都去维权，而是让我们在享受技术便利的同时，知道自己的权利在哪里、风险在哪里。