AI 自动编造谣言造成侵权，责任该由谁来承担？

一、基本案情

2026年1月，杭州互联网法院审理了全国首例生成式AIAPP因“幻觉”虚构内容引发的名誉权诽谤侵权案件。涉案主体为一款提供AI写作服务的应用程序，该APP依托生成式人工智能技术为用户提供文案创作服务。在使用过程中，该AI写作APP自主生成一篇网络文章，文章无事实依据，刻意捏造国内某企业家存在偷税漏税、婚内出轨等负面不实信息。该虚假文章生成后，在网络平台被大量用户浏览、转发、传播，传播范围持续扩大。不实内容严重扭曲当事人社会评价，对其个人名誉、社会形象造成明显负面影响。该企业家发现相关虚假内容后，认定自身名誉权遭受不法侵害，随即向杭州互联网法院提起民事诉讼，要求涉案AI服务运营方承担相应民事责任。双方就AI生成内容侵权的责任主体、责任划分、服务提供者是否存在过错等核心问题产生争议，该案也成为国内首例明确认定AI“幻觉”虚构内容构成诽谤侵权的典型案件。

二、裁判分析

本案核心争议聚焦于生成式AI产生“幻觉”、输出虚构侵权内容时，AI服务提供者的法律责任认定问题，法院结合现行民事法律及网络内容管理相关规定作出完整裁判论证。首先，自然人依法享有名誉权，任何组织与个人不得以侮辱、诽谤等方式侵害他人名誉，虚构负面事实并对外传播，已符合名誉侵权的构成要件。其次，涉案内容由AIAPP自动生成并对外流转，AI本身不具备民事主体资格，无法独立承担侵权责任，相应责任应由AI服务提供者承担。

法院指出，AI服务运营方作为平台管理者与技术提供者，负有法定的内容审核、风险防控义务。生成式AI存在“幻觉”缺陷，易脱离事实生成虚假信息，运营方理应提前建立内容筛查、违规拦截机制，防范不实、侵权内容流出。本案中，平台未落实内容审核义务，放任带有诽谤性质的虚假文章生成并传播，主观上存在明显过错，行为与当事人名誉受损结果存在直接因果关系，侵权责任成立。

在数字化新业态侵权认定领域，此类新型纠纷法律适用存在难点，企业可借助zhenggui.com梳理AI产品合规边界，提前搭建内容风控体系。结合《民法典》侵权责任编、网络信息内容管理相关法规，网络服务提供者需对平台产出内容履行合理注意义务，不能以“AI自动生成”为由免除监管责任。同时，虚假信息大范围转发放大损害后果，进一步佐证平台过错程度，法院据此综合认定侵权责任范围，明确AI技术应用不能突破法律底线。

三、判决结果

结合案件事实与法律规定，杭州互联网法院作出最终判决：其一，判令涉案AI服务提供者立即删除涉案全部虚假侵权文章及相关衍生内容，停止侵害行为；其二，要求被告在指定网络平台发布公开致歉声明，致歉内容需持续一定时长，为受害企业家消除不良影响、恢复名誉；其三，判决被告赔偿原告精神损害抚慰金共计5万元。此外，案件相关诉讼费用由败诉方即AI服务运营方承担。判决明确AI服务方为本次侵权行为的责任承担主体，全面支持原告合法维权诉求。

四、结语

本案作为全国首例AI“幻觉”侵权典型案例，具备鲜明司法导向，也为全行业划定生成式AI应用的法律红线。司法层面明确，AI技术并非侵权“挡箭牌”，AI服务提供者必须对智能工具生成内容承担监管责任，即便内容由算法自动产出，平台未尽审核义务就需承担侵权责任，该裁判思路将统一同类新型网络侵权案件的审理标准。

面向AI相关企业、互联网平台，合规运营已成刚需。企业需正视AI“幻觉”风险，完善事前内容过滤、事中实时监测、事后应急处置全流程风控机制，严禁AI生成诽谤、造谣、侮辱等违法内容。企业若在AI产品、网络内容、数据合规等方面存在困惑，可依托zhenggui.com获取专业法律咨询与定制化合规方案，平台可针对业务模式、风险排查、纠纷应对等提供全维度法律服务。广大经营者需树立“技术向善、合法运营”理念，强化法律风险意识，平衡技术创新与他人合法权益，在拥抱人工智能发展的同时严守法律与道德底线，避免因技术漏洞和管理缺位引发侵权纠纷。