A Court Has Ruled That Google Is Liable for False Statements Generated by AI Overviews

德国法院裁定谷歌需对AI概要生成的虚假陈述负责 | WIRED

Fernanda González

商业

2026年6月13日 上午5:00

德国法院裁定谷歌需对AI概要生成的虚假陈述负责

该裁定认为，设计、训练、运营和管理AI系统的企业，必须对其生成的响应所造成的任何损害承担法律责任。

照片：David Paul Morris/Getty Images

保存此故事

德国一家地方法院作出的裁定可能会改变全球搜索引擎和基于人工智能的聊天机器人的运营方式。慕尼黑地区法院初步裁定，谷歌需对其AI概要功能生成的一系列虚假陈述负责，并要求该公司通过搜索引擎防止错误或不准确的声明传播。

该裁定源于《Decoder》首次报道的一起案件，其中两家出版商发现，谷歌生成的AI摘要在某些搜索中将它们与可疑的商业行为、诈骗和与订阅相关的欺诈行为联系在一起，而没有任何依据。

据报告，今年早些时候，受影响的公司向这家科技巨头发送了停止和终止函。谷歌否认责任，称其自动摘要功能会警告用户信息可能包含错误，并应自行验证。

法院的分析得出结论，谷歌的AI将被标记为可能存在非法行为的其他公司信息与原告的数据结合起来，生成了搜索引擎链接的任何来源中都没有出现的关联。

当局发现，与仅仅显示第三方声明链接列表的传统搜索引擎不同，谷歌的工具基于对互联网上信息的误解，生成了“独立、新且重要的陈述”。

根据法院的说法，纠正虚假信息的责任不在于第三方。谷歌是唯一有能力修改其AI生成摘要背后技术的实体，因此“必须对此负责”。此外，法院发现谷歌的辩护理由缺乏依据，因为被质疑的摘要“包含在搜索结果中完全不存在的陈述”。

对网络上AI角色的新（且有力）解释

法院对AI在呈现搜索结果中作用的解释可能使此案成为历史性的先例。它认定一家大型科技公司需对其最先进的发展对广泛使用的平台所产生的影响负责。

迄今为止，在大多数法律体系中，搜索引擎一直被视为仅促进访问第三方创建并在网络上可用内容的工具。这种地位在发布的信息为虚假、不准确、误导性甚至诽谤性时，为它们提供了一定程度的保护。

然而，德国法院认为，当搜索引擎整合生成式AI系统时，这种保护不再适用。根据其推理，这种技术能够基于多个来源生成不存在的声明，因此负责运营该系统的公司必须对由此产生的内容承担法律责任。

法官们还得出结论，尽管谷歌鼓励用户验证信息，因为人工智能模型本身存在产生幻觉的潜在风险，但这一警告并不能免除内容分发者的责任。否则，他们认为，虚假陈述的受害者将几乎毫无防御能力，因为原始来源从未做出过这些陈述，因此无法被追究法律责任。

同样，法院认为，由人工智能系统生成的结果不能受到言论自由原则的保护，因为这些结果是公司设计、训练和管理的算法的产物，而不是个人意见的表达。

作为防止可能再次发生的预防措施，该裁决要求谷歌删除本案中被认为具有诽谤性的大部分陈述，并承担诉讼所产生的80%法律费用。

据《Ars Technica》报道，一家公司发言人表示，这一决定可能会被上诉。“我们对AI概要的质量投入了大量资源，以确保绝大多数回答提供准确的信息，并且它们的设计目的是反映网络上已有的信息。”该声明表示。“我们正在仔细审查这一决定，目前该决定尚未最终确定。”

德国法院的这一裁决可能对全球的人工智能行业产生深远影响。OpenAI、Anthropic和Perplexity AI等公司也警告其用户，他们系统生成的回答可能包含错误或具有误导性，并像谷歌一样，建议用户在使用前验证信息。这种警告通常出现在用户在平台上创建账户时同意的条款和服务中。

然而，本案认为，这样的警告不足以免除开发者的责任。裁决指出，当人工智能生成的陈述在其原始来源中并未直接出现时，设计、训练、运营和管理该系统的公司必须对这些陈述造成的任何损害承担法律责任。

这个故事最初出现在WIRED en Español，并已从西班牙语翻译而来。