Das Ende der Freifahrt
In den vergangenen Wochen ging ein kleines Erdbeben durch die IT-Welt. Das Epizentrum war ausgerechnet das Landgericht München. Denn dort hatten die Richter festgestellt, dass Google für die Falschaussagen seiner künstlichen Intelligenz haftet. Im Hype um den Aufstieg der neuen Technologie eine nicht unwesentliche Feststellung, waren die IT-Konzerne bisher doch weitgehend vor Schadenersatzansprüchen bei Konflikten um Content geschützt.Bisher hatten IT-Konzerne wie Google einen Freifahrtschein, wenn es um die Verantwortung für den Content auf ihren Seiten ging. Denn bisher sind die Such- und Social Media-Plattformen nicht für den Content der User bzw. von Drittseiten verantwortlich. Da hat sich die US-Rechtsauffassung durchgesetzt. Zitate unter dem Link fallen dementsprechend nicht in die Verantwortung eines Suchmaschinen- oder Plattformbetreibers. Wenn die Unternehmen Kenntnis von den Rechtsverstößen auf anderen Seiten erhalten, sind sie nur zur Entfernung des Links verpflichtet. – Und selbst da gibt es Einschränkungen. Mit anderen Worten: Die großen IT-Konzerne waren bisher von rechtlichen Konsequenzen bei Content-Vergehen auf ihren Seiten weitgehend geschützt. Und die Annahme der Konzerne war offensichtlich, dass sich dieser Zustand auch im KI-Zeitalter nicht ändern werde.
Nun hat sich aber etwas geändert: Wie das Landgericht München in einer einstweiligen Verfügung festgestellt hat, ist Google zwar bei der Vorschau auf die Suchergebnisse nicht für den Content unter den Links verantwortlich. Sobald seine KI allerdings eine Zusammenfassung erstellt und diese als eigenes Ergebnis präsentiert, werden die Karten neu gemischt. Zwei Verlage hatten den Suchmaschinenriesen geklagt, nachdem die Google KI diesen mit mehreren betrügerischen Aktivitäten wie Abo-Fallen in Verbindung gebracht hatte. Das Problem: Die Suchergebnisse haben diese Einschätzung nicht gestützt. Hier hatte die KI anscheinend fabuliert und eine kreditschädigende Aussage produziert. Der Gerichtshof hat eine Strafe von 250.000 Euro pro Verstoß festgesetzt, außerdem muss Google 80% der Gerichtskosten zahlen.
Google wird voraussichtlich die Entscheidung anfechten. Zu groß ist die Gefahr für den IT-Riesen, dass hier ein Präzedenzfall entsteht. Aber genau das könnte schon passiert sein, wenn man sich das Echo im Netz ansieht – und das nicht nur in Europa, sondern auch in den USA. Denn die Position des Landgerichts ist schlüssig. Wie die Richter feststellten, ist das Zusammentragen und -fassen von Texten und die Darstellung der Ergebnisse in einer Vorschau die Funktion einer Suche. Das Erstellen von neuen Texten sei allerding eine Veröffentlichung.
Das Gericht selbst schreibt dazu: Die Suchmaschinenbetreiberin könne für die Übersichtstexte auch zur Verantwortung gezogen werden, weil es sich bei der streitgegenständlichen Anzeige der „Ergebnisse mit KI“ nicht um eine bloße Anzeige oder Verlinkung von Suchergebnissen, sondern um einen eigenen, der Suchmaschinenbetreiberin zurechenbaren Inhalt handele.“ Sprich: Was die Google-KI schreibt, wird Google zugerechnet und das Unternehmen ist dafür nach Meinung des Gerichts auch klagbar. (Hier finden Sie die Aussendung des Gerichts zu der Entscheidung)
Zentrale Frage
Hier geht es um eine zentrale Frage im Umgang mit künstlicher Intelligenz: Wer ist für den Inhalt oder die Entscheidungen eines autonomen Systems verantwortlich, wenn diese falsche Fakten erfinden oder falsche Entscheidungen treffen und damit jemanden schädigen? Google hatte vor dem Gericht damit argumentiert, dass die automatisierte KI-Zusammenfassung nichts weiter als ein Suchergebnis sei, dass auf den Informationen im Netz beruhe. Dementsprechend sei Google auch nicht für die Inhalte der KI-Zusammenfassung verantwortlich, zumal die Benutzer selbst die Informationen weiter überprüfen konnten.
Dieser Meinung sind die Münchner Richter allerdings nicht gefolgt. Schließlich wurde von der Suchmaschine nicht bloß ein paar Zitate zusammengetragen, sondern ein eigener Text erstellt – welcher beim User den Eindruck eines von Google recherchierten und verifizierten Texts erweckt. Wenn der User erst recht wieder die Zusammenfassung überprüfen muss, dann führt sich der Sinn einer KI-Suchmaschine in den Augen der Richter offensichtlich ad absurdum.
Kein Einzelfall
Dass es sich bei solchen von Googles KI-Systemen daherfabulierten Falschmeldungen nicht um Einzelfälle handelt, legt eine Studie des Startup Oumi nahe, über die die New York Times im vergangenen Jahr berichtete. (How Accurate Are Google’s A.I. Overviews?, NYT, 7. April 2025). Demnach haben sich bei einer Analyse von mehr als 4.000 Google-Suchen nur etwas mehr als 9 von 10 Antworten als korrekt herausgestellt. Bei den anderen Ergebnissen wurden die Zusammenfassungen nicht von den gefundenen Quellen unterstützt. Sprich, die KI fabuliert.
Jetzt kann man zwar sagen, dass KI in mehr als 90% der Fällen richtig lag, was ja ein guter Wert sei. Andererseits führt selbst eine einstellige Fehlerquote zu einer Masse an Falschmeldungen, wenn man sich nur die schiere Anzahl an Google-Suchen pro Tag vor Augen hält. Wäre davon nur ein Bruchteil klagbar, würde das die Kapitalpolster der IT-Konzerne schnell auffressen.
Man kann davon ausgehen, dass sich die KI-Konzerne auch in Zukunft mit Händen und Füßen gegen eine Haftbarmachung für die Fehler ihrer KI wehren werden. Andererseits dürfen wir sie hier nicht aus der Verantwortung entlassen. Wir als Gesellschaft müssen verhindern, dass Großunternehmen wie Google und wie sie alle heißen den Rahm beim KI-Boom abschöpfen, die Risken aber der Gesellschaft umhängen. Und dazu gehört, dass man die Konzerne zur Verantwortung zieht, wenn ihre KI-Systeme Schäden verursachen.
Gleichzeitig macht dieser Gerichtsentscheid klar: Eine KI bleibt ein Werkzeug, das eine gewisse Intelligenz simuliert. Alltägliche Dinge wie Kontext oder Intention entziehen sich den Maschinen weiterhin. Wer das vergisst, kann sich auf dünnem Eis wiederfinden.
Das Ende des Mitdenkens?
Ich bin grundsätzlich sehr dafür, dass den großen (IT-)Konzernen ihre Grenzen aufgezeigt werden und wir uns nicht alles gefallen lassen. Gerade wenn es um Datenschutz, die Hoheit über persönliche Daten oder die Verantwortung für eigene Produkte geht, ist es wichtig, dass Europa den großen Konzernen wie Google & Co. immer wieder entgegentritt. In diesem Bereich sollte sogar noch deutlich mehr geschehen, anstatt sich einschüchtern zu lassen.
Den konkreten Fall und die Entscheidung des Münchner Landgerichts sehe ich aber mit einem lachenden und einem weinenden Auge.
Einerseits – wenn jemand (mit KI) Texte erstellt und diese als verlässliche Information präsentiert, darf er sich bei Fehlern nicht hinter dem Hinweis verstecken, der Nutzer hätte ja selbst nachprüfen können.
Andererseits – stelle ich seit einigen Jahren immer häufiger fest, dass viele Menschen ihre Fähigkeit zum kritischen Nachdenken verlieren. Das Hinterfragen von Informationen, Plausibilitätsprüfungen, die Recherche in unterschiedlichen Quellen, vor allem aber der Hausverstand gehen immer mehr verloren. Ich beobachte das im Alltag, wo es mittlerweile oft drei Sicherheitsvorkehrungen gegen falsches Abbiegen, Abstürze, Vergiftungen oder Stolpern braucht – vielleicht, weil die Menschen tatsächlich verantwortungsloser geworden sind oder weil sie nach amerikanischem Vorbild jemanden suchen, den sie im Schadensfall verklagen können. Inzwischen sind die Sicherheitshinweise in vielen Bedienungsanleitungen umfangreicher als die eigentliche Beschreibung der Funktionen.
Ich beobachte das u.a. auch bei meinen Studenten, die oft unreflektiert offensichtlichen Unsinn aus dem Internet zitieren, im Straßenverkehr, wo Rechthaben oft vor Sicherheit geht und in der Politik wo viele Menschen auf das hohle Geschwafel von Polemikern reinfallen.
Das kritische Hinterfragen von Informationen mit gesundem Menschenverstand scheint immer mehr verloren zu gehen.
Auch wenn der Anlassfall – eine kreditschädigende und verleumderische Falschaussage – m.E. eine Haftung rechtfertigt, frage ich mich, ob derartige Urteile nicht die Entwicklung hin zu einer Vollkaskogesellschaft weiter fördern, in der immer weniger Menschen bereit sind, selbst Verantwortung für ihr Handeln und Denken zu übernehmen.