KI-Chatbots können schnell antworten, aber auch überzeugend klingende Fehler erfinden. Wer haftet, wenn ein Unternehmen solche falschen KI-Aussagen auf seiner Website veröffentlicht oder Beschäftigte ungeprüft KI-Inhalte übernehmen? Die bisherige Rechtsprechung zeigt: Auf die Technik lässt sich die Verantwortung regelmäßig nicht abschieben.
OLG Hamm: Unternehmen muss für falsche Chatbot-Aussagen einstehen
Wie konkret das Haftungsrisiko sein kann, zeigt eine Entscheidung des Oberlandesgerichts Hamm (OLG Hamm, Urteil v. 12. Mai 2026, Az.: 4 UKl 3/25). Ein Unternehmen für ästhetische Behandlungen hatte auf seiner Website einen KI-Chatbot eingesetzt. Dieser bezeichnete die beiden Geschäftsführer, die dort als Ärzte tätig sind, unter anderem als „Fachärzte für plastische und ästhetische Chirurgie“. Diese Weiterbildung hatten sie nicht absolviert. Die ebenfalls genannten Titel „Facharzt für ästhetische Medizin“ und „Facharzt für ästhetische Behandlungen“ gibt es gar nicht.
Die Verbraucherzentrale Nordrhein-Westfalen klagte auf Unterlassung. Das Gericht bewertete die Angaben als irreführend und rechnete sie dem Unternehmen als eigene geschäftliche Handlung zu. Entscheidend war: Der Chatbot wurde auf der eigenen Unternehmenswebsite für die Kommunikation mit potenziellen Kunden eingesetzt, und das Unternehmen konnte vorgeben, wie er antwortet. Dass die Antworten automatisch erzeugt wurden und der Chatbot nach Darstellung des Unternehmens nur mit richtigen Daten gefüttert worden war, änderte daran nichts. Die Begründung des Gerichts haben wir in unserem Beitrag „OLG Hamm: Unternehmen haften für falsche Aussagen ihres KI-Chatbots“ ausführlich besprochen.
Das OLG hatte wegen der grundsätzlichen Bedeutung der aufgeworfenen Zurechnungsfragen die Revision zum Bundesgerichtshof zugelassen. In der Rechtsprechungsdatenbank des Landes Nordrhein-Westfalen ist das Urteil inzwischen als rechtskräftig vermerkt.
„Die KI war es“ schützt auch Nutzer nicht automatisch
Das Problem betrifft nicht nur Unternehmen, die eigene Chatbots betreiben. Auch wer mit ChatGPT oder anderen KI-Systemen Texte erstellt und anschließend selbst veröffentlicht, kann für deren Inhalt verantwortlich sein.
Wer beispielsweise eine KI-generierte Tatsachenbehauptung ungeprüft auf seiner Website, in sozialen Netzwerken oder in einer Pressemitteilung veröffentlicht, macht sich diese Aussage regelmäßig selbst zu eigen. Ist die Behauptung falsch und verletzt sie Rechte anderer, können insbesondere Unterlassungs- und je nach Fall auch Schadensersatzansprüche in Betracht kommen. So hat das Landgericht Kiel bereits 2024 einer Wirtschaftsinformationsplattform untersagt, eine automatisiert erzeugte Falschmeldung über ein Unternehmen zu verbreiten (LG Kiel, Urteil v. 29. Februar 2024, Az.: 6 O 151/23).
Der Hinweis, die falsche Information sei lediglich von einer KI erzeugt worden, beseitigt die eigene Verantwortlichkeit daher nicht.
Welche Rolle spielt der EU AI Act bei der KI-Haftung?
Seit dem 2. August 2026 gelten die Transparenzpflichten des EU AI Act. So müssen Nutzer bei bestimmten Systemen beispielsweise erkennen können, dass sie mit einer KI und nicht mit einem Menschen kommunizieren. Auch für bestimmte KI-generierte oder manipulierte Inhalte bestehen Offenlegungspflichten. Aufgeschoben ist durch die Digital-Omnibus-Verordnung nur die maschinenlesbare Markierung KI-erzeugter Inhalte durch die Anbieter: Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt sie erst ab dem 2. Dezember 2026. Eine allgemeine Kennzeichnungspflicht für jeden mit KI erstellten Inhalt gibt es dagegen nicht. Was im Einzelnen zu kennzeichnen ist, erklären wir im Beitrag „KI-Kennzeichnung seit August: Droht die Abmahnwelle?“.
Der AI Act beantwortet zudem nicht umfassend die zivilrechtliche Frage, wer einen konkreten Schaden bezahlen muss. Hier greifen weiterhin bestehende Regelungen, etwa aus dem Wettbewerbsrecht, Persönlichkeitsrecht, Deliktsrecht oder Vertragsrecht. Eine eigene europäische KI-Haftungsrichtlinie, die dies ergänzen sollte, hat die EU-Kommission 2025 zurückgezogen.
Daneben wurde das europäische Produkthaftungsrecht reformiert. Die neue Produkthaftungsrichtlinie erfasst ausdrücklich auch Software und trägt damit der zunehmenden Bedeutung von KI Rechnung. Sie gilt allerdings erst für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. In Deutschland soll ein neues Produkthaftungsgesetz die Richtlinie umsetzen, der Regierungsentwurf sieht ein Inkrafttreten zum 9. Dezember 2026 vor.
Was Unternehmen beim Einsatz von KI beachten sollten
Unternehmen sollten KI deshalb nicht als völlig eigenständig handelnden „Mitarbeiter“ betrachten. Besonders bei Kundenkommunikation, Werbung und Produktinformationen sollten klare Vorgaben bestehen, welche Aussagen ein System treffen darf.
Sinnvoll sind außerdem regelmäßige Kontrollen der tatsächlichen KI-Ausgaben, ein Verfahren für gemeldete Fehler und eine schnelle Korrektur falscher Inhalte. Bei sensiblen Aussagen, etwa zu Preisen, Vertragsbedingungen, Qualifikationen oder gesundheitlichen Themen, sollte gegebenenfalls eine menschliche Kontrolle vorgesehen werden.
Verantwortung bleibt trotz Automatisierung
KI kann Unternehmensprozesse erheblich vereinfachen. Die rechtliche Verantwortung verschwindet dadurch aber nicht. Wer KI nach außen für sich sprechen lässt oder KI-generierte Inhalte selbst veröffentlicht, sollte deshalb sicherstellen, dass falsche Aussagen möglichst früh erkannt und korrigiert werden. Die Entwicklung der Rechtsprechung zur KI-Haftung bleibt dabei weiterhin genau zu beobachten.
Welche Gerichtsverfahren es rund um Fehler von KI-Systemen schon gibt, besprechen wir in unserer Kaffeerecht-Folge „KI vor Gericht: Wer haftet für die Maschine?“.
Ist das Urteil des OLG Hamm zum KI-Chatbot rechtskräftig?
Nach der Rechtsprechungsdatenbank des Landes Nordrhein-Westfalen ja. Das OLG hatte die Revision zum Bundesgerichtshof zwar zugelassen, das Urteil ist dort aber als rechtskräftig vermerkt.
Kann sich ein Unternehmen damit verteidigen, dass die KI den Fehler selbst erfunden hat?
Jedenfalls im Fall des OLG Hamm reichte dieses Argument nicht aus. Auch der Hinweis auf korrekt hinterlegte Ausgangsdaten entlastete das Unternehmen nicht.
Hafte ich für einen KI-Text, den ich selbst veröffentliche?
Wer KI-generierte Aussagen übernimmt und selbst veröffentlicht, kann dafür nach den allgemeinen rechtlichen Regeln verantwortlich sein. Besonders bei Tatsachenbehauptungen sollte der Inhalt daher vor Veröffentlichung geprüft werden.
Regelt der AI Act die Schadensersatzhaftung für KI?
Nicht umfassend. Der AI Act enthält vor allem Anforderungen an Entwicklung, Einsatz, Transparenz und Sicherheit von KI-Systemen. Ob bei einem konkreten Schaden Schadensersatz geschuldet wird, richtet sich weiterhin insbesondere nach anderen gesetzlichen Vorschriften.
Gilt die neue Produkthaftung schon für KI-Software?
Noch nicht. Die neue Produkthaftungsrichtlinie erfasst Software ausdrücklich, gilt aber erst für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden.
