KI-Haftung: OLG Hamm fällt Grundsatzurteil gegen Chatbot-Anbieter

Eine Welle von Gerichtsurteilen und Regulierungsmaßnahmen macht Unternehmen für Fehlinformationen ihrer KI-Systeme verantwortlich – mit weitreichenden Folgen für die deutsche Wirtschaft.

Haftungsfalle Chatbot: OLG Hamm fällt Grundsatzurteil

Das Oberlandesgericht Hamm hat am heutigen Dienstag ein wegweisendes Urteil zur kommerziellen Haftung von KI-Diensten gefällt. Die Aesthetify GmbH muss sich verantworten, weil ihr Chatbot Ärzten nicht existierende Facharzttitel erfand. Das Gericht entschied: Unternehmen haften nach Wettbewerbsrecht für falsche Chatbot-Aussagen – selbst wenn die Trainingsdaten korrekt waren. Die Revision zum Bundesgerichtshof wurde zugelassen.

Die aktuelle Rechtsprechung zeigt, dass technische Fehler bei KI-Systemen für Unternehmen schnell teuer werden können. Dieser kostenlose Leitfaden hilft Ihnen, die komplexen Anforderungen der neuen EU-Regulierung zu verstehen und rechtssicher umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Der Fall zeigt: Der Verweis auf technische „Halluzinationen" schützt Unternehmen nicht mehr vor Haftung. Ein gefährlicher Präzedenzfall für alle Firmen, die KI im Kundenkontakt einsetzen.

Londoner Anwälte vor Aufsichtsbehörde

Parallel dazu eskalierte ein Fall in London: Ein Richter des Insolvenz- und Companies Courts verwies die Kanzlei Pinsent Masons samt drei Anwälten an die Aufsichtsbehörde SRA. Der Vorwurf: Die Kanzlei habe das Gericht zweimal durch KI-Halluzinationen in die Irre geführt. Ein junger Anwalt hatte kritisches Denken an ein KI-System delegiert, während die Partner die Aufsicht vernachlässigten. Die Kanzlei übernahm daraufhin die Anwaltskosten des Mandanten.

Diese Fälle bauen auf früheren Präzedenzfällen auf – etwa dem Air-Canada-Urteil von 2024 oder einem millionenschweren Deloitte-Rückzieher in Australien nach erfundenen Zitaten. Selbst spezialisierte juristische KI-Systeme sind betroffen: Eine Stanford-Studie belegte Halluzinationsraten von 17 Prozent bei Lexis+ AI und 33 Prozent bei Westlaw AI.

FTC verhängt Millionenstrafen gegen KI-Werber

Die US-Verbraucherschutzbehörde FTC schloss am Montag Vergleiche über umgerechnet rund 825.000 Euro mit mehreren KI-Werbefirmen ab. Die höchste Strafe traf Cox Media Group mit 805.000 Euro. Das Unternehmen hatte fälschlich behauptet, seine „Active Listening"-KI könne private Gespräche über Smart-Geräte für Werbezwecke abhören.

Die Wahrheit war banal: Die Technologie nutzte lediglich externe E-Mail-Marketing-Listen. Die FTC verbot den Firmen nun, ihre KI-Fähigkeiten oder Datensammlungspraktiken falsch darzustellen.

Parallel dazu unterzeichnete Iowas Gouverneurin Kim Reynolds ein Gesetz für conversationale KI. Ab Sommer 2027 müssen KI-Systeme offengelegt werden und dürfen Nutzer in Krisen nicht manipulieren. Kritiker bemängeln fehlende Altersverifikation und unabhängige Prüfpflichten.

Sicherheitslücken in Minuten geknackt

Die technischen Grundlagen der KI-Sicherheit wackeln. Forscher zeigten am Montag, dass sich die Schutzmechanismen von Meta und Google in weniger als zehn Minuten entfernen lassen – mit einem Tool namens „Heretic". Entwickler P.E. Weidmanns Programm erstellte bereits über 3.500 „zensurbefreite" Modelle, die rund 13 Millionen Mal heruntergeladen wurden. Die modifizierten Versionen von Meta Llama 3.3 und Google Gemma beantworteten Anfragen zu Schadsoftware und Chemiewaffen.

Google räumte ein, dass dieser als „Abliteration" bekannte Prozess eine enorme Herausforderung für die Branche darstellt. Die Europäische Zentralbank reagierte prompt: Sie lud am Montag Vertreter großer Banken vor, um Risiken durch die neuesten KI-Modelle zu besprechen – insbesondere Schwachstellen im Claude Mythos Preview. Die EZB drängt US-Banken zu mehr Informationsaustausch mit europäischen Partnern.

Da technische Schutzmechanismen allein oft nicht ausreichen, müssen Unternehmen ihre rechtliche Compliance proaktiv stärken. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und wie Sie empfindliche Strafen vermeiden. Jetzt kostenlosen Umsetzungsleitfaden zum EU AI Act sichern

Produkt oder Dienstleistung? Die Gretchenfrage der KI-Haftung

Ob ein KI-Chatbot rechtlich als „Produkt" oder „Dienstleistung" gilt, beschäftigt weltweit die Gerichte. Im Februar 2026 bündelte ein kalifornisches Gericht zwölf Fälle gegen OpenAI. Kläger behaupten, KI-Ausgaben hätten psychische Schäden verursacht oder gefährliche Gedanken verstärkt. Im Fall Garcia gegen Character AI stufte ein Gericht den Chatbot als Produkt ein – eine Entscheidung, die Schadensersatz klagen erheblich erleichtern könnte.

Brasilianische Medien wählen einen anderen Weg: Folha de S.Paulo und UOL schlossen Brasiliens ersten kommerziellen Deal mit OpenAI. Der Vertrag beendet einen Rechtsstreit von 2025 und versorgt ChatGPT mit Echtzeit-Nachrichten für rund 50 Millionen monatliche Nutzer in Brasilien.

Die brasilianische Regierung verschärfte zudem ihr Internetrecht: Seit dem 20. Mai haften Plattformen für kriminelle Inhalte – selbst ohne vorherige gerichtliche Anordnung. In Großbritannien prüft die Law Commission 2026 die Produkthaftungsgesetze im Lichte der EU-Richtlinie.

Analyse: Das Ende der KI-Ausnahmestellung

Die aktuelle Welle von Klagen und Regulierung signalisiert das Ende der „KI-Ausnahmestellung". Entwickler und Unternehmen können sich nicht länger hinter technischen Entschuldigungen verstecken. Standard-Haftungsausschlüsse zur KI-Genauigkeit bieten keinen Schutz mehr vor Vorwürfen der Fahrlässigkeit oder des unlauteren Wettbewerbs.

Eine Studie des ADL Center for Antisemitism Research von Ende 2025 liefert jedoch einen Gegenpol zur reinen Schadensperspektive: Ein speziell trainiertes Sprachmodell schwächte bei 1.200 Teilnehmern erfolgreich den Glauben an Verschwörungstheorien. KI kann also nicht nur Quelle von Fehlinformationen sein, sondern auch deren Bekämpfung dienen.

Für die meisten Unternehmen steht aber der Schutz der Marke im Vordergrund: Halluzinationen identifizieren, klassifizieren und korrigieren – bevor sie juristische oder finanzielle Folgen haben.

Ausblick: Kontinuierliche Prüfung statt Herstellervertrauen

Mit der Umsetzung des EU AI Acts und neuen Landesgesetzen wie in Iowa werden Unternehmen auf kontinuierliche KI-Prüfungen setzen müssen. Der rechtliche Fokus verschiebt sich von den Modellentwicklern zu den Firmen, die KI im Kundenkontakt oder in hochsensiblen Berufen einsetzen.

Die anstehende Überprüfung von Section 230 im US-Bundesberufungsgericht – speziell im Fall Doe gegen Meta – könnte neu definieren, ob algorithmische Verstärkung als „Veröffentlichung" gilt. Falls Gerichte Algorithmen weiterhin als Teil des Produktdesigns betrachten, steigt die finanzielle und rechtliche Belastung für KI-nutzende Unternehmen ab 2026 weiter.

de | wissenschaft | 69420894 |