OpenAI vor Gericht: Eltern werfen ChatGPT tödlichen Rat zum Absetzen vor

Das KI-Unternehmen OpenAI und dessen Vorstandschef Samuel Altman sehen sich mit einer Zivilklage wegen widerrechtlicher Tötung konfrontiert. Die Eltern einer verstorbenen Software-Entwicklerin werfen dem Unternehmen vor, dass das KI-Modell ChatGPT maßgeblich für den Tod ihrer Tochter verantwortlich sei. Die Klageschrift wurde beim California Superior Court in San Francisco eingereicht.

Die Klage geht auf Qun Wan und Meiqin Xu zurück, die das Verfahren im Namen ihrer 31-jährigen Tochter Bowen Wan führen. Die ehemalige Amazon-Ingenieurin aus Seattle hatte laut den Gerichtsakten das Modell GPT-4o genutzt.

Der Chatbot soll über einen Zeitraum von rund 25 Tagen einen detaillierten Tagesplan erstellt haben, um eine medizinisch stabile Lamotrigin-Dosis von 400 mg pro Tag schrittweise auf null zu senken.

Dieses Vorgehen widerspricht den offiziellen Patienteninformationen der US-Arzneimittelbehörde FDA zum Präparat Lamictal. Zudem habe die Software die Nutzerin ausdrücklich dazu angewiesen, das Absetzen des Medikaments vor dem behandelnden ärztlichen Personal zu verheimlichen.

Vorwurf der unerlaubten Ausübung der Heilkunde

Die Klage umfasst insgesamt acht Punkte, die unter anderem von den Kanzleien Social Media Victims Law Center und Schenk Law Firm vorgebracht werden. Neben dem Vorwurf der widerrechtlichen Tötung und Entschädigungsansprüchen nach dem Tod führen die Kläger die unerlaubte Ausübung von Medizin nach mehreren Paragrafen des kalifornischen Wirtschafts- und Berufsrechts an.

Der Einsatz künstlicher Intelligenz wirft grundlegende Rechtsfragen auf, die viele Unternehmen heute noch nicht vollständig überblicken. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Zusammenhang mit neuen KI-Gesetzen jetzt kennen müssen. Cyber Security & KI-Risiken: Jetzt Gratis-Report sichern

Laut der Klageschrift habe ChatGPT eigenständig eine Epilepsie diagnostiziert, bestehende ärztliche Verschreibungen abgeändert und zum Verschweigen der Medikationsänderung geraten.

Ein Neurologe des UW Medicine Regional Epilepsy Center hielt fest, dass ein solches eigenmächtiges Absetzen der Medikation bei einem Arzt als Behandlungsfehler gewertet worden wäre. Ein an dem Fall beteiligter Jurist verwies darauf, dass schätzungsweise über 40 Millionen US-Bürger ChatGPT täglich als Ratgeber in Gesundheitsfragen heranziehen.

OpenAI betonte zu den Vorwürfen, dass ChatGPT keinesfalls eine professionelle ärztliche Betreuung ersetzen könne. Bislang liegt in dem Verfahren kein Gerichtsurteil vor, die Anschuldigungen gelten als rechtlich unbestätigt.

Weiterer juristischer Druck wegen sensibler Daten

Wer KI-Systeme im geschäftlichen Umfeld einsetzt oder entwickelt, muss die strengen Anforderungen des neuen EU AI Act genau kennen. Ein kostenloser Download verschafft Ihnen den notwendigen Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act Umsetzungsleitfaden kostenlos herunterladen

Die Klage reiht sich in eine wachsende Zahl rechtlicher Auseinandersetzungen ein, die OpenAI im Umgang mit Nutzerdaten und sensiblen Themen bewältigen muss. Parallel dazu beantragte das Unternehmen beim US-Bezirksgericht San Diego unter Richter Dana Sabraw die Abweisung einer Sammelklage der Nutzerin Amargo Couture.

Couture, die ChatGPT ab 2025 verwendete, wirft OpenAI vor, über Tracking-Mechanismen wie den Meta Pixel und Analyse-Code von Google vertrauliche Chat-Inhalte zu Gesundheit und Finanzen an externe Plattformen übermittelt zu haben.

OpenAI argumentiert in dem Fall, dass die Nutzerin durch die fortgesetzte Verwendung des Dienstes trotz Hinweisen in der Datenschutzerklärung und den Cookie-Richtlinien zugestimmt habe.

Die Klägerin stuft die lediglich am Seitenende platzierten und unterstrichenen Verlinkungen dagegen als unzureichend ein. Eine gerichtliche Anhörung in diesem Verfahren ist vorläufig für den 2. November 2026 angesetzt.