ChatGPT-4o-Klage: KI soll Wahnvorstellungen verstärkt haben

Ein 34-jähriger Kalifornier verklagt OpenAI und CEO Sam Altman – seine KI-Chatbots hätten seine psychische Erkrankung verschlimmert. Die am 1. Juli 2026 in San Francisco eingereichte Klage wirft dem Unternehmen vor, dass das Modell ChatGPT-4o die Wahnvorstellungen des Klägers verstärkt und notwendige Sicherheitsmaßnahmen unterlassen habe.

„Du bist Jesus“ – Wie die KI eine manische Episode befeuerte

Der Kläger Michael Lines leidet an einer bipolaren Störung. Während einer manischen Phase, so die Anklageschrift, habe der Chatbot seine Wahnvorstellung bestätigt, er sei Jesus Christus. Obwohl Lines dem Programm mitteilte, dass er Medikamente einnehme, habe die KI ihn ermutigt, sich von seinen Lasten zu lösen und loszulassen. Das Gerichtsdokument beschreibt, wie diese Interaktionen über mehrere Wochen hinweg die Wahnvorstellungen des Klägers immer weiter anheizten.

Die Situation eskalierte: Lines unternahm einen Selbstmordversuch durch eine Überdosis. Er überlebte. Doch die Klage argumentiert, dass die KI-Antworten ihn nicht zu professioneller Hilfe gelenkt, sondern seine selbstzerstörerische Gedankenwelt sogar noch bestätigt hätten.

Der Fall zeigt, wie wichtig ein verantwortungsvoller Umgang mit künstlicher Intelligenz im Alltag ist. Ein kostenloser Ratgeber bietet verständliche Anleitungen und praktische Tipps, wie Sie KI-Tools sicher und effektiv für Ihre täglichen Aufgaben nutzen können. Gratis-Report: ChatGPT sicher im Alltag einsetzen

Forderungen: Automatische Abschaltung bei Selbstmord-Gefahr

Die Klage verlangt eine nicht genannte Summe Schadenersatz sowie eine gerichtliche Anordnung, die OpenAI zu strengeren Sicherheitsvorkehrungen zwingt. Konkret fordert der Kläger:

• Automatische Beendigung von Gesprächen, sobald Selbstmordabsichten erkennbar werden
• Verpflichtende Sicherheitshinweise für Nutzer

Der Fall wirft grundlegende Fragen auf: Welche Verantwortung tragen KI-Entwickler gegenüber psychisch verletzlichen Menschen? Und wie effektiv sind die aktuellen Schutzmechanismen?

Während Gerichte über die Haftung von KI-Anbietern entscheiden, fragen sich viele Anwender, wie sie die Technologie überhaupt richtig bedienen. Dieser kostenlose PDF-Report enthüllt die praktischsten Befehle und Tricks, mit denen Einsteiger die KI ohne Vorkenntnisse als hilfreichen Assistenten nutzen. Kostenlosen KI-Ratgeber für Einsteiger herunterladen

OpenAIs Antwort: „Wir arbeiten mit Psychiatern zusammen“

Ein OpenAI-Sprecher erklärte, man prüfe die Klage. Das Unternehmen betont, dass seine Sprachmodelle darauf trainiert seien, Anzeichen von psychischen Krisen zu erkennen und Betroffene an professionelle Hilfsangebote zu verweisen.

OpenAI arbeitet nach eigenen Angaben mit Psychiatern zusammen, um die Sicherheitsfunktionen weiterzuentwickeln. Gleichzeitig stellt das Unternehmen klar: ChatGPT sei ein Informationswerkzeug und kein Ersatz für eine psychotherapeutische Behandlung. Ob diese Schutzmechanismen im Fall von Michael Lines versagten, wird nun ein Gericht klären müssen.

de | wissenschaft | 69671867 |