ChatGPT als Gesundheitsratgeber: Bei 200 Fragen nur 32 Prozent richtig

Eine internationale Forschungsgruppe warnt vor gravierenden und bislang schwer erfassbaren Risiken durch die medizinische Nutzung von KI-Chatbots. In einem Fachbeitrag für das Journal Nature Health betonen Wissenschaftler der Binghamton University, der Stanford University, der Texas A&M University und der Indiana University, dass gesundheitliche Schäden infolge automatisierter Empfehlungen derzeit strukturell unsichtbar bleiben.

Weil die Dialoge auf den geschlossenen Servern der jeweiligen Betreiberfirmen verbleiben und zentrale Meldestellen fehlen, fehle dem medizinischen System bisher der systematische Einblick in Behandlungsfehler und Vergiftungen.

Dokumentierte Vergiftungen und fehlende Schnittstellen

Als Beleg für die Gefahren führen die Autoren unter anderem den Fall eines 60-jährigen Mannes an. Dieser ersetzte nach Angaben von ChatGPT sein Speisesalz durch Natriumbromid. Die Folge war eine schwere Bromidtoxizität, die mit Halluzinationen sowie Paranoia einherging und eine Hospitalisierung erforderte. Die behandelnden Ärzte hatten dabei keinen Zugriff auf den vorangegangenen Chatverlauf.

In den Vereinigten Staaten war zudem die 31-jährige Bowen Wan gestorben, nachdem sie ChatGPT zur Reduktion ihres Epilepsie-Medikaments konsultiert hatte. Ein Sprecher des Anbieters OpenAI bezeichnete diesen Vorfall als eine herzzerreißende Situation, die durch eine frühere Version der Anwendung verursacht worden sei.

Angesichts solcher Zwischenfälle verlangt das Autorenteam regulatorische Konsequenzen. Konkret fordern die Forschenden, dass Patientinnen und Patienten Zugriff auf ihre archivierten Beratungsgespräche erhalten müssen. Zudem seien ein zentrales Meldesystem, eine Kennzeichnungspflicht für KI-generierte Gesundheitsinhalte, unabhängige Evaluierungen sowie eine Ausweitung der Haftung auf die Anbieterunternehmen notwendig.

Massive Zunahme der Nutzung im Alltag

Die Warnungen treffen auf eine stark wachsende Alltagsnutzung. Laut einem Report von OpenAI aus dem Januar 2026 betreffen 5% aller weltweiten Anfragen an ChatGPT den Themenbereich Gesundheit.

Wer sich mit den rechtlichen Rahmenbedingungen von künstlicher Intelligenz befasst, benötigt angesichts neuer Vorschriften einen klaren Überblick über Pflichten und Fristen. Dieser kostenlose Leitfaden bietet eine kompakte Orientierungshilfe zu Risikoklassen und Dokumentationsanforderungen für Unternehmen. EU AI Act Umsetzungsleitfaden jetzt kostenlos herunterladen

Täglich richten 40 Mio. Menschen medizinische Fragen an das System, wobei ein Viertel der regelmäßigen Anwender dies mindestens 1x pro Woche tut. Nach dem Start von ChatGPT Health im Januar 2026 stellten laut einer Analyse anonymisierter Gespräche durch das Unternehmen weltweit über 230 Mio. Menschen wöchentlich Gesundheitsfragen.

Auch europäische Erhebungen belegen den Trend. Dem CSS-Gesundheitsrapport zufolge nutzen 42% der Schweizer Bevölkerung KI-Chatbots zur Selbstdiagnose bei Symptomen, was einer Verdopplung gegenüber dem Vorjahr entspricht; bei jungen Erwachsenen liegt die Quote bei 62%$.

Im 2. Baromètre Data & IA en santé von Acsel und Toluna unter 1029 befragten Erwachsenen gaben 50% der Franzosen an, KI für Gesundheitszwecke zu nutzen. Gleichzeitig gaben 91% von 273 befragten Pflegekräften an, die Technologie mindestens gelegentlich einzusetzen. Ein britischer Preprint aus dem Jahr 2026 ergab zudem, dass 52% der dortigen Hausärzte generative KI in der klinischen Praxis anwenden.

Die korrekte Interpretation medizinischer Daten ist für die eigene Gesundheitsvorsorge entscheidend, da Fehldiagnosen schwerwiegende Folgen haben können. In diesem 25-seitigen Report erfahren Sie, was Blutwerte wie Cholesterin und Vitalstoffe wirklich bedeuten und wie Sie Mängel frühzeitig erkennen. Kostenlosen Laborwerte-Selbstcheck hier anfordern

Widersprüchliche Befunde zur Diagnosegüte

Wissenschaftliche Untersuchungen zur Verlässlichkeit liefern uneinheitliche Ergebnisse. In einer iScience-Studie unter Beteiligung der Binghamton University lag die Genauigkeit von ChatGPT bei Krankheitsbegriffen zwischen 88-97%, bei Arzneimittelnamen bei 90-91% und im Bereich Genetik bei 88-98%.

Die Quote bei der Symptomidentifikation betrug jedoch lediglich 49-61%, während das Modell GenBank-Accession-Nummern erfand. Der Studienleiter Ahmed Abdeen Hamed hatte zuvor maximal 25% Genauigkeit erwartet.

Eine Studie der Humanitas University im European Journal of Pathology stellte fest, dass ChatGPT bei 200 klinischen Fragestellungen nur in 32% der Fälle korrekt lag; 17,8% der zitierten Quellen existierten gar nicht.

Im Gegensatz dazu erzielte ein spezialisierter ChatGPT-Chatbot im Frühling 2025 in einer chinesischen Studie in Nature Health unter 2400 Laien bei simulierten Atemwegserkrankungen 81,2% richtige Diagnosen gegenüber 54,5% bei einer Websuche.

In einer Science-Studie vom Oktober 2026 durch Microsoft-affiliierte Forscher erreichte das System MAI-DxO mit GPT-5 auf 304 NEJM-Fällen eine Genauigkeit von 83,2% gegenüber 36,1% bei Hausärzten, basierte jedoch auf rein schriftlichen Szenarien.

In der Praxis zeigte sich bisher kein statistisch belegter Mehrwert bei Patientenkontakten. Bei einer im Juni 2026 durchgeführten cluster-randomisierten Studie in 16 kenianischen Einrichtungen mit 103 Clinical Officers und 9.347 Patientenkontakten lag das Behandlungsversagen mit KI bei 2,2% gegenüber 2,0% in der Kontrollgruppe.

Ebenso ergab eine britische Studie in Nature Medicine vom Februar 2026 mit 1.298 Teilnehmenden, dass Anwender von drei Sprachmodellen bei der Erkennung von Krankheiten nicht besser abschnitten als die Kontrollgruppe.

Der Experte Hrvoje Bogunovi? von der Medizinischen Universität Wien betonte, dass Sprachmodelle bei häufigen Krankheitsbildern zuverlässig agieren, bei seltenen Erkrankungen jedoch fehleranfälliger seien; Antworten müssten daher stets überprüft werden.

Während OpenAI Diagnose und Behandlung in den eigenen Nutzungsbedingungen formell ausschließt und Institutionen wie die französische HAS die Notwendigkeit ärztlicher Diagnosen unterstreichen, regelt der EU AI Act primär risikobehaftete klinische Systeme und lässt die allgemeine Nutzung generalistischer Modelle im Alltag weitgehend unberücksichtigt.