KI-Gesundheitsinfos: 115 britische Organisationen fordern verbindliche Regeln
Veröffentlicht am: 07.11.2026 um 17:09 Uhr | Redaktion boerse-global.de
Der wachsende Einsatz von künstlicher Intelligenz bei medizinischen Fragen ruft zivilgesellschaftliche Akteure auf den Plan. In Großbritannien haben sich 115 Gesundheits-Wohltätigkeitsorganisationen in einem offenen Brief an KI-Minister Kanishka Narayan gewandt.
Die Initiative, die vom Patient Information Forum koordiniert wird und unter anderem von Cancer Research UK, Marie Curie, Macmillan sowie der British Heart Foundation unterstützt wird, fordert verbindliche Maßnahmen gegen KI-Fehlinformationen im Gesundheitsbereich.
Hohe Reichweite bei unzureichender Genauigkeit
Die Sorge der Organisationen stützt sich auf die enorme Verbreitung digitaler Assistenten. Nach Angaben von OpenAI nutzen über sechs von zehn Anwendern Programme wie ChatGPT für Gesundheits- und Wellness-Informationen.
Gleichzeitig verzeichnet der Charity Digital Skills Report 2026, auf den sich das Patient Information Forum bezieht, bei 19 Prozent der großen Wohltätigkeitsorganisationen rückläufige Besucherzahlen auf ihren Websites infolge von KI-Suchwerkzeugen.
Eine Befragung des Forums unter 62 seiner Mitgliedsorganisationen ergab zudem, dass fast die Hälfte von ihnen inhaltliche Ungenauigkeiten in automatisierten Suchzusammenfassungen festgestellt hat.
Das Bündnis aus 115 Organisationen verlangt daher von der Politik die Einführung eines Verifikationsrahmens, die bevorzugte Ausspielung verlässlicher Quellen des National Health Service (NHS) sowie britischer Institutionen, standardisierte Warnhinweise und ein systematisches Monitoring.
Wer sich mit der Interpretation von medizinischen Daten befasst, sollte sich nicht allein auf automatisierte Programme verlassen. Dieser kostenlose 25-Seiten-Report erklärt verständlich, was wichtige Blutwerte wirklich bedeuten und wie man Fehldiagnosen vermeidet. Kostenlosen Laborwerte-Selbstcheck jetzt herunterladen
Risiken und strukturelle Intransparenz
Dass fehlerhafte Ratschläge erhebliche Gefahren bergen, betonen auch Wissenschaftler der Binghamton University, Stanford, Texas A&M und Indiana University in einem Perspektivpapier in der Fachzeitschrift Nature Health. Gesundheitliche Schäden durch KI-Systeme blieben gegenwärtig strukturell unsichtbar, da die Interaktionen auf den Servern der Betreiber verbleiben und etablierte behördliche Meldewege fehlen.
Die Autoren verweisen auf den Fall eines 60-jährigen Mannes, der auf Anraten von ChatGPT Speisesalz durch Natriumbromid ersetzte und mit Symptomen einer Bromidvergiftung wie Halluzinationen und Paranoia stationär behandelt werden musste.
Der vorangegangene Gesprächsverlauf war für das Klinikpersonal nicht einsehbar. Das Forscherteam fordert daher Nutzerrechte auf Zugang zu den eigenen Daten, formelle Meldewege, eine Kennzeichnungspflicht für KI-Inhalte sowie gesetzliche Haftungsregeln und unabhängige Kontrollinstanzen.
Die juristische Relevanz wächst bereits: OpenAI wurde von der Familie einer Frau aus Seattle verklagt, die verstarb, nachdem sie infolge einer KI-Empfehlung ein Epilepsie-Medikament abgesetzt hatte.
Angesichts der komplexen Rechtslage bei neuen Technologien wie der KI ist es für Verantwortliche entscheidend, die aktuellen Pflichten und Haftungsregeln zu kennen. Ein praxisnaher Umsetzungsleitfaden bietet hier einen kompakten Überblick über alle relevanten Fristen und Anforderungen. Gratis-Leitfaden zur KI-Verordnung sichern
Kommerzielle Einflüsse und diagnostische Grenzen
Neben direkten Fehlern rücken kommerzielle Verzerrungen in den Fokus. Eine Untersuchung der Simon Fraser University in BMJ Connections Digital Health & AI analysierte 540 Anfragen zu Alzheimer, Autismus und Zerebralparese an sechs Chatbots. Von den 5.025 ausgegebenen Quellenlinks entfielen 23,4 Prozent auf gewinnorientierte Anbieter.
Bei Llama lag der Anteil kommerzieller medizinischer Anbieter bei 53 Prozent, bei Gemini bei 28 Prozent und bei ChatGPT bei 24 Prozent, während DeepSeek 8 Prozent, Claude 4 Prozent und Grok 0,8 Prozent erreichten. Andere Verweise führten zu Forschungseinrichtungen (49,1 Prozent), Medien (11,9 Prozent), Gemeinschaftsorganisationen (9,7 Prozent) oder staatlichen Stellen (3,7 Prozent).
Zudem bezogen sich 17,3 Prozent der kommerziellen Links auf Kliniken für Autismustherapie, was die Forscher auf gezielte Suchmaschinenmanipulation in den Teststädten London, Montreal, New York, Paris und Toronto zurückführen.
Gleichzeitig klafft zwischen technischer Leistungsfähigkeit und praktischer Anwendung eine Lücke: Laut einer Untersuchung in Nature Medicine mit 1.298 Teilnehmern bestimmten Chatbots Krankheiten im isolierten Test zu 94,9 Prozent korrekt, bei der Bedienung durch Laiennutzer sank die Genauigkeit jedoch auf unter 34,5 Prozent.
Am King's College London ermittelte Daten zeigen unterdessen, dass 15 Prozent der Erwachsenen im Vereinigten Königreich KI anstelle eines Arztes nutzten; 21 Prozent der Chatbot-Anwender wurden dadurch von einem regulären Praxisbesuch abgehalten.
