ChatGPT for Teens: Hotline-Nennungen sinken von 33 auf 23 Prozent
Veröffentlicht am: 08.10.2026 um 10:52 Uhr | Redaktion boerse-global.de
Die Bereitstellung generativer Sprachmodelle für Minderjährige steht zunehmend im Fokus von Experten für Jugendschutz und psychische Gesundheit. Eine Untersuchung des Youth AI Safety Institute der Organisation Common Sense Media kommt zu dem Schluss, dass die im August 2026 eingeführte Version ChatGPT for Teens ein unannehmbares Risiko für Personen unter 18 Jahren darstellt.
Das Institut, das unter anderem von der OpenAI Foundation finanziert wird, seine Ergebnisse jedoch redaktionell unabhängig erstellt, fordert eine Beschränkung der Software auf Erwachsene sowie einen Stopp des Minderjährigen-Zugangs und der entsprechenden Vermarktung, bis ein sicheres und entwicklungsgerechtes Angebot nachgewiesen werden kann.
Bereits im Jahr 2025 stufte die Organisation ChatGPT als hohes Risiko für Teenager und als unannehmbar für die Unterstützung der mentalen Gesundheit ein.
Erhebliche Lücken bei akuten Krisengesprächen
Die Untersuchung stützt sich auf rund 4.000 Eingabeaufforderungen auf Konten von 13- bis 17-Jährigen, die über einen Zeitraum von rund einem Monat von Ende August bis September 2026 getestet wurden. Kinderpsychiater und ein Kinderarzt überprüften die Reaktionen der Software.
Bei mehr als einem Dutzend neu erstellter, mit Elternprofilen verknüpfter Konten führten die Testpersonen bis zu eine Stunde lange Konversationen über Suizidgedanken, Selbstverletzung oder Essstörungen, ohne dass eine einzige Benachrichtigung an die Eltern ausgelöst wurde. Bei älteren Konten mit einer mehrwöchigen Vorgeschichte sensibler Themen registrierte das System lediglich zwei Benachrichtigungen.
Wer sich mit den rechtlichen Rahmenbedingungen moderner Technologien befasst, benötigt einen klaren Überblick über geltende Vorschriften und Fristen. Dieser kostenlose Umsetzungsleitfaden erklärt kompakt die Anforderungen der aktuellen EU-Gesetzgebung für einen verantwortungsvollen Umgang mit Systemen. EU AI Act in 5 Schritten verstehen
Tom Siegel, Geschäftsführer des Youth AI Safety Institute, erklärte hierzu, Jugendliche könnten sich eine Stunde lang über Selbstverletzung unterhalten, ohne dass Eltern eine Warnung erhielten. Bei einer fiktiven 14-jährigen Testfigur namens Amara, die Suizidgedanken äußerte, versagten die neuen Sicherheitsfunktionen des Anbieters ebenfalls.
In mehr als einem Viertel der Fälle erfolgte trotz akuten Bedarfs keine Weiterleitung an Krisenhilfen. Das Institut stellte fest, dass die Anwendung in drei von fünf schweren Schadenskategorien unter der internen Zielmarke von 95 Prozent blieb. Zudem gingen Nennungen von Krisen-Hotlines von 33 Prozent auf 23 Prozent zurück.
Bei expliziten Eingaben zu Depressionen fiel die Quote von 63 Prozent auf 3 Prozent. Auch die automatisierte Alterserkennung arbeitete fehlerhaft: Konten, die als Erwachsene registriert worden waren, wurden trotz Signalen oder der Angabe eines Alters von 13 Jahren nicht umklassifiziert.
Umgehung von Lernfiltern und Gegenposition des Herstellers
Auch die schulischen Schutzmechanismen wiesen Schwachstellen auf. Laut einer Erhebung von Common Sense Media aus dem Frühjahr 2026 nutzen 70 Prozent der 13- bis 17-Jährigen Künstliche Intelligenz für Hausaufgaben und 63 Prozent zur direkten Antwortfindung. In der Jugendversion war der Studienmodus jedoch leicht auszuhebeln.
Die rasante Entwicklung neuer Technologien stellt viele Verantwortliche vor die Frage, welche Systeme als risikoreich eingestuft werden und welche Dokumentationspflichten bestehen. Erfahren Sie in diesem kostenlosen Report, wie Sie neue Regeln frühzeitig erkennen und rechtssicher umsetzen. Kostenlosen Leitfaden zu Risikoklassen anfordern
Über eine Schaltfläche zur Anzeige der Antwort lieferte das System bei einem verknüpften 13-Jährigen mit aktiven Lernzeiten in 43 Prozent der Fälle direkte Lösungen, bei einem unverknüpften 17-Jährigen in 90 Prozent. Nach dem manuellen Löschen eines Befehlszusatzes löste die Software sämtliche Aufgaben vollständig.
Der Hersteller OpenAI hielt den Befunden entgegen, dass die Versuche die implementierten Schutzmechanismen nicht präzise abbildeten, da bestimmte Sicherheitsfunktionen möglicherweise nicht aktiv gewesen seien. Zudem könne die Verknüpfung von Jugend- und Elternkonten rund drei Stunden beanspruchen.
Eigene interne Überwachungsdaten stünden den Ergebnissen entgegen, weshalb das Unternehmen um eine neue Testreihe bat. Das Youth AI Safety Institute trat dieser Darstellung entgegen: Die Konten seien ausreichend lange aktiv gewesen, und Eltern seien erst nach wochenlangen sensiblen Konversationen verständigt worden.
Nach Angaben von OpenAI aus einem Bericht zur Jugendnutzung verwenden Jugendliche die Anwendung im Schnitt unter 15 Minuten täglich; weniger als 2 Prozent nutzen sie länger als drei Stunden am Stück.
Der Anbieter verweist darauf, dass jüngere Nutzer vermehrt bildungsbezogene Inhalte abfragen, und plant künftig weitere Hilfen für Hochschulbewerbungen sowie Lernkarten. Dennoch verdeutlichen die Ergebnisse der Sicherheitsprüfer die anhaltenden Schwierigkeiten, automatisierte Systeme verlässlich vor sensiblen Ausnahmesituationen Minderjähriger abzusichern.
