KI-Chatbots in der Therapie: 1 von 8 Jugendlichen nutzt digitale Hilfe
Veröffentlicht am: 11.08.2026 um 15:04 Uhr | Redaktion boerse-global.de
Die Integration künstlicher Intelligenz in die psychologische Versorgung steht vor einer Phase verstärkter Regulierung. Im Zentrum dieser Entwicklung steht das kalifornische Senatsgesetz 903, das neue Standards für den Einsatz und die Vermarktung von KI-Chatbots im therapeutischen Kontext setzt. Die gesetzliche Initiative verdeutlicht die wachsende Notwendigkeit, technologische Innovationen mit fachlicher Aufsicht und Patientensicherheit in Einklang zu bringen.
Regulierung und fachliche Aufsicht in Kalifornien
Das von Senator Steve Padilla verfasste Senatsgesetz 903 verbietet es Unternehmen, KI-Chatbots explizit als Ersatz für eine klassische Therapie zu bewerben. Ein wesentlicher Kernpunkt der Regelung ist die Verpflichtung, dass entsprechende Anwendungen einer Überprüfung durch lizenziertes Fachpersonal unterliegen müssen. Damit reagiert der Gesetzgeber auf die zunehmende Verbreitung von KI-Systemen, die ohne medizinische Zertifizierung im Bereich der mentalen Gesundheit agieren.
Kritik an dem Vorhaben kommt unter anderem von der Organisation TechNet. Robert Boykin wies in diesem Zusammenhang darauf hin, dass die neuen regulatorischen Vorgaben zu einem Engpass bei der Versorgung führen könnten. Es bestehe die Sorge, dass der Zugang zu niedrigschwelligen digitalen Hilfsangeboten durch die strengen Auflagen erschwert werde, während das traditionelle Gesundheitssystem bereits unter Kapazitätsgrenzen leide.
Hohe Nutzungszahlen und das Risiko suizidaler Krisen
Die Relevanz solcher Regulierungen wird durch aktuelle Daten zur Nutzung unterstrichen. Eine im Jahr 2025 veröffentlichte Studie der Universitäten RAND, Brown und Harvard belegt, dass bereits einer von acht Jugendlichen Chatbots zur Unterstützung bei psychischen Problemen nutzt. Die Tragweite dieser Entwicklung zeigt sich auch in internen Zahlen von OpenAI: Das Unternehmen verzeichnet wöchentlich rund 1,2 Millionen Nachrichten mit Hinweisen auf Suizidgedanken.
Schon jeder achte Jugendliche nutzt KI-Chatbots bei psychischen Problemen – oft ohne fachliche Aufsicht. Dieser kostenlose Leitfaden zeigt, wie Sie Warnsignale erkennen und Ihr Kind sicher begleiten. Jetzt kostenlosen Leitfaden anfordern
Um dieser Herausforderung zu begegnen, hat OpenAI eine Kooperation mit der American Psychological Association (APA) initiiert. Gemeinsam entwickeln sie evidenzbasierte Leitlinien für Familien und Fachkräfte. Dr. Sara Johansen von OpenAI kündigte an, künftig verstärkt Ressourcen für Eltern, Kliniker und Schulpsychologen bereitzustellen. Das Unternehmen arbeite hierfür bereits mit über 260 Experten für psychische Gesundheit zusammen, um die Sicherheit der Systeme zu erhöhen.
Internationale Divergenzen: Von Akzeptanz in Deutschland bis zu Verboten in China
Während in den USA die regulatorischen Rahmenbedingungen diskutiert werden, zeigen Erhebungen in Deutschland eine hohe Akzeptanz digitaler Berater. Laut einer Untersuchung nutzen 57 Prozent der Deutschen KI-Chatbots für private Probleme; bei den 18- bis 34-Jährigen liegt dieser Wert sogar bei 84 Prozent. Eine Erhebung von Ipsos ergab zudem, dass 53 Prozent der Befragten die KI als Ratgeber schätzen und 46 Prozent sie als kostengünstige Alternative zur herkömmlichen Beratung sehen. Bemerkenswert ist, dass sich 27 Prozent der Nutzer von einer KI besser verstanden fühlen als von Menschen. Daten der Depressionshilfe stützen diesen Trend: Demnach haben 65 Prozent der 16- bis 39-Jährigen bereits mit einem Chatbot über psychische Probleme gesprochen.
Im Gegensatz dazu verfolgt China einen restriktiven Kurs. Seit dem 15. Juli gelten dort neue Regeln, die KI-Inhalte verbieten, welche Gefühle manipulieren könnten. In der Folge stellten große Anbieter wie ByteDance, Alibaba und Tencent ihre KI-Begleitdienste ein. Dies führte zu Protesten unter Nutzern, wie der Fall einer 24-jährigen Anwenderin zeigt, die nach einem Austausch von 700.000 Wörtern den Zugang zu ihrem KI-Begleiter verlor. Experten zufolge sind Berichte über Suizidfälle in den USA ein wesentlicher Grund für das vorsichtige Agieren der chinesischen Regulierungsbehörden.
Ihr Kind spricht mit einem KI-Chatbot? Dann sollten Sie wissen, worauf es ankommt. Dieser Leitfaden liefert eine Checkliste für Warnsignale und eine Übersicht über vertrauenswürdige Ressourcen – speziell für Eltern. Leitfaden für Eltern jetzt sichern
Wissenschaftliche Leitlinien und künftige Sicherheitsstandards
Trotz der Bemühungen um mehr Sicherheit im Bereich der mentalen Gesundheit gibt es weiterhin Lücken in der globalen KI-Governance. Fachberichte weisen darauf hin, dass aktuelle Richtlinien zur Biosicherheit die spezifischen Risiken, die von künstlicher Intelligenz ausgehen, teilweise noch ignorieren. Die kommenden Monate werden zeigen, ob die kalifornische Gesetzgebung als Vorbild für eine breitere internationale Standardisierung dienen kann, um das Potenzial der KI in der Gesundheitsversorgung sicher nutzbar zu machen.
