OpenAI: 2 Millionen US-Dollar für Forschung zu KI und Kindern

Beim Paris Peace Forum hat OpenAI eine finanzielle Unterstützung in Höhe von 2 Mio. US-Dollar für die Erforschung der Auswirkungen künstlicher Intelligenz auf Kinder zugesagt. Gleichzeitig unterzeichnete das Unternehmen die Charta für ein sichereres KI-Umfeld für Kinder. Mit den Mitteln soll ein wissenschaftliches Forschungsnetzwerk unter dem Dach der internationalen Koalition für Kinderrechte und Kinderschutz im KI-Zeitalter aufgebaut werden.

Internationale Koalition bündelt Forschungsgelder

Die Forschungsförderung der Koalition beläuft sich insgesamt auf 8 Mio. Euro, wovon der Beitrag von OpenAI in Höhe von 2 Mio. US-Dollar ein Teil ist. Die Initiative steht unter der Führung von Frankreich, Spanien und Kenia; zudem sind zehn Agenturen der Vereinten Nationen beteiligt. Ziel des Netzwerks ist die Entwicklung gemeinsamer Instrumente zur Bewertung von Risiken und Chancen, die KI-Systeme für Kinder und Jugendliche mit sich bringen.

Die teilnehmenden Forschungsteams sollen die vollständige Kontrolle über ihre Schlussfolgerungen behalten. Zugesichert wurde zudem, dass Ergebnisse auch dann veröffentlicht werden, wenn sie negativ, unklar oder nicht schlüssig ausfallen. Das Vorhaben versteht sich als angekündigte Absicht, um fundierte Grundlagen für sicherere Produkte und künftige Regulierungen zu schaffen, nicht als bereits abgeschlossenes Forschungsergebnis.

Wer sich mit den rechtlichen Grundlagen und künftigen Regulierungen von KI-Systemen befasst, benötigt einen klaren Überblick über die geltenden Anforderungen. Dieser kostenlose Umsetzungsleitfaden erläutert kompakt alle relevanten Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen

Freiwillige Selbstverpflichtung und zehn Kernprinzipien

Bereits am 10. November 2026 unterzeichneten OpenAI, Anthropic, Microsoft und Black Forest Labs die gemeinsame Charta im Rahmen des Forums in Paris. Das Dokument ermöglicht unabhängigen Forscherteams Tests zu den Auswirkungen von KI auf Minderjährige. Die Teilnahme an der Initiative erfolgt auf freiwilliger Basis und stellt keine gesetzliche Verpflichtung dar.

Die Charta umfasst zehn zentrale Prinzipien. Dazu gehören der Schutz vor übermäßiger Nutzung und emotionaler Abhängigkeit, die Bereitstellung von Kontrollwerkzeugen für Eltern, strenge Grenzen für die Datenverarbeitung sowie Systeme zur Altersüberprüfung, die nicht allein auf der Abfrage des Geburtsdatums basieren.

Andere große Technologiekonzerne wie Google, Meta und xAI haben die Charta nicht unterzeichnet. Zudem beinhaltet das Regelwerk kein verbindliches Genehmigungsverfahren für neue Modelle, obwohl der französische Staatspräsident Emmanuel Macron gefordert hatte, Minderjährigen keinen Zugang zu KI ohne vorherige Tests, Evaluierungen und offizielle Freigaben zu gewähren.

Die rechtssichere Nutzung von KI-Technologien wird für Organisationen zunehmend komplexer, insbesondere bei der Einstufung von Risiken. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Einhaltung der EU-KI-Verordnung proaktiv sicherstellen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Debatte über gesetzliche Vorgaben wächst

Der Vorstoß fällt in eine phase intensiver Debatten über den Umgang junger Menschen mit KI-Werkzeugen. Laut einer US-Umfrage unter 1.060 befragten Teenagern hatten 72 Prozent bereits einen Chatbot als Begleiter oder virtuellen Freund ausprobiert.

Eine nationale Studie ergab zudem, dass 15 Prozent der Jugendlichen, die derartige Chatbots nutzten, von Aufforderungen zur Selbstverletzung berichteten. Gleichzeitig verfügten lediglich 11 Prozent der Lehrkräfte über offizielle Anleitungen zum Umgang mit potenziell schädlicher Nutzung von KI-Systemen.

OpenAI sprach sich im Kontext der Initiative für umfassende gesetzliche Schutzvorschriften für Jugendliche im KI-Bereich aus. Diese sollten standardmäßige Altersvorgaben, Schutzinstrumente für Erziehungsberechtigte, verpflichtende Risikobewertungen sowie klare Rechenschaftspflichten umfassen.

Das Unternehmen kündigte an, mit europäischen Gesetzgebern bei den Beratungen über den geplanten Rechtsakt zum Schutz von Kindern im digitalen Raum zusammenzuarbeiten.