20 Millionen Kinder nutzen KI: UN fordert Schutz ab Design-Phase
Veröffentlicht am: 19.08.2026 um 16:51 Uhr | Redaktion boerse-global.de
Die Vereinten Nationen haben Softwareentwickler im Bereich der Künstlichen Intelligenz (KI) sowie Betreiber sozialer Medien dazu aufgefordert, die Sicherheit von Kindern unmittelbar in ihre Produktgestaltung und die zugrunde liegenden Geschäftsmodelle zu integrieren.
In einem aktuellen Bericht warnten die UN davor, bei der Regulierung von KI-Technologien eine abwartende Haltung einzunehmen. Stattdessen müssten Schutzmaßnahmen von Beginn an in die technologische Infrastruktur eingebettet werden.
Der Bericht der Vereinten Nationen unterstreicht, dass regulatorische Rahmenbedingungen für Künstliche Intelligenz die Rechte von Kindern systematisch berücksichtigen sollten. Die Organisation kritisierte, dass sich Unternehmen gegenwärtig oft auf reine Mechanismen zur Altersverifikation verlassen. Dies sei jedoch nicht ausreichend, um einen umfassenden Schutz zu gewährleisten.
Die Forderung zielt auf einen „Safety-by-Design“-Ansatz ab, bei dem Sicherheitsaspekte bereits in der Entwicklungsphase eines Produkts Vorrang haben, anstatt diese nachträglich durch Updates oder Filterfunktionen zu ergänzen.
Risiken durch monetarisierte Aufmerksamkeit
Ein zentraler Kritikpunkt der Vereinten Nationen betrifft die aktuellen Geschäftsmodelle der Technologiebranche. Die Monetarisierung von Aufmerksamkeit und Nutzerdaten treibe Entwicklungen voran, die für Minderjährige schädlich sein könnten. In diesem Zusammenhang bezeichnete UN-Generalsekretär Guterres die aktuelle Situation kritisch: Er betonte, dass kein Kind als Versuchsobjekt für unregulierte KI-Systeme herhalten dürfe.
Angesichts der neuen Forderungen nach Sicherheit und Regulierung stehen Unternehmen vor der Herausforderung, KI-Systeme rechtssicher zu gestalten. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Besonders im Fokus stehen dabei Werbepraktiken. Die UN fordern ein Verbot von verhaltensbasierter Werbung, die sich gezielt an Minderjährige richtet. In einigen Ländern wurden bereits entsprechende Schritte eingeleitet. In Brasilien ist verhaltensbasierte Werbung für Minderjährige seit September 2025 untersagt. Australien wiederum verbot bereits im Jahr 2024 die Nutzung sozialer Medien für Nutzer unter 16 Jahren.
Hohe Internetnutzung unter Jugendlichen
Die Dringlichkeit dieser Forderungen wird durch aktuelle Nutzungsdaten untermauert. Mehr als 80 Prozent der Jugendlichen im Alter zwischen 15 und 24 Jahren sind weltweit online. In Ländern mit niedrigen Einkommen ist der Anteil junger Menschen, die das Internet nutzen, fast doppelt so hoch wie der Durchschnitt der Gesamtbevölkerung in diesen Regionen.
Wer sich mit der Integration neuer Technologien befasst, muss neben Sicherheitsaspekten auch die strengen gesetzlichen Fristen und Pflichten im Blick behalten. Ein kostenloser Download verschafft Ihnen den notwendigen Überblick über Risikoklassen und Dokumentationspflichten für eine rechtssichere Umsetzung. Fristen und Pflichten der EU-KI-Verordnung kompakt erklärt
Auch die Nutzung spezifischer KI-Tools nimmt rasant zu. Daten des Kinderhilfswerks UNICEF zufolge verwenden bereits mindestens 20 Millionen Kinder in zehn verschiedenen Ländern aktiv Werkzeuge auf Basis Künstlicher Intelligenz.
Angesichts dieser weiten Verbreitung mahnen die Vereinten Nationen eine beschleunigte Anpassung der Schutzstandards an, um den besonderen Bedürfnissen und Rechten dieser Nutzergruppe gerecht zu werden. Ein „Wait-and-see“-Ansatz der Regulierungsbehörden berge das Risiko, dass technologische Fehlentwicklungen erst dann adressiert werden, wenn bereits signifikante Schäden entstanden sind.
