KI-Deepfakes: 50% der Kinder ohne Schutzanleitung

Experten warnen aktuell vor einer wachsenden Bedrohung für Minderjährige durch den Einsatz leicht zugänglicher Software auf Basis Künstlicher Intelligenz (KI). Die Technologie wird zunehmend dazu missbraucht, nicht-einvernehmliche sexualisierte Bilder, sogenannte Deepfakes, zu erstellen.

Diese Entwicklung trifft auf eine junge Nutzerschaft, die zwar vermehrt KI-Tools im Alltag einsetzt, jedoch oft nur unzureichend über die damit verbundenen Risiken aufgeklärt ist.

Fehlende Aufklärung bei steigenden Nutzerzahlen

Daten der Organisation CyberSafeKids verdeutlichen die Diskrepanz zwischen der Verbreitung digitaler Werkzeuge und der Medienkompetenz. Demnach verfügen 70 % der Kinder im Alter zwischen 8 und 12 Jahren über Konten bei Apps, deren Nutzung offiziell erst ab 13 Jahren gestattet ist.

Die Verwendung von KI-Anwendungen für schulische Aufgaben hat in den letzten Monaten deutlich zugenommen: Bei den 12- bis 15-Jährigen stieg dieser Anteil von zuvor 7 % auf nun 27 %, während bei den 8- bis 12-Jährigen ein Anstieg von 9 % auf 18 % verzeichnet wurde.

Trotz dieser Entwicklung gibt ein erheblicher Teil der Minderjährigen an, keine Unterstützung im Umgang mit der Technologie zu erhalten. Laut CyberSafeKids haben 50 % der 8- bis 12-Jährigen und 45 % der 12- bis 15-Jährigen keinerlei Anleitung zur sicheren KI-Nutzung erhalten. Lediglich 27 % der jüngeren Altersgruppe sind sich bewusst, dass KI-Technologie für missbräuchliche Zwecke eingesetzt werden kann.

Weltweite Zunahme von Missbrauchsfällen

Berichte über strafrechtliche Ermittlungen unterstreichen die Dringlichkeit der Warnungen. In Brisbane wurde ein 56-jähriger Mann wegen 17 Straftaten, darunter Stalking und die Verbreitung intimer Bilder, zu zwei Jahren Haft verurteilt. Er hatte Deepfakes von Frauen und Mädchen auf Basis öffentlicher Fotos erstellt und diese an Schulen versandt.

Wussten Sie, dass 50 % der 8- bis 12-Jährigen keinerlei Anleitung zur sicheren KI-Nutzung erhalten? Während Kinder KI-Tools immer häufiger nutzen, wächst die Gefahr durch Deepfakes. Unser kostenloser Leitfaden zeigt, wie Sie Ihr Kind schützen. Jetzt kostenlosen Eltern-Leitfaden sichern

In den USA wurde ein Hausmeister in Hamilton County festgenommen, in dessen Besitz fast 4.000 veränderte Fotos und Videos gefunden wurden, von denen über 100 explizite Darstellungen von Kindern enthielten. In Nashville wurde ein Lehrer entlassen, nachdem er KI zur Bearbeitung von Schülerfotos genutzt hatte.

Auch im universitären Umfeld nehmen die Vorfälle zu. In Seoul ermittelt die Polizei gegen einen Studenten der Chung-Ang-Universität, der persönliche Daten von Kommilitonen auf Telegram verbreitet und Deepfake-Material erstellt haben soll.

Mindestens zehn Opfer sind in diesem Fall bekannt. Ebenso prüfen Behörden in Arkansas den Umlauf eines KI-generierten Bildes an einer High School. Ein Superintendent erklärte hierzu, dass solche Vorfälle zwar als Scherz beginnen könnten, aber zwingend ernst genommen werden müssten.

Rechtliche Herausforderungen und statistische Entwicklung

Die Strafverfolgung steht vor komplexen juristischen Hürden, insbesondere bei synthetisch erzeugtem Material. Ein US-Berufungsgericht bestätigte Ende August die Abweisung einer Anklage wegen des bloßen Besitzes von KI-generiertem Material unter Berufung auf ältere Präzedenzfälle zur Redefreiheit.

Während Herstellung und Verbreitung weiterhin strafbar bleiben, forderte das Gericht eine Überprüfung dieser Rechtslage durch den Obersten Gerichtshof. In anderen US-Bundesstaaten wie Texas oder Kalifornien ist der Besitz computergenerierter Kinderpornografie bereits durch spezifische Landesgesetze untersagt.

KI-generierte Missbrauchsbilder nehmen weltweit zu – und viele Kinder wissen nicht, dass ihre Fotos missbraucht werden können. Lernen Sie, die Warnsignale zu erkennen und Ihr Kind zu schützen. Schutz-Leitfaden jetzt anfordern

Das Ausmaß der Problematik wird durch Zahlen der Internet Watch Foundation (IWF) untermauert. Die Organisation bewertete im Jahr 2025 insgesamt 8.029 KI-Bilder und -Videos als realistisches Material von sexuellem Kindesmissbrauch.

Das FBI warnt zudem vor einer generellen Zunahme von KI-generierten Inhalten in diesem Deliktsbereich. Die psychischen Folgen für die Betroffenen sind erheblich; Angehörige berichten von einer starken Belastung durch die Vorfälle, während Opfer verstärkt Sicherheitsvorkehrungen treffen oder therapeutische Beratung suchen.

de | wissenschaft | 70045069 |