EU verbietet KI-gestützte sexuelle Deepfakes

Die EU schließt eine gefährliche Lücke im digitalen Schutz: Das Europäische Parlament hat ein umfassendes Verbot von KI-Systemen beschlossen, die nicht einvernehmliche sexuelle Deepfakes erzeugen. Diese wegweisende Ergänzung des KI-Gesetzes ist eine direkte Antwort auf den Missbrauch generativer KI und soll vor allem Frauen und Kinder schützen.

Ein Verbot als Reaktion auf Skandale

Der Beschluss vom 26. März 2026 folgt auf mehrere hochkarätige Vorfälle. Ende 2025 erschütterte der sogenannte „Grok-Skandal“ die Öffentlichkeit, bei dem ein KI-Chatbot zur Erstellung nicht einvernehmlicher intimer Bilder genutzt wurde. Das Verbot zielt speziell auf KI-Systeme ab, die sexuell explizite oder intime Bilder identifizierbarer Personen ohne deren Zustimmung generieren oder manipulieren. Auch Material mit Kindesmissbrauch ist erfasst. Experten sehen darin einen großen Erfolg für den Opferschutz in Europa. Apps zur „Entkleidung“ von Personen sollen so aus dem Verkehr gezogen werden.

Die rechtlichen Anforderungen für den Einsatz künstlicher Intelligenz in Unternehmen verschärfen sich durch das neue EU-Gesetz massiv. Dieser kostenlose Leitfaden erklärt Ihnen kompakt die wichtigsten Kennzeichnungspflichten, Risikoklassen und Dokumentationsanforderungen. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Die Regelung stellt eine klare Verschärfung des bereits geltenden EU-KI-Gesetzes dar, das seit August 2024 in Kraft ist. Sie zeigt den Willen der EU, ihre Regulierung ständig an neue Formen des KI-Missbrauchs anzupassen. Ausnahmen sind nur für KI-Systeme mit wirksamen Sicherheitsvorkehrungen vorgesehen, die die Erstellung solcher Bilder verhindern.

Transparenz bleibt oberstes Gebot

Neben dem neuen Verbot setzt das KI-Gesetz weiterhin auf strenge Transparenz. Deepfakes fallen unter die Kategorie „begrenztes Risiko“ und sind nicht per se verboten. Sie unterliegen jedoch klaren Kennzeichnungspflichten. Nach Artikel 50 müssen Anbieter von KI-Systemen sicherstellen, dass deren Inhalte maschinenlesbar als künstlich generiert oder manipuliert gekennzeichnet sind.

Nutzer, die Deepfakes verbreiten, müssen dies ebenfalls offenlegen. Diese Pflicht gilt auch für legale Anwendungen, etwa in Kunst oder Satire. Für offensichtlich fiktionale Inhalte sind minimale Hinweise erlaubt. Diese Transparenzregeln sollen ab August 2026 durchgesetzt werden. Zur Unterstützung arbeitet die EU-Kommission an einem freiwilligen Verhaltenskodex für die Kennzeichnung KI-generierter Inhalte, der Mitte 2026 fertiggestellt werden soll.

Komplexes Geflecht aus Gesetzen

Die EU-Regulierung von Deepfakes stützt sich auf mehrere Gesetze. Während das KI-Gesetz die Systeme selbst reguliert, macht der Digital Services Act (DSA) Plattformen für die Verbreitung illegaler Inhalte haftbar. Die Datenschutz-Grundverordnung (DSGVO) schützt die Persönlichkeitsrechte, wenn Deepfakes personenbezogene Daten verwenden.

Da Deepfakes oft personenbezogene Daten nutzen, rückt die Einhaltung der DSGVO-Dokumentationspflichten wieder verstärkt in den Fokus der Behörden. Mit dieser kostenlosen Excel-Vorlage erstellen Sie Ihr notwendiges Verarbeitungsverzeichnis rechtssicher und vermeiden Bußgelder von bis zu 2% Ihres Jahresumsatzes. Kostenlose Excel-Vorlage für das Verarbeitungsverzeichnis herunterladen

Der Begriff „Deepfake“ wird im KI-Gesetz bewusst weit gefasst. Er umfasst jede KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die reale Personen oder Ereignisse so imitieren, dass sie irreführend wirken. Illegale Inhalte – etwa zu Zwecken der Verleumdung, Wahlbeeinflussung oder Hetze – müssen schnell entfernt werden.

Globale Auswirkungen auf die Industrie

Das EU-KI-Gesetz gilt als weltweit erste umfassende KI-Regulierung und setzt einen globalen Maßstab. Seine extraterritoriale Wirkung bedeutet: Auch Unternehmen außerhalb der EU müssen sich daran halten, wenn ihre KI-Systeme oder -Inhalte den EU-Markt betreffen.

Die Umsetzung stellt die Industrie vor große Herausforderungen. Technische Lösungen für maschinenlesbare Kennzeichnungen müssen robust und interoperabel sein. Kritiker weisen auf Schwachstellen wie die Anfälligkeit von Wasserzeichen hin. Bei schweren Verstößen drohen Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Umsatzes. Selbst Verstöße gegen die Transparenzpflicht können bis zu 7,5 Millionen Euro kosten.

Die Regeln des KI-Gesetzes werden schrittweise eingeführt. Während verbotene KI-Praktiken bereits seit Februar 2025 untersagt sind, treten die Transparenzpflichten für Deepfakes und Hochrisiko-KI-Systeme nun im August 2026 in Kraft. Das explizite Verbot sexueller Deepfakes wird nach finalen Verhandlungen zwischen Parlament und Mitgliedstaaten Gesetz.

boerse | 69008747 |