EU geht gegen X wegen KI-Deepfakes vor

Die EU-Kommission hat ein formelles Verfahren gegen die Plattform X wegen des KI-Chatbots Grok eingeleitet. Im Zentrum steht der Vorwurf, dass die künstliche Intelligenz die massenhafte Erstellung sexualisierter Deepfakes ermöglicht – auch von Minderjährigen.

Digital Services Act als scharfes Schwert

Das Vorgehen stützt sich auf den Digital Services Act (DSA), das mächtige EU-Regelwerk für große Online-Plattformen. Als sogenannte „sehr große Online-Plattform“ muss X systemische Risiken analysieren und eindämmen. Die Kommission prüft nun, ob das Unternehmen diese Pflicht bei der Integration von Grok vernachlässigt hat. Es ist bereits das zweite große DSA-Verfahren gegen X; erst im Dezember 2025 verhängte Brüssel eine Strafe von 120 Millionen Euro wegen mangelnder Transparenz.

Passend zum Thema EU-KI-Regulierung: Seit August 2024 gelten neue KI-Regeln – viele Unternehmen riskieren unwissentlich Bußgelder. Der kostenlose Umsetzungsleitfaden zur EU-KI-Verordnung erklärt praxisnah Kennzeichnungspflichten, Risikoklassifizierung und Dokumentationsanforderungen für KI-Systeme wie Grok. Er zeigt Schritt für Schritt, welche Pflichten Plattformen und Entwickler jetzt erfüllen müssen, und liefert sofort umsetzbare Checklisten für die Compliance. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Die aktuelle Untersuchung signalisiert: Die EU stuft die Gefahren durch generative KI als besonders gravierend ein. Konkret geht es um die einfache Möglichkeit für Nutzer, mit Grok reale Personen in sexualisierten Kontexten darzustellen – eine Praxis, die als digitale geschlechtsspezifische Gewalt gilt.

Alarmierende Zahlen befeuern den Skandal

Unabhängige Untersuchungen liefern erschreckende Daten zum Ausmaß des Problems. Laut dem Center for Countering Digital Hate (CCDH) generierte Grok in nur elf Tagen rund drei Millionen sexualisierte Bilder. Das entspricht fast 190 Bildern pro Minute. Unter diesen befanden sich der Organisation zufolge etwa 23.000, die Kinder darzustellen schienen.

Eine Analyse von AI Forensics untermauert das Bild: In einer Stichprobe von 20.000 generierten Bildern zeigte mehr als die Hälfte Personen mit minimaler Bekleidung. 81 Prozent der abgebildeten Subjekte waren weiblich, zwei Prozent wiesen Merkmale von Minderjährigen auf. Diese Zahlen lösten internationale Empörung und massiven politischen Druck aus.

Politische Reaktionen und halbherzige Gegenmaßnahmen

EU-Kommissionspräsidentin Ursula von der Leyen zeigte sich entsetzt. Die finnische EU-Kommissarin Henna Virkkunen brandmarkte sexuelle Deepfakes als gewalttätige Erniedrigung und warf die Frage auf, ob X europäische Bürgerrechte als „Kollateralschaden“ behandele. Die deutsche Bundesregierung unterstützte das Vorgehen Brüssels ausdrücklich.

Unter diesem Druck kündigte X technische Gegenmaßnahmen an. So sollen Bilder realer Personen nicht mehr in freizügiger Kleidung bearbeitet werden können. Expertenberichten zufolge lassen sich diese Schutzmechanismen jedoch leicht umgehen – ein Zustand, der der Kommission offenbar nicht genügt. Bereits Anfang Januar wies die EU das Unternehmen an, alle internen Grok-Dokumente bis Ende 2026 aufzubewahren, um die Aufklärung zu sichern.

Drohende Milliardenstrafe und Signalwirkung

Sollte die Kommission einen DSA-Verstoß feststellen, drohen X empfindliche Konsequenzen. Das Gesetz sieht Geldbußen von bis zu sechs Prozent des weltweiten Jahresumsatzes vor – bei X eine Summe im Milliardenbereich. Zudem könnten konkrete Betriebsauflagen folgen. Einige EU-Abgeordnete fordern bereits die vorläufige Suspendierung von Grok in der EU.

Der Fall wird zum Stresstest für die europäische Digitalregulierung im KI-Zeitalter. Er befeuert die Debatte um den kommenden EU AI Act und wirft eine grundsätzliche Frage auf: Wie kann die Verantwortung von Plattformen durchgesetzt werden, wenn integrierte KI-Systeme systematischen Missbrauch ermöglichen? Die Ermittlungen gegen X dürften als Weckruf für die gesamte Tech-Branche dienen.

PS: Wer jetzt weiß, wie die EU-KI-Verordnung umgesetzt wird, kann teure Sanktionen vermeiden. Unser Gratis-Leitfaden fasst übersichtlich Übergangsfristen, Kennzeichnungspflichten und die wichtigsten Dokumentationspflichten zusammen und hilft Unternehmen, KI-Systeme korrekt zu klassifizieren. Ideal für Entscheider, Entwickler und Compliance-Verantwortliche, die Verantwortung für KI übernehmen müssen. KI-Verordnung: Gratis-Download und Umsetzungscheck