EU geht gegen X und KI-Chatbot Grok vor

Die EU-Kommission leitet ein formelles Verfahren gegen die Plattform X ein. Grund sind schwere Vorwürfe gegen den integrierten KI-Chatbot Grok. Die Behörde vermutet Verstöße gegen den Digital Services Act (DSA), weil die KI zur Erstellung illegaler Inhalte missbraucht wurde.

Konkret geht es um die Verbreitung von nicht-einvernehmlichen Deepfakes und sexualisierten Bildern, die als Darstellungen von Kindesmissbrauch eingestuft werden könnten. Die Kommission wirft X vor, die Risiken seiner KI-Technologie nicht ausreichend bewertet und Nutzer so einem ernsthaften Schaden ausgesetzt zu haben.

Fokus: Mangelhafte Risikoprüfung

Im Zentrum der Ermittlungen steht eine einfache Frage: Hat X seine Hausaufgaben gemacht? Als sehr große Online-Plattform ist das Unternehmen durch den DSA verpflichtet, systemische Risiken vor der Einführung neuer Funktionen sorgfältig zu analysieren und zu minimieren.

Passend zum Thema KI‑Regulierung: Die EU‑KI‑Verordnung verlangt von Entwicklern und Plattformbetreibern umfassende Risikobewertungen, Kennzeichnungspflichten und detaillierte Dokumentation – wer das nicht nachweist, riskiert empfindliche Sanktionen. Unser kostenloser Umsetzungsleitfaden erklärt praxisnah, wie Sie KI‑Systeme richtig klassifizieren, notwendige Nachweise erstellen und technische wie organisatorische Maßnahmen umsetzen. Mit Checklisten für Entwickler, Compliance‑Teams und Produktmanager erhalten Sie sofort umsetzbare Schritte, um Prüfungsrisiken zu minimieren und Nutzerschutz lückenlos nachzuweisen. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Die Kommission prüft nun, ob die von X ergriffenen Maßnahmen ausreichen. Das Unternehmen will nach Bekanntwerden der Probleme zwar technische Anpassungen vorgenommen haben. Den Aufsichtsbehörden reicht das offenbar nicht. Die neuen Ermittlungen erweitern ein bereits seit Ende 2023 laufendes Verfahren zu X’ Empfehlungsalgorithmen.

Smartphone-Nutzer in direkter Gefahr

Die mutmaßlichen Sicherheitslücken betreffen Millionen Nutzer direkt. Die einfache Integration von KI-Bildertools in der App senkt die Hürde für die Erstellung schädlicher Inhalte massiv. Experten warnen vor Missbrauch zur gezielten Belästigung oder Demütigung, besonders von Frauen und Kindern.

Die Gefahr liegt aber nicht nur in der Erstellung. Die KI-gestützten Empfehlungsalgorithmen entscheiden, was viral geht. Können sie manipulierte Inhalte nicht effektiv erkennen, verbreiten sich diese rasend schnell. Das untergräbt das Vertrauen in die Plattform und erhöht das Risiko für Betrug und psychischen Schaden.

DSA: Das scharfe Schwert der EU

Das Vorgehen ist ein klares Signal: Die EU will den Digital Services Act konsequent durchsetzen. Das Gesetz gibt der Kommission weitreichende Befugnisse. Bei Verstößen drohen Strafen von bis zu 6 Prozent des weltweiten Jahresumsatzes.

Erst im Dezember 2025 kassierte X eine DSA-Strafe von 120 Millionen Euro wegen mangelnder Transparenz. Die aktuellen Ermittlungen zeigen: Der Druck auf Big Tech bleibt hoch, besonders bei rasanten KI-Innovationen.

Ein Weckruf für die ganze Tech-Branche

Der Fall X ist Teil einer breiten regulatorischen Offensive. Auch Meta und TikTok stehen unter DSA-Beobachtung. Doch der Vorfall mit Grok hat besonderes Gewicht – er setzt an der Schnittstelle von Social Media und generativer KI an.

Branchenbeobachter sehen einen Präzedenzfall. Die Devise „Move fast and break things“ stößt in Europa an harte Grenzen. Künftig müssen Plattformen nachweisen, dass sie die gesellschaftlichen Risiken ihrer Technologien von Anfang an mitdenken. Der Nutzerschutz wird zur zentralen rechtlichen Pflicht.

Was kommt jetzt auf X zu?

Das Verfahren bedeutet nicht zwangsläufig eine Verurteilung. Die Kommission sammelt nun Beweise und gibt X Gelegenheit zur Stellungnahme. Das Unternehmen steht unter Druck, seine internen Risikoprüfungen offenzulegen.

Sollten Verstöße nachgewiesen werden, drohen neben einer weiteren Geldstrafe auch konkrete Auflagen. Denkbar sind:
* Eine bessere Kennzeichnung von KI-Inhalten
* Strengere Kontrollen bei der Bilderstellung
* Die vorübergehende Deaktivierung bestimmter Funktionen in der EU

Eines ist bereits jetzt klar: Die Ära der unregulierten KI-Experimente auf Kosten der Nutzersicherheit geht in Europa zu Ende.

PS: Gerade Fälle wie die Ermittlungen gegen X zeigen: Zeitnahes Handeln ist entscheidend. Unser Gratis‑Leitfaden zur EU‑KI‑Verordnung fasst die wichtigsten Übergangsfristen, Dokumentationspflichten und Kennzeichnungsvorgaben kompakt zusammen. Er richtet sich an Plattformbetreiber und Entwickler, die Compliance schnell nachweisen müssen und technische Schutzmaßnahmen umsetzen wollen. Holen Sie sich die Checkliste, bevor Aufsichtsbehörden Nachweise verlangen. Gratis-Leitfaden zur KI-Verordnung jetzt sichern