KI-Kennzeichnung: EU verhängt Bußgelder bis 35 Millionen Euro

Seit dem 2. August 2026 gelten innerhalb der Europäischen Union neue Regelungen, die eine verpflichtende Kennzeichnung von durch künstliche Intelligenz (KI) generierten Inhalten vorsehen. Die Transparenzpflichten basieren auf Artikel 50 der europäischen KI-Verordnung (AI Act). Von den neuen Vorgaben sind Unternehmen, Forschungsinstitute, Behörden sowie Influencer und gewerbliche Nutzer betroffen. Privatpersonen, die KI-Systeme für nicht-gewerbliche Zwecke nutzen, sind von diesen Pflichten ausgenommen.

Umfang der Kennzeichnungspflicht für digitale Inhalte

Die gesetzliche Kennzeichnungspflicht erstreckt sich über eine Vielzahl von Formaten. Dazu zählen KI-generierte Bilder, Videos, Texte und Werbeanzeigen sowie der Einsatz von Chatbots. Besonders strenge Vorgaben gelten für sogenannte Deepfakes. Diese müssen entweder zu Beginn der Darstellung oder in regelmäßigen Abständen als manipuliert gekennzeichnet werden.

Die Markierung muss für menschliche Nutzer sichtbar sein, beispielsweise durch ein Label oder eine Einblendung im Bild. Gleichzeitig schreibt die Verordnung vor, dass die Kennzeichnung maschinenlesbar sein muss. Für diese technische Umsetzung sind die Anbieter der KI-Modelle, wie etwa OpenAI, Google, Meta oder Anthropic, verantwortlich. Sie müssen sicherstellen, dass der Output ihrer Systeme entsprechend markiert ist.

Für bestimmte Bereiche sieht die Verordnung Ausnahmen vor. So greifen die Kennzeichnungspflichten nicht bei künstlerischen Werken, Satire, Fiktion oder redaktionellen Inhalten, sofern diese einer menschlichen Kontrolle unterliegen. Auch im Rahmen der Strafverfolgung können Ausnahmen geltend gemacht werden.

Sanktionen und nationale Aufsichtsstrukturen

Verstöße gegen die neuen Transparenzregeln können erhebliche finanzielle Konsequenzen nach sich ziehen. Bei Missachtung der Transparenzvorgaben drohen Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Sollten Unternehmen gegen verbotene Praktiken verstoßen, können die Strafen auf bis zu 35 Millionen Euro oder 7 Prozent des Umsatzes steigen.

Wer die neuen Transparenzvorgaben und Risikoklassen der EU-KI-Verordnung rechtssicher umsetzen möchte, findet in diesem E-Book einen praxisnahen Leitfaden. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

In Deutschland übernimmt die Bundesnetzagentur die Rolle der zuständigen Aufsichtsbehörde. Verstöße können zudem über Plattformen gemäß dem Digital Services Act (DSA) oder über Wettbewerbszentralen gemeldet werden. In Österreich wurde bisher noch keine spezifische Aufsichtsbehörde benannt. Das dortige Bundeskanzleramt setzt jedoch bereits ein einheitliches Kennzeichnungsmodell für die Verwaltung um, welches erstmals beim Behörden-Chatbot „ida“ zur Anwendung kommt. Auch der ORF weitet seine Kennzeichnung aus und nutzt in den Bereichen Information, Sport und Magazin künftig drei verschiedene Formen der zeitgenauen Markierung.

Technische Herausforderungen und Kritik der Wirtschaft

EU-Vizepräsidentin Henna Virkkunen bezeichnete die Neuregelung als einen wichtigen Schritt, um das Vertrauen von Menschen und Unternehmen in die Technologie zu stärken. Dennoch gibt es deutliche Kritik aus der Wirtschaft. Der Verband eco kritisierte etwa, dass die entsprechenden EU-Leitlinien erst 13 Tage vor dem Inkrafttreten veröffentlicht wurden und technische Standards weitgehend fehlen. Der Verband fordert daher Verhältmäßigkeit und eine vorrangige Beratung der Unternehmen vor dem Aussprechen von Sanktionen.

Technisch kommen derzeit Verfahren wie unsichtbare Wasserzeichen durch Pixelrauschen oder robustere eingebettete Markierungen sowie der C2PA-Standard für authentische Inhalte zum Einsatz. Experten weisen jedoch darauf hin, dass Wasserzeichen oft leicht zu entfernen sind und insbesondere offene KI-Modelle die Kennzeichnungspflichten technisch umgehen könnten. Große Plattformbetreiber wie TikTok, Meta und Google haben bereits eigene KI-Labels eingeführt, wobei Google gleichzeitig vor der hohen regulatorischen Komplexität warnt.

Angesichts drohender Bußgelder bei Verstößen gegen die EU-KI-Verordnung sollten Verantwortliche jetzt die geltenden Dokumentationspflichten prüfen. Kostenlosen Umsetzungsleitfaden zum EU AI Act mit allen relevanten Übergangsfristen herunterladen

Weitere Fristen und Übergangsregelungen

Für bereits bestehende KI-Systeme gewährt die EU eine Schonfrist bis zum 2. Dezember 2026. Zu diesem Datum tritt zudem das Verbot für nicht-einvernehmliche sexuelle Deepfakes in Kraft. Der weitere Zeitplan der KI-Verordnung sieht vor, dass bis zum 2. August 2027 sogenannte Reallabore (Sandboxen) eingerichtet werden müssen. Regelungen für Hochrisiko-KI-Systeme greifen ab dem 2. Dezember 2027, während für Hochrisiko-KI in Produkten eine Frist bis zum 2. August 2028 vorgesehen ist.

de | wirtschaft | 69911436 |