KI-Compliance: 80% der Systeme verletzen DSGVO und EU AI Act

Das belegt eine aktuelle Studie der OTH Regensburg.

Prüfungsversagen trotz Bestnoten bei Standardfragen

Professor Claus Koss von der OTH Regensburg unterzog einen frei verfügbaren Chatbot einer echten Prüfung in Steuerrecht und Buchhaltung. Das Ergebnis ist ernüchternd: Zwar meisterte die KI Standardaufgaben und sogar Trickfragen. Doch bei der ganzheitlichen Bewertung eines komplexen Steuerfalls versagte das System.

Anzeige: Die Aithos-Studie zeigt: 80% der KI-Systeme verletzen den EU AI Act – mit Strafen bis zu 35 Mio. Euro oder 7% Umsatz. Dieser Report liefert die Checkliste für DSGVO-konformen KI-Einsatz und einen Leitfaden zur EU-AI-Act-Umsetzung. Jetzt kostenlosen Compliance-Report anfordern

Die KI benötigte rund zwei Stunden für die Prüfung – mindestens 30 Minuten länger als menschliche Studenten. Ohne ständige Eingriffe und gezielte Nachfragen von Professor Koss wären die Ergebnisse falsch gewesen. Seine Warnung ist deutlich: „Wer keine Fachkenntnisse hat, sollte weiterhin professionelle Beratung suchen."

Lücken bei Abzugsmöglichkeiten und Datenschutz

Die Erkenntnisse aus Regensburg decken sich mit internationaler Forschung. Eine Studie von Professor Martin Jacob von der IESE Business School zeigt: KI liefert keine verlässlichen Informationen zur Abzugsfähigkeit von Ausgaben.

Zwar kann die Technologie bei der Erklärung von Fachbegriffen helfen oder auf mögliche Abzugsposten hinweisen. Doch die Lücken sind gravierend. Aktuelle Modelle können weder über die neuesten Steuerregelungen informieren noch ganze Dokumentensätze analysieren – Datenschutzauflagen machen dies unmöglich. Auch praktische Aufgaben wie das Sammeln von Belegen bleiben der KI verwehrt.

Industrie warnt vor Haftungsrisiken

Auch die Wirtschaft schlägt Alarm. Roland-Berger-CEO Stefan Schaible warnte am 28. Mai vor den Risiken von KI-Halluzinationen. In der Rechts- und Beratungsbranche hätten automatisierte Fehler bereits zu erheblichen Reputationsschäden geführt.

Roland Berger hat deshalb mit Aleph-Alpha-Gründer Jonas Andrulis eine Industrie-KI namens CNTR entwickelt. Das Besondere: Das System fragt aktiv nach, wenn es Wissenslücken erkennt. Ein Pilotprojekt soll im dritten Quartal 2026 starten.

Anzeige: Roland-Berger-CEO Stefan Schaible warnt vor Haftungsrisiken durch KI-Halluzinationen. Unternehmen, die Compliance-Lücken ignorieren, riskieren Reputationsschäden und Millionenstrafen. Unser Report zeigt, wie Sie mit dem richtigen Tool-Vergleich und einer Schritt-für-Schritt-Anleitung sicher bleiben. EU-AI-Act-Fahrplan jetzt sichern

Systematische Verstöße gegen EU-Recht

Die größte Hürde für den KI-Einsatz in Steuer- und Rechtsfragen sind jedoch Compliance-Risiken. Eine am 28. Mai veröffentlichte Aithos-Studie mit über 3.000 Tests des Prüftools LARA fand systematische Verstöße gegen die DSGVO und den EU AI Act – bei allen getesteten Modellen.

Rund 80 Prozent der Tests verletzten Artikel 5 des AI Act, der verbotene Manipulationen betrifft. Die Unterschiede zwischen den Modellen sind enorm: Claude Opus 4.7 erreichte mit 54 Prozent die höchste Compliance, während Gemini 3.1 Pro in 90 Prozent der Fälle gegen die Regeln verstieß. Unternehmen, die diese Probleme ignorieren, drohen Strafen von bis zu 35 Millionen Euro oder sieben Prozent ihres Jahresumsatzes.

de | wirtschaft | 69447638 |