KI-Halluzinationen vor Gericht: 1.300 Fälle weltweit, Strafen bis 250.000 Euro

Mit über 1.300 dokumentierten Fällen weltweit hat sich die Zahl der Gerichtsverfahren zu KI-generierten Falschinformationen innerhalb eines Jahres versechsfacht. Besonders brisant: Immer mehr Richter verhängen drastische Strafen gegen Anwälte, die ungeprüfte KI-Ergebnisse einreichen.

Schockierende Sanktionen in Mississippi und Ontario

Der Fall aus dem Northern District of Mississippi dürfte in der Anwaltsbranche für Aufsehen sorgen. Richterin Sharion Aycock zog die Reißleine und annullierte einen laufenden Prozess. Ihr Urteil: Das gesamte Anwaltsteam beider Parteien wird von dem Fall ausgeschlossen. Der Vorwurf: Beide Seiten hatten Dokumente mit erfundenen Gerichtsurteilen eingereicht – generiert von Künstlicher Intelligenz.

Die Konsequenzen sind hart. Die Hauptanwälte müssen Strafen zwischen 2.500 und 3.500 Euro zahlen, die örtlichen Vertreter jeweils rund 1.000 Euro. Aycock stellte klar: „Die berufliche Sorgfaltspflicht lässt sich nicht an Technologie delegieren."

Nur wenige Wochen zuvor hatte das Anwaltsgericht in Ontario ein ähnliches Urteil gefällt. Der suspendierte Anwalt Shahryar Mazaheri muss rund 31.150 Euro zahlen. Er hatte KI-generierte Anträge eingereicht, die auf nicht existierende Gerichtsentscheidungen verwiesen. Das Tribunal bezeichnete die KI-Ausgabe als „Unsinn" und wertete die unterlassene Prüfung als erschwerenden Umstand.

Kalifornien verschärft Standesregeln

Die State Bar of California treibt die Regulierung voran. Am 12. Juni verabschiedete das Ethikkomitee eine zweite Runde von Änderungsvorschlägen für die Berufsordnung. Sechs bestehende Regeln – darunter Kompetenz, Wahrhaftigkeit vor Gericht und Aufsichtspflicht – sollen explizit um KI-Verpflichtungen ergänzt werden.

Die rasanten regulatorischen Entwicklungen zeigen, dass der rechtssichere Umgang mit künstlicher Intelligenz zur Pflichtaufgabe für jedes moderne Unternehmen wird. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act verschafft Ihnen den nötigen Überblick über Risikoklassen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Jetzt kostenlosen Ratgeber sichern

Anders als die unverbindlichen Leitlinien von 2023 sollen die neuen Regeln klarmachen: Anwälte haften für jeden Output, den KI-Tools produzieren. Die öffentliche Anhörung läuft bis zum 6. August 2026. Hintergrund ist eine Anweisung des kalifornischen Supreme Court aus dem Jahr 2025, ethische Standards für den Einsatz autonomer KI-Systeme zu formalisieren.

IRS und internationale Gerichte ziehen nach

Das Problem hat längst die Anwaltskanzleien hinter sich gelassen. Die US-Steuerbehörde IRS warnte am 25. Juni in neuen Richtlinien vor KI-generierten Falschinformationen in Steuererklärungen. Steuerberater müssen künftig ihre KI-Prüfschritte dokumentieren und Mitarbeiter im Datenschutz schulen.

Noch weiter geht ein Urteil des Münchner Landgerichts vom 22. Juni. Die Richter erklärten Google direkt haftbar für falsche Behauptungen, die seine KI-Suchfunktionen generierten. Das Gericht wies das Argument zurück, KI-Zusammenfassungen seien neutrale Suchergebnisse. Vielmehr handele es sich um Googles eigene Inhalte. Bei Verstößen drohen Strafen von bis zu 250.000 Euro.

Compliance-Experten warnen bereits eindringlich davor, die neue KI-Verordnung zu ignorieren, da empfindliche Strafen bei Verstößen gegen Dokumentationspflichten drohen. Laden Sie jetzt den kostenlosen Report herunter und erfahren Sie konkret, welche Anforderungen Ihr Unternehmen beim Einsatz von KI-Systemen erfüllen muss. Kostenlosen Umsetzungsleitfaden zum EU AI Act hier herunterladen

Finanzielle Risiken steigen rasant

Die wirtschaftlichen Folgen sind enorm. Allein in den USA summierten sich die Strafen für KI-Halluzinationen vor Bundes- und Landesgerichten im ersten Quartal 2026 auf rund 145.000 Euro. Selbst Elite-Kanzleien wie Sullivan & Cromwell mussten bereits KI-Fehler in Bundesanzeigen einräumen.

Die Branche reagiert. Experten beobachten einen Paradigmenwechsel im Risikomanagement. Während einige Kanzleien die Effizienzgewinne der KI in höhere Fallzahlen ummünzen, investieren besser geführte Häuser die Einsparungen in verbindliche menschliche Prüfprozesse. Der Grund: Die Reputations- und Finanzrisiken sind inzwischen zu groß, um sie zu ignorieren.

de | wissenschaft | 69627411 |