Gericht bestraft Anwalt: 5.000 Dollar für KI-generierte Falschaussagen

Der Oberste Gerichtshof von New Mexico hat den Rechtsanwalt Stephen Aarons wegen Missachtung des Gerichts belangt. Grund für die Sanktionen ist ein unter Einsatz von ChatGPT erstellter Schriftsatz, der frei erfundene Zeugenaussagen und falsche Zitate enthielt.

Das Gericht verhängte gegen den Juristen eine Geldstrafe in Höhe von 5.000 US-dollar, die an den Client Protection Fund der staatlichen Anwaltskammer zu leisten ist. Darüber hinaus wurde der Fall an die zuständige Disziplinarkommission verwiesen. Aarons wurde zudem mit einem Auftrittsverbot belegt.

Fiktive Zeugen und Täterbeschreibungen

Der von der künstlichen Intelligenz (KI) generierte Schriftsatz wies erhebliche Mängel auf. Demnach enthielt das Dokument Zeugenaussagen von Personen, die faktisch nicht existierten oder in diesem Zusammenhang keine Aussage getätigt hatten. Genannt wurden unter anderem eine Officer Michelle Amarillo, ein Officer Sanchez sowie Manal Al-Jibury und Teresa Marquez.

Zusätzlich zu diesen fiktiven Personalien umfasste der Brief eine vollständig erfundene Täterbeschreibung sowie diverse falsche Zitate. Aarons hatte für die Erstellung des Dokuments das Modell o3 des Entwicklers OpenAI genutzt. Die entsprechenden Verhandlungsprotokolle speiste er zuvor über den Dienst Rev.com in das System ein.

Wer sich beruflich mit dem Einsatz von künstlicher Intelligenz befasst, muss die rechtlichen Rahmenbedingungen und Pflichten genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen und Fristen der neuen EU-Gesetzgebung. EU AI Act in 5 Schritten verstehen

Hintergrund des Verfahrens

Der fragwürdig Schriftsatz war im August 2025 als Teil eines Berufungsverfahrens eingereicht worden. Aarons vertrat dabei Oscar Renee Sandoval, der im Februar 2025 wegen Mordes an der Mutter seiner Kinder zu einer lebenslangen Haftstrafe verurteilt worden war. Inzwischen hat Anfang September Kim Chavez Cook die rechtliche Vertretung in der Berufung für Sandoval übernommen.

In einer Stellungnahme erklärte Aarons, er habe nicht gewusst, dass KI-Modelle Fakten halluzinieren könnten. Er bezeichnete das Vorgehen als einen ehrlichen Fehler.

Die Risiken beim Einsatz von KI-Systemen sind vielfältig und können für Unternehmen schnell rechtliche Konsequenzen nach sich ziehen. Der kostenlose Praxis-Report klärt darüber auf, welche KI-Anwendungen als Hochrisiko eingestuft werden und wie Sie die Einhaltung der Vorschriften sicherstellen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern

Der Vorfall unterstreicht die wachsenden Herausforderungen für die Justiz im Umgang mit generativer künstlicher Intelligenz. Experten und Gerichte weltweit beobachten zunehmend Fälle, in denen automatisierte Textsysteme juristische Präzedenzfälle oder Beweismittel erfinden, was die Integrität gerichtlicher Verfahren gefährden kann.

Im vorliegenden Fall wertete das Gericht die Einreichung derartiger Falschangaben als schwerwiegenden Verstoß, der die nun ausgesprochenen Sanktionen zur Folge hatte.