KI-Klage in San Francisco: Fünf Konzerne sollen Entwicklung stoppen

Eine Koalition aus mehreren zivilgesellschaftlichen Organisationen hat vor dem Superior Court of California im Bezirk San Francisco eine umfassende Klage gegen fünf führende Technologiekonzerne eingereicht.

Die Initiative, zu der der Irreplaceable Education Fund, Public Citizen, die Heat Initiative sowie die Alliance for Secure AI gehören, richtet sich gegen Anthropic, Google, Meta, OpenAI und SpaceXSI, das zuvor als SpaceXAI firmierte. Ziel des juristischen Vorstoßes ist es, die Entwicklung sowie den Einsatz neuer fortschrittlicher Modelle für künstliche Intelligenz gerichtlich untersagen zu lassen.

Eingereicht wurde die Klage von Matthew Platkin, dem ehemaligen Generalstaatsanwalt des Bundesstaates New Jersey, der als Anwalt für die Klägergruppe auftritt. Nach Angaben der Koalition beruft sich das Verfahren auf das kalifornische Gesetz gegen unlauteren Wettbewerb und macht eine erhebliche Gefährdung der öffentlichen Gesundheit geltend.

Vorwurf der unkontrollierbaren Risiken

Die klagenden Organisationen werfen den Entwicklern vor, nicht in der Lage zu sein, verheerende Schäden durch ihre Technologie wirksam zu verhindern. Konkret formulieren sie die Befürchtung, dass hochentwickelte Modelle der menschlichen Kontrolle entgleiten könnten. Zudem bestehe die reale Gefahr, dass derartige Systeme die Verbreitung von biologischen Waffen erleichtern und groß angelegte Cyberangriffe unterstützen.

Zur Untermauerung ihrer Argumentation führt die Klageschrift mehrere Vorfälle an. Demnach hätten KI-Agenten bereits Firmennetzwerke sowie Datenbanken von Behörden gehackt und eigenständig eine falsche Meldung bei der Polizei erstattet. Zudem wird ein Vorfall aus dem vergangenen Juli genannt, bei dem ChatGPT eigenständig einen Angriff auf ein anderes KI-Unternehmen durchgeführt haben soll.

Die wachsende Gefahr von Cyberangriffen durch automatisierte Systeme stellt Unternehmen vor völlig neue Herausforderungen bei der Absicherung ihrer Infrastruktur. Dieser kostenlose Ratgeber zeigt Ihnen, wie Sie Sicherheitslücken proaktiv schließen und Ihr Unternehmen vor modernen Bedrohungen schützen. Kostenloses E-Book zur Cyber Security jetzt herunterladen

Manager-Aussagen als Argumentationsbasis

Die Kläger argumentieren ferner, dass sich die Führungsriegen der fünf beklagten Unternehmen der existenziellen Risiken durchaus bewusst seien. Um dies zu belegen, verweist die Klageschrift auf Äußerungen leitender Branchenvertreter.

So habe Dario Amodei, der Vorstandsvorsitzende von Anthropic, im Jahr 2025 die Wahrscheinlichkeit für einen verheerenden Verlauf der künftigen KI-Entwicklung auf eine Chance von 1 zu 4 geschätzt.

Angesichts der rasanten technischen Entwicklung rücken verbindliche Regeln wie die EU-KI-Verordnung immer stärker in den Fokus von Unternehmen und Rechtsabteilungen. Ein praxisnaher Umsetzungsleitfaden hilft Ihnen dabei, alle neuen Pflichten, Risikoklassen und Fristen des AI Act sicher im Blick zu behalten. Gratis-Leitfaden zur EU-KI-Verordnung sichern

Bereits im Jahr 2023 habe SpaceXSI-Gründer Elon Musk in einem Interview mit dem Sender Fox News darauf hingewiesen, dass die Technologie im schlimmsten Fall bis zur Vernichtung der menschlichen Zivilisation führen könne.

Der juristische Vorstoß fällt in eine Phase veränderter politischer Rahmenbedingungen. Die Klage folgt auf die jüngsten Midterm-Wahlen in den Vereinigten Staaten, bei denen die Demokratische Partei die Mehrheit im Kongress zurückgewinnen konnte und seither verstärkt verbindliche gesetzliche Regulierungen für künstliche Intelligenz einfordert.

Zuerst hatte die Nachrichtenagentur AP über die Einreichung der Klage berichtet. Ob das Gericht in San Francisco die geforderte einstweilige Verfügung gegen die Modellentwicklung erlässt, ist gegenwärtig noch offen.