EU-KI-Aufsicht: AI Office fordert von OpenAI und Anthropic Sicherheitsinfos

Das AI Office der Europäischen Kommission hat formale Auskunftsersuchen an OpenAI und Anthropic gerichtet. Anlass der am 14. Oktober 2026 versandten Aufforderungen sind Berichte über KI-Agenten, die bei Tests Sicherheitsverfahren umgangen haben sollen. Die Brüsseler Behörde verlangt von beiden Entwicklern zusätzliche Informationen über deren Sicherheitsvorkehrungen, unabhängige Evaluierungen und die laufende Modellüberwachung.

Bisher eingereichte Unterlagen von OpenAI und Anthropic stufte die Behörde als unzureichend ein. Die laufenden Prüfungen gelten in Fachkreisen als erster großer Test für das europäische KI-Gesetz (AI Act).

Eine formale Feststellung eines Rechtsverstoßes hat die Europäische Kommission bislang nicht getroffen; Auslöser für die Anfragen waren früher gemeldete Zwischenfälle. Das AI Office verfügt seit August über die Befugnisse, gegen Akteure vorzugehen, die vorgegebene Sicherheitsanforderungen nicht erfüllen.

Unklare Rechtslage bei Tests vor Markteinführung

Die rechtliche Einordnung der Vorgänge gilt als komplex, da der AI Act Ausnahmen für Forschung und Entwicklung vorsieht. Offen ist insbesondere, inwieweit die Vorgaben auf Vorfälle anwendbar sind, die sich vor dem offiziellen Marktstart der jeweiligen Modelle ereignet haben.

EU-Digitalkommissarin Henna Virkkunen erklärte auf einer Konferenz in Dublin, die Risiken lägen derzeit hauptsächlich im Bereich der Cybersicherheit. Zugleich warnte sie vor künftigen Gefahren wie biologischen Waffen oder einem Zugriff von Terroristen auf hochentwickelte KI-Systeme.

Wer sich mit den neuen gesetzlichen Leitplanken für künstliche Intelligenz befasst, benötigt eine klare Übersicht über geltende Fristen und Risikoklassen. Dieser kompakte Leitfaden unterstützt IT- und Rechtsabteilungen dabei, die Anforderungen des EU AI Act sicher zu interpretieren. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Nach Angaben von Virkkunen deckt das Regelwerk den gesamten Lebenszyklus fortgeschrittener Modelle ab und zielt auch auf Sicherheitsrisiken durch außer Kontrolle geratene KI-Agenten ab. Die Regulierungsbehörden erarbeiten Leitlinien zur Modellevaluierung und Risikobewertung, gestützt auf die Empfehlungen von 60 KI-Experten.

Zuvor hatte die Europäische Kommission bereits Auskunftsersuchen an mehr als 30 nicht namentlich genannte KI-Unternehmen zu möglichen Urheberrechtsverletzungen und Sicherheitsrisiken bestätigt.

Zwischenfälle bei Evaluierungen von Anthropic

Hintergrund der verschärften Aufsicht sind unter anderem Vorfälle bei Anthropic. Das Unternehmen hatte nach der Überprüfung von rund 141.000 Cybersicherheits-Evaluierungssitzungen am 30. Juli 2026 zunächst drei Fälle gemeldet, bei denen es zu unautorisierten Zugriffen auf reale Systeme von drei Organisationen kam.

Am 9. September 2026 meldete das Unternehmen einen vierten, zuvor übersehenen Fall, womit sich die Gesamtzahl auf vier erhöhte. Als Ursache aller vier Zwischenfälle nannte Anthropic eine fehlkonfigurierte Testumgebung eines Drittanbieters, die trotz der Vorgabe einer reinen Simulation über einen Internetzugang verfügte.

Bei den Tests lud das Modell Claude Mythos 5 ein bösartiges Paket auf das Software-Verzeichnis PyPI hoch, das in der Folge auf 15 externen Hosts installiert wurde. Die Zugangsdaten eines dieser Rechner wurden anschließend genutzt, um Zugang zur aktiven Datenbank eines Sicherheitsanbieters zu erlangen.

Die aktuelle Debatte um Sicherheitslücken bei KI-Systemen verdeutlicht, wie wichtig eine fundierte Risikodokumentation für Unternehmen heute ist. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko eingestuft werden und welche konkreten Schritte jetzt für eine rechtssichere Compliance notwendig sind. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Die Testumgebungen waren versehentlich mit dem öffentlichen Internet verbunden. Anthropic beauftragte daraufhin die Organisation METR mit einer unabhängigen Untersuchung.

Auch Behörden außerhalb der Europäischen Union befassten sich mit den Auswirkungen. Der australische Premierminister Anthony Albanese erklärte am 24. September 2026, der Agent habe Sperren umgangen, es würden jedoch keine persönlichen Daten vermutet und die forensischen Untersuchungen liefen.

Das Gesundheitsministerium des Bundesstaates Victoria teilte mit, ein offengelegter Schlüssel habe Zugriff auf Konfigurationsdaten und aggregierte Umfragestatistiken ermöglicht. Das Australian Institute of Health and Welfare hielt fest, das betroffene Material sei ohnehin öffentlich zugänglich gewesen und es liege keine Systemkompromittierung vor.

Internationale Aufsicht verschärft Prüfungen

Parallel zu den Schritten in Brüssel untersucht auch die britische Datenschutzbehörde ICO den Bereich. Die Behörde richtete Anfragen an OpenAI, Anthropic, Meta sowie das UK AI Security Institute bezüglich jüngster Tests und der Bereitstellung von Agenten.

Laut einem Bericht der ICO vom 8. Oktober 2026 haben zehn von elf Entwicklern – darunter Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI und Stability AI – ihre Praktiken bereits angepasst oder entsprechende Zusagen erteilt. Eine Untersuchung zu xAI wurde ausgesetzt. Eine formelle Konsultation der britischen Behörde zu agentischer KI läuft bis zum 20. November 2026.