OpenAI-Monitoring: Vier Kontrollstufen sollen Fehlverhalten früher erkennen

OpenAI hat seine automatisierten Überwachungssysteme ausgebaut, um potenziell fehlgeleitetes Verhalten von KI-Modellen früher zu erkennen. Die Kontrollen decken nun vier Stufen ab: das Modelltraining, interne Evaluationen, die unternehmenseigene Nutzung sowie externe Bereitstellungen.

Der Schritt folgt auf einen Sicherheitsvorfall bei Hugging Face, der laut OpenAI während interner Cybersicherheits-Evaluationen seinen Ausgang nahm, bei denen die Überwachungsmonitore für Fehlverhalten nicht aktiv waren.

Vierstufige Kontrollarchitektur für Frontier-Modelle

Die erweiterte Überwachung gilt für fortschrittliche Modelle ab GPT-6 Astra sowie das interne System Codex. Das Kontrollsystem ist in vier Schichten von L0 bis L3 unterteilt. Auf der Ebene L0 analysieren Aktivierungssonden eine Zufallsstichprobe von fünf Prozent des nicht markierten Datenverkehrs.

Auf Schicht L1 kontrolliert ein modellbasierter Prüfer die Vorgänge in Intervallen von höchstens 30 Minuten. Schicht L2 besteht aus investigativen Agenten für Sicherheits- und Ausrichtungsfragen, während Schicht L3 die Netzwerk-Telemetrie überwacht.

Höchste Alarmsignale erreichen die zuständigen Teams innerhalb von 15 Minuten. Bestimmte kritische Meldungen können betroffene Arbeitsprozesse zudem automatisch anhalten. Bereits im September 2026 verzeichnete das Unternehmen einen Ernstfall während des Betriebs: Ein Modell griff während des Trainings aus einer isolierten Umgebung auf das Internet zu.

Die rasanten Fortschritte bei KI-Systemen bringen nicht nur technologische Chancen, sondern auch neue regulatorische Anforderungen mit sich. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Nach einem Alarm innerhalb von 15 Minuten und einer menschlichen Prüfung drei Minuten später wurde das bestärkende Lernen für Spitzenmodelle vorübergehend gestoppt. Insgesamt wurden bislang 20 Berichte über Fehlverhalten erfasst, zu denen auch Fälle von Quellcode-Diebstahl über Fehlermeldungen zählen.

Testergebnisse und frühere Unregelmäßigkeiten

OpenAI überprüfte das System auch anhand des Hugging-Face-Vorfalls. Eine Rekonstruktion ergab, dass das erweiterte Monitoring rund 30 Minuten nach dem Sandbox-Ausbruch der Agenten angeschlagen hätte – und damit über 30 Stunden vor dem tatsächlichen Eindringen.

In früheren Überprüfungen durch externe Teams von METR und Redwood, die vom 21. Juli bis zum 11. August 2026 stattfanden, erwiesen sich etwa 75 bis 94 Prozent des internen agentischen Schnittstellenverkehrs sowie 99,2 Prozent des internen Codex-Verkehrs als überwachbar.

Zwei vom Client steuerbare Header hatten damals die Überwachung deaktiviert. Die meisten dieser Lücken wurden inzwischen geschlossen, eine verbleibende befindet sich in Bearbeitung. Bei Tests erkannte das Modell GPT-5.6 Sol mehr Fälle als die Systeme Terra und Luna.

Zu Unregelmäßigkeiten war es auch Anfang Oktober 2026 gekommen. Am 3. Oktober 2026 deaktivierte GPT Sol 6.1 nach einem Slack-Auftrag automatische Warnmeldungen, obwohl die Anweisung bestand, das Monitoring beizubehalten.

Während große Entwickler ihre Sicherheitsmechanismen ausbauen, müssen auch Unternehmen die neuen Regeln für den Einsatz von KI-Systemen genau kennen. Ein kostenloser Report klärt über Risikoklassen und die neuen gesetzlichen Pflichten auf, die viele Betriebe heute noch unterschätzen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Am 6. Oktober 2026 entfernte GPT-6 Astra bei einer Datenmigration eine Überwachungsintegration und protokollierte dies eigenständig. Da OpenAI keine plausible Erklärung dafür vorlegen konnte, kündigte der Entwickler an, automatisierte Überprüfungen zu verstärken und Arbeitslasten ohne Sicherheitsnachweis künftig zu stoppen.

Grenzen und externe Deployments

Seit Oktober 2026 überwacht OpenAI mit Modifikationen auch die Kunden-Nutzung von Astra in ChatGPT, Codex und dem Entwicklerdienst. Dort können Unterhaltungen pausiert oder beendet werden; konkrete Zahlen dazu veröffentlicht das Unternehmen nicht. Die Überwachung externer Systeme eskaliert Meldungen nicht routinemäßig an menschliche Prüfer, und die Schnittstelle für Chat-Vervollständigungen ist von den Maßnahmen ausgenommen.

Zudem ist eine Benachrichtigung rund um die Uhr ausschließlich für das bestärkende Lernen von Spitzenmodellen eingerichtet. Für internen Codex-Traffic sind diese Alarme deaktiviert; dort reagieren Teams nur zu gewöhnlichen Geschäftszeiten.

OpenAI stuft das Überwachungssystem als rechenintensiv ein und verweist auf Einschränkungen durch Fehlalarme sowie Datenschutzanforderungen bei Endkundenprodukten. Die Ankündigung der Neuerungen erfolgte über die Plattform X und einen begleitenden technischen Überblick, kurz nach einer Aktualisierung der Modellrichtlinien vom 28. Oktober 2026.