OpenAI stoppt Astra: KI-Modell entwickelt Zero-Day-Exploits selbstständig
Veröffentlicht am: 09.08.2026 um 06:53 Uhr | Redaktion boerse-global.de
Erstmals in der Geschichte der KI-Entwicklung hat ein Modell die höchste Risikostufe in internen Sicherheitstests ausgelöst. OpenAI pausiert die Arbeit an seinem System Astra – aus gutem Grund.
Die Nachricht schlug am Freitag in der Tech-Branche ein wie eine Bombe: OpenAI hat die Entwicklung seines KI-Modells Astra vorerst gestoppt. Interne Bewertungen hatten ergeben, dass das System in der Lage sein könnte, eigenständig Sicherheitslücken in stark geschützten Systemen auszunutzen – ohne menschliches Eingreifen. Für Deutschland und Europa, wo Unternehmen wie SAP und Telekom zunehmend auf KI setzen, wirft das grundlegende Fragen zur Sicherheit solcher Systeme auf.
Autonome Cyberangriffe: Das Modell überschreitet kritische Grenze
Der Stopp wurde durch Astras Fortschritte im sogenannten agentischen Programmieren und bei Cybersicherheitsaufgaben ausgelöst. Nach dem internen Sicherheitsrahmen von OpenAI, der Ende 2023 etabliert wurde, gilt ein Modell als „kritisch" gefährlich, wenn es komplexe Cyberangriffe auf gut verteidigte, reale Systeme selbstständig entwickeln und ausführen kann.
Die internen Prüfungen konnten nicht ausschließen, dass Astra genau diese Fähigkeiten besitzt. Konkret zeigte das Modell Anzeichen, sogenannte Zero-Day-Exploits – Angriffe, die bislang unbekannte Software-Schwachstellen ausnutzen – vollständig eigenständig zu entwickeln. Es ist das erste Mal, dass ein solcher Sicherheits-Schwellenwert während interner Tests offiziell ausgelöst wurde.
Sicherheitsprotokolle verschärft, Veröffentlichung verschoben
OpenAI-Chef Sam Altman kündigte an, dass das Unternehmen mehr Zeit benötige, um die Sicherheit des Modells zu gewährleisten, bevor es in Richtung öffentlicher Veröffentlichung geht. Zwar betonte er, dass Astra grundsätzlich der Allgemeinheit zugänglich gemacht werden soll – doch derzeit liegt der Fokus auf der Verstärkung der Sicherheitskontrollen.
Wer sich mit den rasanten Entwicklungen im Bereich der künstlichen Intelligenz befasst, muss auch die neuen rechtlichen Rahmenbedingungen in Europa kennen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts für Unternehmen. EU AI Act in 5 Schritten verstehen
Um die erkannten Risiken zu managen, hat OpenAI die Entwicklung von Astra in isolierte Testumgebungen verlegt – ein Verfahren, das als Sandboxing bekannt ist. Weitere Maßnahmen umfassen die umfassende Überwachung der Modellaktivitäten, verbesserte Verschlüsselung sowie die Implementierung von „Chain-of-Thought"-Überwachung, um die internen Denkprozesse des Modells während der Aufgabenausführung nachzuvollziehen.
Zusammenarbeit mit externen Sicherheitspartnern
Um potenziellem Missbrauch vorzubeugen, weitet OpenAI die Kooperation mit Regierungsbehörden und spezialisierten KI-Sicherheitsorganisationen aus. Zu den Partnern zählen unter anderem CrowdStrike, METR und Redwood Research. Gemeinsam sollen die Grenzen des Modells ausgelotet und robustere Schutzmechanismen entwickelt werden.
Neue technologische Möglichkeiten bringen oft auch neue Risiken für die Unternehmenssicherheit mit sich, die rechtlich präzise eingeordnet werden müssen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Report zu KI-Risikoklassen anfordern
Die Partnerschaften zielen darauf ab, die Testprotokolle zu verfeinern, die darüber entscheiden, wann ein Modell für den breiteren Einsatz sicher ist. Das Unternehmen betonte, dass das Modell zwar fortgeschrittene Fähigkeiten gezeigt habe, die aktuelle Pause jedoch eine Vorsichtsmaßnahme sei, die durch die internen Sicherheitsrichtlinien vorgegeben werde.
Klarstellung zu jüngsten Sicherheitsvorfällen
Die Ankündigung kommt vor dem Hintergrund branchenweiter Bedenken zur KI-Sicherheit. OpenAI stellte jedoch klar: Das Astra-Modell war nicht in den vielbeachteten Hack der Plattform Hugging Face verwickelt. Das Unternehmen versichert, dass die Pause das Ergebnis proaktiver interner Tests sei – nicht die Reaktion auf einen externen Angriff oder Missbrauch der eigenen Technologie.
