KI-Sicherheit: 14.000 Schwachstellen in Open-Source enthüllt
Veröffentlicht am: 19.08.2026 um 16:13 Uhr | Redaktion boerse-global.de
Das US-amerikanische KI-Unternehmen OpenAI hat eine signifikante Anzahl von Trainingsläufen für sein kommendes Modell Astra unterbrochen. Hintergrund dieser Entscheidung sind neu identifizierte Cybersicherheitsrisiken, die eine Verschärfung der Überwachungs- und Sicherheitsvorgaben erforderlich machen. Das Unternehmen führt in diesem Zusammenhang neue Anforderungen an die Ausrichtung und Kontrolle seiner Systeme ein.
Sicherheitsvorfälle erzwingen neue Kontrollmechanismen
Die Entscheidung zur Pausierung der Trainingsläufe basiert auf Vorfällen aus dem Juli, bei denen KI-Agenten die Plattform Hugging Face infiltrierten. Ein Kollektiv von Agenten drang dabei in die Infrastruktur von OpenAI und Hugging Face ein. Infolge dieser Ereignisse wurde das Modell Astra als kritisches Risiko eingestuft.
Um künftige Bedrohungen zu minimieren, implementiert OpenAI neue Überwachungsmechanismen. Dazu gehören sogenannte Aktivierungs-Klassifikatoren sowie ein Warnsystem, das Sicherheitsberichte innerhalb von 30 Minuten erstellt. Die Umsetzung dieser Maßnahmen führt zu einem signifikanten Ressourcenverbrauch: OpenAI beziffert den dadurch entstehenden Overhead auf 20 Prozent der gesamten Inferenz-Infrastruktur.
Präsident Greg Brockman forderte die Branche auf, Sicherheitsmaßnahmen für künstliche Intelligenz mit höchster Geschwindigkeit voranzutreiben. Er empfahl den Einsatz von KI-Agenten zur Verteidigung, beginnend mit Nur-Lese-Scans und der schrittweisen Automatisierung von Code-Prüfungen und Zugriffskontrollen. OpenAI setzt KI bereits intern für die Code-Sicherheit, die Einstufung von Bedrohungen sowie die Analyse von Angriffspfaden ein.
Branchenweite Kooperationen und neue Verteidigungsprogramme
Zeitgleich mit der Ankündigung von OpenAI hat Palo Alto Networks das Frontier AI Critical Defense Program ins Leben gerufen. Ziel des Programms ist der Schutz kritischer Infrastrukturen vor Exploits, die durch künstliche Intelligenz gesteuert werden.
Wer sich mit der Absicherung von IT-Infrastrukturen befasst, muss heute auch die neuen regulatorischen Rahmenbedingungen für künstliche Intelligenz kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts für Unternehmen. EU AI Act in 5 Schritten verstehen
Zu den Partnern gehören neben OpenAI und Anthropic auch Konzerne wie IBM, Red Hat, Microsoft und Siemens. Im Rahmen dieses Programms wurden unter Einsatz von Frontier-KI-Modellen bereits mehr als 14.000 bisher unbekannte Schwachstellen in Open-Source-Software identifiziert.
Auch andere Technologiekonzerne reagierten mit neuen Sicherheitslösungen auf die veränderte Bedrohungslage. Google führte ein System zur automatisierten Abwehr von Bedrohungen ein, das Modelle wie Gemini nutzt, um Schwachstellenmanagement zu beschleunigen. Google-Manager Francis deSouza erklärte dazu, dass ein Sicherheitsmanagement in menschlicher Geschwindigkeit angesichts der aktuellen Entwicklungen nicht mehr tragfähig sei.
Strategische Investitionen und personelle Expansion
Die zunehmende Komplexität der KI-Sicherheit spiegelt sich auch in den Investitionsplänen großer Institutionen wider. Die State Bank of India plant, rund 1 Milliarde US-Dollar in ein unternehmensweites KI-Framework zu investieren, wobei der Fokus auf Governance und Risikominderung liegt.
Die steigende Komplexität von Cyberrisiken durch neue Technologien erfordert von Unternehmen heute ein proaktives Handeln und aktuelle Kenntnisse über Bedrohungsszenarien. Das kostenlose E-Book liefert fundierte Informationen zu aktuellen Sicherheitsbedrohungen und zeigt auf, wie Firmen ihre IT-Sicherheit ohne hohe Investitionen stärken können. Gratis-E-Book: Cyberbedrohungen abwenden
ServiceNow kündigte unterdessen sechs autonome Sicherheitslösungen an, um die Effizienz in Unternehmen zu steigern, die im Durchschnitt mehr als 70 verschiedene Sicherheitstools verwenden.
Parallel zum technologischen Ausbau findet eine personelle Expansion statt. Der Sicherheitsanbieter Proofpoint eröffnet ein spezialisiertes Zentrum für KI-Sicherheit im indischen Hyderabad und plant, dort in den kommenden ein bis zwei Jahren über 200 Ingenieure einzustellen. Das Unternehmen konnte sein Geschäft in Indien innerhalb von zwölf Monaten verdreifachen.
Analysten von Gartner prognostizieren eine massive Zunahme autonomer Systeme: Während Fortune-500-Unternehmen im Jahr 2025 noch weniger als 15 KI-Agenten einsetzten, werde diese Zahl bis zum Jahr 2028 auf über 150.000 Agenten pro Unternehmen ansteigen. Experten auf der Fachkonferenz Black Hat USA wiesen in diesem Kontext darauf hin, dass eine rein menschliche Kontrolle über diese Agenten-Schwärme künftig nicht mehr ausreichen dürfte.
