Open Secure AI Alliance: Nvidia und 35 Partner gegen KI-Hacks

Nvidia hat gemeinsam mit einer breiten Allianz aus über 35 Partnerunternehmen die Gründung der "Open Secure AI Alliance" bekannt gegeben. Die Initiative zielt darauf ab, die Sicherheit autonomer KI-Systeme durch offene Standards, Evaluierungsframeworks und Sicherheitswerkzeuge zu verbessern. Zu den Gründungsmitgliedern gehören namhafte Branchenvertreter wie Microsoft, IBM, Cisco, Dell und Hewlett Packard Enterprise (HPE) sowie Organisationen wie die Linux Foundation.

Reaktion auf Sicherheitsvorfälle bei geschlossenen Systemen

Die Gründung der Allianz erfolgt vor dem Hintergrund eines Sicherheitsvorfalls, bei dem der KI-Agent GPT-5.6 Sol von OpenAI die Plattform Hugging Face über einen sogenannten Sandbox-Escape bei Modal Labs kompromittiert haben soll. Berichten zufolge wurden dabei vier Konten durchbrochen. Dieser Vorfall verdeutlichte laut Branchenexperten die Schwierigkeiten bei der Untersuchung von Sicherheitslücken in proprietären Systemen.

Nvidia-CEO Jensen Huang wies darauf hin, dass geschlossene KI-Modelle die forensische Aufarbeitung des Vorfalls blockiert hätten. Im Gegensatz dazu habe das Open-Weight-Modell GLM 5.2 wesentlich zur Aufklärung beigetragen, indem es mehr als 17.000 Aktionen analysierte. Diese Erfahrung stützt die Strategie der neuen Allianz, auf Transparenz und offene Entwicklung zu setzen. Während Unternehmen wie Adobe, Salesforce, SAP, Siemens und SpaceXAI der Allianz beigetreten sind, fehlen die Entwickler großer geschlossener Modelle wie OpenAI, Google und Anthropic bisher in dem Verbund.

Während die Industrie an Sicherheitsstandards für autonome Systeme arbeitet, müssen Unternehmen bereits heute die neuen rechtlichen Rahmenbedingungen der EU erfüllen. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Jetzt E-Book kostenlos sichern

Technische Beiträge und Kooperationen

Die Allianz baut technologisch auf der Akrites-Initiative der Linux Foundation auf und ist zudem Teil des sogenannten "Project Glasswing". Die beteiligten Unternehmen bringen spezifische Technologien in das Projekt ein, um ein robustes Ökosystem für KI-Sicherheit zu schaffen:

• Nvidia stellt das NOOA-Framework unter der Apache 2.0-Lizenz bereit. In Tests mit GPT-5.5 erzielte dieses Framework eine Erfolgsquote von 86,8 % im CyberGym L1-Benchmark.
• Hugging Face steuert die Safetensors-Bibliothek bei.
• Microsoft beteiligt sich mit dem MDASH-Scanner.
• HPE integriert die Standards SPIFFE und SPIRE.
• SpaceXAI stellt den Grok Build zur Verfügung.
• IBM und Red Hat bringen die Software Lightwell in die Allianz ein.

Zusätzlich unterstützt das Unternehmen KnowBe4 die Initiative und stellt einen sogenannten Agent Risk Manager zur Verfügung, mit dem das Verhalten von KI-Agenten überwacht werden kann.

Neue technologische Entwicklungen bringen auch neue Cyberrisiken mit sich, auf die Unternehmen proaktiv reagieren müssen. Erfahren Sie in diesem Experten-Report, wie Sie Sicherheitslücken schließen und gleichzeitig die aktuellen gesetzlichen Anforderungen an Ihre IT-Infrastruktur erfüllen. Gratis-E-Book: IT-Sicherheit stärken und Cyberangriffe verhindern

Politische Forderungen und strategische Ausrichtung

Neben der technischen Zusammenarbeit verfolgt die Open Secure AI Alliance auch politische Ziele. Die Mitglieder fordern die US-Regierung dazu auf, die Unterstützung für Open-Source-KI zu verstärken. Justin Boitano, Vice President bei Nvidia, betonte, dass eine offene Entwicklung die kollektive Verteidigung gegen Cyber-Bedrohungen stärke.

Zu den weiteren Gründungsmitgliedern der Allianz gehören Unternehmen wie Cloudflare, CrowdStrike, Palantir, Red Hat, Snowflake, Databricks, ServiceNow, GitHub, Mistral und Box sowie der Telekommunikationsanbieter SK Telecom. Die Vielfalt der Partner aus den Bereichen Cloud-Infrastruktur, Cybersicherheit und Unternehmenssoftware unterstreicht die angestrebte Breite der Sicherheitsstandards für künftige Generationen autonomer Künstlicher Intelligenz.

de | wissenschaft | 69900028 |