SAFA: Google, OpenAI und Anthropic planen unabhängige KI-Sicherheitsinstanz
Veröffentlicht am: 25.09.2026 um 07:22 Uhr | Redaktion boerse-global.de
Die führenden Entwickler von Künstlicher Intelligenz, Google, OpenAI und Anthropic, treiben die Gründung einer unabhängigen Sicherheitsinstanz voran. Das Gremium, das unter dem vorläufigen Namen Standards Authority for Frontier AI (SAFA) firmiert, soll nach derzeitigem Planungsstand Ende 2026 oder Anfang 2027 den Betrieb aufnehmen.
Ziel der Initiative ist die Etablierung gemeinsamer Standards für die Überprüfung und Überwachung von Hochleistungsmodellen, wobei die Organisation unabhängig von staatlicher Aufsicht agieren soll.
Selbstregulierung als Antwort auf stagnierende Gesetzgebung
Die Initiative zur Gründung der SAFA folgt auf Verzögerungen bei der US-Bundesregulierung für Künstliche Intelligenz. Während ursprünglich eine staatliche Aufsicht durch die US-Regierung im Gespräch war, stagnierten diese Pläne unter der Trump-Administration.
Die beteiligten Unternehmen orientieren sich bei der Struktur der neuen Organisation an der Wall-Street-Selbstregulierungsorganisation FINRA. Den Anstoß für die aktuellen Gespräche gab der Vorsitzende von Google DeepMind, Demis Hassabis, im Juli 2026 mit einem entsprechenden Vorschlag.
Die Mission der SAFA besteht darin, praktische Benchmarks für die öffentlichen Sicherheitsversprechen der Gründungsmitglieder zu entwickeln. Die Organisation soll zudem Richtlinien für die Risikobewertung festlegen und Qualifikationsanforderungen für unabhängige Auditoren definieren.
Während Tech-Giganten eigene Sicherheitsstandards entwickeln, müssen Unternehmen hierzulande bereits die gesetzlichen Vorgaben der EU erfüllen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Ein zentraler Bestandteil der geplanten Funktionen ist die Unterstützung von Drittanbieter-Tests vor der Markteinführung neuer Modelle sowie die Erstellung von Protokollen für das Incident-Reporting.
Personalien und operative Ausgestaltung
Für die Leitung der geplanten Behörde wurden bereits namhafte Persönlichkeiten angefragt. Als potenzieller CEO gilt Sriram Krishnan, der von Januar 2025 bis Juni 2026 als politischer Berater für KI im Weißen Haus tätig war.
Krishnan hatte bei seinem Ausscheiden aus dem Staatsdienst betont, dass es für Künstliche Intelligenz keine Entsprechung zur US-Arzneimittelbehörde FDA geben werde. Neben ihm wurde auch Arati Prabhakar, die ehemalige Direktorin des White House Office of Science and Technology Policy, für eine Spitzenposition in Betracht gezogen.
Innerhalb der Arbeitsgruppe wird derzeit diskutiert, ob die SAFA direkte Sicherheitsbewertungen im eigenen Haus durchführen soll. Geplant ist zudem eine enge Zusammenarbeit mit Bundesbehörden und nationalen Laboren der USA bei der Durchführung von Testreihen.
Wer sich mit dem Thema KI-Sicherheit befasst, sollte auch die rechtlichen Konsequenzen einer fehlerhaften Implementierung im Blick behalten. Erfahren Sie in diesem kostenlosen Praxis-Report, welche KI-Systeme als Hochrisiko eingestuft werden und wie Sie die Einhaltung der EU-KI-Verordnung rechtssicher dokumentieren. Jetzt kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Reaktionen und politische Einordnung
Während OpenAI die Koordination der drei Labore bereits bestätigte, hielten sich Anthropic und Google mit öffentlichen Stellungnahmen zur spezifischen Zusammenarbeit bislang zurück. Ein Sprecher von OpenAI verwies in der letzten Septemberwoche auf aktive Gespräche mit den Partnern. Der Chief Global Affairs Officer von OpenAI, Chris Lehane, erklärte zudem in Washington, dass für die Kooperation kein kartellrechtlicher Waiver erforderlich sei.
Kritik an dem Vorhaben kommt von Wettbewerbern. Aidan Gomez, CEO des KI-Unternehmens Cohere, bezeichnete die Pläne als Versuch einer Kartellbildung. Innerhalb der Branche wird zudem die mögliche Überschneidung mit dem bestehenden US Center for AI Standards and Innovation diskutiert.
Zwar führt diese Behörde bereits Evaluierungen durch, Insider berichten jedoch von einem erheblichen Ressourcenmangel, weshalb die Unterstützung durch ein privates Gremium wie die SAFA von einigen Seiten befürwortet wird.
An der Börse wurde die Nachricht neutral aufgenommen. Branchenanalysten ordnen die Initiative als strategische Positionierung im Vorfeld künftiger Regulierungen ein und sehen darin kein Ereignis, das unmittelbare Auswirkungen auf die Unternehmensbewertungen oder Quartalsergebnisse hat.
Die CEOs von OpenAI und Anthropic, Sam Altman und Dario Amodei, unterstrichen unterdessen bei einem Treffen vor Vertretern der Vereinten Nationen ihre Bereitschaft, Modell-Releases bei erkannten Gefahren zu verlangsamen. Die Pläne zur Gründung der SAFA sind laut Berichten aus der letzten Septemberwoche 2026 noch nicht final abgeschlossen.
