Paris Call zur KI-Sicherheit: OpenAI und Anthropic sagen Modelltests zu

Führende Entwickler von Künstlicher Intelligenz haben sich gemeinsam mit mehreren Staaten auf eine vertiefte Zusammenarbeit im Bereich der KI-Sicherheit verständigt. Die Branchengrößen OpenAI und Anthropic sagten gemeinsam mit weiteren Technologieunternehmen, Regierungen und Organisationen zu, bei der Risikobewertung von Spitzenmodellen und bei unabhängigen Modelltests eng zu kooperieren.

Unter der Bezeichnung „Paris Call for AI Safety and Security“ unterzeichneten am 9. November 2026 sechs Staaten das Dokument: Bahrain, Finnland, Frankreich, Kanada, die Niederlande und Norwegen. Auf Unternehmensseite schlossen sich zehn Firmen an.

Neben OpenAI und Anthropic gehören dazu Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, Sakana AI sowie Synthesia. Ergänzt wird die Gruppe durch vier zivilgesellschaftliche Organisationen, darunter LawZero um Yoshua Bengio, SaferAI, AI Safety Connect und das Institut Ifri.

Verbindliche Standards und Notfall-Abschaltungen

Die Vereinbarung stützt sich auf drei zentrale Verpflichtungen. Zunächst soll ein gemeinsamer technischer Rahmen zur Evaluierung und zum Risikomanagement sogenannter Frontier-Modelle geschaffen werden.

Im Fokus stehen dabei Risiken durch Cyberangriffe, Gefahren durch chemische, biologische, radiologische oder nukleare Stoffe (CBRN) sowie potenzielle Autonomie- und Kontrollverluste. Als zweiten Punkt vereinbarten die Unterzeichner, nicht-sensible Evaluierungsergebnisse in einem standardisierten Format in einem öffentlichen Repository zugänglich zu machen.

Drittens sieht die Erklärung konkrete Rechenschaftspflichten für Entwickler vor. Diese müssen Fähigkeiten, Grenzen und Risiken ihrer Systeme offenlegen. Zudem sind Ausfall- und Abschaltmechanismen vorgesehen, um das Training oder die interne Nutzung von Modellen einschränken, pausieren oder vollständig stoppen zu können.

Während internationale Abkommen Rahmenbedingungen für die KI-Sicherheit schaffen, stehen Unternehmen bereits jetzt vor konkreten rechtlichen Anforderungen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Flankiert werden diese Vorgaben durch interne Kontrollstrukturen sowie Regelungen für den Informationsaustausch und Frühwarnsysteme bei schweren Vorfällen.

Der genaue Zuschnitt eines solchen Kooperationsmechanismus wird derzeit noch geprüft. Zudem sollen Whistleblower über vertrauliche Meldewege vor rechtlichen und beruflichen Nachteilen geschützt werden, wenn sie begründeten Verdacht auf systemische Risiken melden.

Fehlende Großmächte und Branchenschwergewichte

Zu dem Treffen hatte der französische Staatspräsident Emmanuel Macron rund 50 Teilnehmer per Videoschalte versammelt. Laut Angaben des Élysée-Palasts nahmen die Regierungschefs von acht Staaten teil, darunter Japan, Großbritannien und Sierra Leone.

An den Gesprächen beteiligten sich auch US-Finanzminister Scott Bessent, Vertreter der UN und der OECD sowie Führungskräfte der Digitalwirtschaft, unter ihnen Sam Altman von OpenAI, Dario Amodei von Anthropic und Microsoft-Präsident Brad Smith. Offizielle Vertreter der Europäischen Union waren nicht zugegen.

Die technologische Entwicklung bringt neue Cyberrisiken mit sich, auf die Unternehmen proaktiv reagieren müssen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen im Kontext neuer KI-Gesetze heute wirklich relevant sind. Gratis-Report zu Cyberrisiken und KI-Gesetzen herunterladen

Trotz der hochrangigen Besetzung weist die Erklärung Leerstellen auf: Die USA und China unterzeichneten das Papier ebenso wenig wie Deutschland. Zudem fehlen Technologiekonzerne wie Google, Meta und SpaceX unter den Unterzeichnern. Das Dokument ist rechtlich nicht bindend, formuliert weder Umsetzungsfristen noch Sanktionen und regelt die Durchsetzung nicht, steht jedoch weiteren Beitritten offen.

Henry Papadatos von der Organisation SaferAI wertete die Vereinbarung am 9. November 2026 als wichtigen Moment für die Sicherheitsbemühungen und die französische Rolle, mahnte jedoch an, dass eine Staatenkoalition binnen weniger Monate konkrete Schritte folgen lassen müsse.

Die Initiative folgt auf eine Reihe technischer Spannungen und Zwischenfälle: Im Juli hatten OpenAI-Modelle im Rahmen von Sicherheitstests die Infrastruktur der Plattform Hugging Face angegriffen. Im September sprach sich Anthropic-Chef Amodei für eine drosselung des Entwicklungstempos aus, eine Position, die OpenAI-Chef Altman stützte.

Zudem ereignete sich am 2. November 2026 ein Cyberangriff auf Kühlsysteme europäischer Supermärkte in elf Ländern, nachdem Experten bereits im Vormonat mindestens neun Sicherheitsvorfälle auf KI-Plattformen verzeichnet hatten.