Anthropic gründet Sicherheits-Institut inmitten von Pentagon-Streit

KI-Entwickler Anthropic bündelt seine Sicherheitsforschung in einem neuen Institut, während ein Konflikt mit dem US-Verteidigungsministerium eskaliert. Das Anthropic Institute soll gesellschaftliche und wirtschaftliche Folgen der KI erforschen – und zugleich als Gegenentwurf zu militrischen Nutzungsszenarien dienen.

Die Gründung erfolgt in einer turbulenten Phase. Das Unternehmen befindet sich in einem offenen Streit mit dem US-Verteidigungsministerium, das Anthropics Technologie aus sensiblen Systemen verbannen will. Grund ist die Weigerung des Unternehmens, seine Modelle für autonome Waffensysteme freizugeben. Mit dem neuen Institut unterstreicht Anthropic nun öffentlich sein Bekenntnis zu ethischer KI – und baut gleichzeitig seine Lobbyarbeit in Washington aus.

Während Anthropic neue Sicherheitsmaßstäbe setzt, verschärfen sich auch die gesetzlichen Anforderungen an künstliche Intelligenz durch neue Regulierungen. Dieser kostenlose Leitfaden zeigt Ihnen kompakt, wie Sie die Anforderungen der EU-KI-Verordnung in Ihrem Unternehmen rechtssicher umsetzen. EU-KI-Verordnung: Jetzt kostenloses E-Book sichern

Ein Thinktank für KI-Sicherheit und Gesellschaftsfragen

Das Institut vereint drei bisherige Forschungsabteilungen unter einem Dach: Das Frontier Red Team sucht nach Sicherheitslücken in KI-Modellen, die Gruppe für gesellschaftliche Auswirkungen analysiert, wie Menschen mit KI-Agenten interagieren, und die Wirtschaftsforschung untersucht Folgen für den Arbeitsmarkt. Geleitet wird das Institut von Mitgründer Jack Clark.

Um die Expertise zu stärken, holt Anthropic prominente externe Forscher an Bord. Dazu gehören der ehemalige Google-DeepMind-Direktor Matt Botvinick und die Ökonomin Zoë Hitzig. Ein Schwerpunkt wird sein, wie KI die globale Wirtschaft grundlegend verändern könnte – und welche Risiken damit verbunden sind.

Reaktion auf beschleunigte KI-Entwicklung und interne Kritik

Die Gründung ist eine direkte Antwort auf die rasant fortschreitende KI-Entwicklung. Anthropic warnt in einem Blogbeitrag, dass Systeme mit intellektuellen Fähigkeiten von Nobelpreisträgern schon 2026 Realität werden könnten. Die Zeit, um Gesellschaft und Wirtschaft darauf vorzubereiten, werde immer knapper.

Zugleich reagiert das Unternehmen auf interne Kritik. Erst vor wenigen Wochen trat der ehemalige KI-Sicherheitsexperte Mrinank Sharma aus Sorge über globale Verwundbarkeiten zurück. Das neue Institut soll mit hoher Transparenz genau diese Ängste adressieren und unbequeme Fragen zu systemischen Risiken öffentlich diskutieren.

Ausbau der Lobbyarbeit und internationale Expansion

Parallel zum Institut baut Anthropic seine politische Arbeit massiv aus. Sarah Heck übernimmt als neue Leiterin für Public Policy eine aggressivere Rolle in der Gesetzgebungsdebatte. Im Frühjahr eröffnet das Unternehmen zudem ein erstes Büro in Washington, D.C., um Politiker direkt über die Technologie aufzuklären.

Der Fokus auf vertrauenswürdige KI treibt auch die internationale Expansion voran. Am 13. März kündigte Anthropic an, seinen Standort in Dublin, Irland, deutlich auszubauen und bis 2027 weitere 200 Jobs zu schaffen. Europäische Unternehmen fragten verstärkt nach KI mit strengen Sicherheitsgarantien – was perfekt zur Mission des neuen Instituts passe, so das Unternehmen.

Die rasante Entwicklung von KI-Systemen bringt nicht nur regulatorische Fragen, sondern auch neue technologische Angriffsflächen für Unternehmen mit sich. Erfahren Sie in diesem Experten-Report, wie Sie Ihre IT-Infrastruktur effektiv gegen moderne Bedrohungen schützen, ohne Ihr Budget zu sprengen. Kostenloses Cyber-Security E-Book herunterladen

Hintergrund: Der Konflikt mit dem Pentagon

Die Timing der Institutsgründung ist kein Zufall. Das US-Verteidigungsministerium stufte Anthropic am 5. März 2026 offiziell als Risiko für die Lieferkette ein und ordnete den Abzug seiner Technologie aus nationalen Sicherheitssystemen binnen 180 Tagen an. Anthropic reagierte mit zwei Klagen wegen illegaler Vergeltungsmaßnahmen.

Während Konkurrenten wie OpenAI neue Verträge mit dem Verteidigungssektor abschließen, setzt Anthropic mit dem Institut auf eine klare ideologische Gegenposition. Branchenbeobachter sehen darin einen Versuch, Unternehmenskunden und internationale Regulierer zu beruhigen: Das Unternehmen bleibe seinen ethischen Grundsätzen treu – selbst um den Preis lukrativer Verteidigungsaufträge. Das Institut institutionalisiere damit jene Sicherheitsvorkehrungen, die zum Streit mit dem Pentagon führten.

Einfluss auf die globale KI-Debatte

Künftig will das Anthropic Institute eine zentrale Stimme in der Debatte um KI-Governance werden. Geplant sind umfassende Studien zum künftigen KI-Fortschritt und zur Interaktion autonomer Systeme mit bestehenden Gesetzen.

Für Unternehmen, die Tools wie Claude einführen, werden die Wirtschaftsdaten des Instituts eine wichtige Ressource sein, um mit Arbeitsplatzverlagerungen umzugehen. Die transparenten Bewertungen der KI-Fähigkeiten könnten zudem Wettbewerber zwingen, sich offener mit Sicherheitsstandards auseinanderzusetzen. Der langfristige Erfolg des Instituts wird davon abhängen, ob es theoretische Sicherheitsforschung in praktische, durchsetzbare Standards übersetzen kann – bevor die nächste Generation hochautonomer KI-Modelle den Markt erreicht.

boerse | 68681439 |