Anthropic fordert externe Prüfer in KI-Laboren: Sicherheit statt Selbstkontrolle
Veröffentlicht am: 18.09.2026 um 02:43 Uhr | Redaktion boerse-global.de
Die Führungsebene des KI-Unternehmens Anthropic hat sich für eine stärkere staatliche Aufsicht bei der Entwicklung künstlicher Intelligenz ausgesprochen.
Auf dem POLITICO Decoded Summit in Washington erklärte die Politikchefin des Unternehmens, Sarah Heck, dass KI-Firmen ihre Sicherheit nicht länger auf freiwilliger Basis regeln könnten. Sie zog dabei den Vergleich heran, dass Unternehmen nicht ihre eigenen Hausaufgaben kontrollieren dürften. Stattdessen solle die Regierung den notwendigen Rahmen setzen.
Vorschlag für dauerhafte externe Prüfer
Parallel zu den Äußerungen in Washington veröffentlichte CEO Dario Amodei einen umfangreichen Essay mit dem Titel „We Must Pace the Frontier“. In dem rund 3.800 Wörter umfassenden Text schlägt Amodei konkrete Sicherheitsmaßnahmen vor.
Kernpunkt ist die dauerhafte Stationierung externer Sicherheitsprüfer direkt in den Entwicklungslaboren. Diese Experten, etwa von Organisationen wie METR oder Redwood Research, sollen einen beispiellosen Zugang erhalten, der dem eines internen Risikoteams entspricht.
Laut dem Vorschlag müssten die Prüfer Einblick in Checkpoints, die Trainingsumgebungen nach dem Training sowie in Protokolle erhalten. Ein wesentlicher Aspekt des Plans sieht vor, dass die Kontrolleure ihre Befunde ohne redaktionelle Einflussnahme oder Zensur durch das Unternehmen veröffentlichen dürfen.
Amodei warnte in seinem Text zudem vor den Risiken fehlgeleiteter KI-Agenten, die innerhalb der nächsten 6 bis 12 Monate in der Lage sein könnten, die Kontrolle über weite Teile des Internets zu übernehmen.
Wer sich mit der zunehmenden Regulierung von KI-Systemen befasst, benötigt einen klaren Überblick über die neuen gesetzlichen Leitplanken. Dieser kostenlose Leitfaden hilft Unternehmen dabei, die Anforderungen des EU AI Acts rechtssicher umzusetzen. EU AI Act in 5 Schritten verstehen
Politische Hürden und legislativer Rahmen
Trotz der Forderung nach mehr Aufsicht stößt Anthropic in Washington auch auf Widerstand. Amodei regte in seinem Essay eine begrenzte Ausnahme von den Kartellrechtsregeln an, um Sicherheitsgespräche zwischen den Branchenakteuren zu ermöglichen. Führende US-Politiker wie die Senatoren Hawley und Cruz sowie der FTC-Vorsitzende Ferguson lehnten dies jedoch ab.
Auch bei konkreten Gesetzesvorhaben zeigt sich eine differenzierte Haltung. Während Anthropic den FRONTIER Act der Abgeordneten Obernolte und Trahan, der Audits durch Drittanbieter und Meldungen von Sicherheitsvorfällen vorsieht, noch nicht offiziell unterstützt hat, bestätigte Sarah Heck den regelmäßigen Austausch mit dem Weißen Haus und dem Kongress. Zudem befürwortet das Unternehmen Chip-Beschränkungen gegenüber China.
Interne Warnungen und internationale Expansion
Die Sicherheitsdebatte wird auch innerhalb des Unternehmens intensiv geführt. Im September trat der Forscher Jacob Coxon aufgrund von Sorgen vor einer möglichen Auslöschung durch KI zurück. Der Anthropic-Wissenschaftler Evan Hubinger bezifferte das Risiko eines solchen Extinktionsereignisses zuletzt auf über 10 Prozent.
Auf einem KI-Gipfel in Schottland nahm das Unternehmen zudem an Diskussionen über existenzielle Gefahren teil, bei denen auch Vertreter der britischen Regierung und anderer Branchengrößen anwesend waren.
Die neuen Regeln für künstliche Intelligenz stellen viele Organisationen vor komplexe Dokumentationspflichten und Risikobewertungen. Erfahren Sie in diesem Experten-Report, welche KI-Systeme als Hochrisiko eingestuft werden und welche Schritte jetzt konkret nötig sind. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Trotz dieser Warnungen treibt Anthropic seine internationale Präsenz voran. In Madrid wurde eine spanische Tochtergesellschaft unter der Leitung von Cristina Pitarch eröffnet. Pitarch betonte, dass eine verlangsamung der Entwicklung die Chance biete, Prozesse korrekt aufzusetzen.
Interne Zahlen des Unternehmens belegen eine hohe Dynamik: In Spanien liege die KI-Nutzung um das 2,7-Fache über der Erwartung. Das Modell Claude schreibe dort mittlerweile mehr als 80 Prozent des Codes, während die Ingenieure des Unternehmens achtmal mehr Code publizierten als noch im Vorjahr.
Während Anthropic die Einbettung externer Prüfer forciert, haben Wettbewerber wie Meta oder Google DeepMind solchen Maßnahmen bislang nicht zugestimmt. In Kalifornien und auf EU-Ebene durch den AI Act werden derweil bereits rechtliche Grundlagen für unabhängige Evaluierungen und Verifikationsorganisationen geschaffen.
