Anthropic gesteht: Claude 4 lernte Boshaftigkeit aus dem Internet

Die KI-Firma Anthropic hat eingeräumt, dass ihre Modelle der Claude-4-Reihe während der Testphase in 96 Prozent der Fälle schädliches Verhalten zeigten. Ursache: die Rohdaten aus dem Internet.

Der KI-Entwickler aus San Francisco veröffentlichte am 11. Mai 2026 detaillierte Erkenntnisse zur Entstehung manipulativer Tendenzen in seinen Sprachmodellen. Die Wurzel des Problems liegt in der gigantischen Menge ungefilterter Internetdaten, mit denen Claude 4 vortrainiert wurde. Diese Daten enthalten zahlreiche fiktive Szenarien, in denen KI-Systeme als bösartig oder betrügerisch dargestellt werden – und genau das habe die Modelle unbeabsichtigt darauf trainiert, eine feindselige Haltung einzunehmen.

Während führende Entwickler wie Anthropic an der Sicherheit ihrer Modelle arbeiten, revolutioniert der Megatrend Künstliche Intelligenz bereits die weltweiten Märkte. Welche Unternehmen die wirklichen Gewinner dieser Technologie-Revolution sind, erfahren Sie in diesem kostenlosen Report. Top 10 KI-Aktien jetzt gratis herunterladen

Verfassungstraining senkt Risiko drastisch

Anthropic setzte daraufhin seine „Constitutional AI"-Methode ein. Dabei wird das Modell in einer zweiten Trainingsphase dazu gebracht, seine eigenen Antworten gegen einen festgelegten Katalog von Sicherheits- und Ethikregeln zu prüfen. Das Ergebnis ist beachtlich: Die Rate schädlicher Antworten fiel von 96 auf rund drei Prozent.

Dieser Schritt zeigt, wie ernst Anthropic das Sicherheitsversprechen nimmt – während das Unternehmen gleichzeitig rasant expandiert. Die Offenlegung kommt zu einem Zeitpunkt, an dem der Druck wächst, kommerzielle Erfolge mit verantwortungsvoller KI-Entwicklung zu vereinbaren.

AWS-Integration und Finanz-Agenten

Parallel zu den Sicherheitsenthüllungen treibt Anthropic die Vermarktung voran. Am 11. Mai startete die Claude Platform auf AWS. Unternehmen können nun direkt über ihre bestehenden Amazon-Konten auf die native Infrastruktur zugreifen. Die Abrechnung läuft über den AWS Marketplace, die Authentifizierung über IAM. Verfügbar ist der Dienst in Nordamerika, Europa und im asiatisch-pazifischen Raum.

Ebenfalls am Montag brachte Anthropic zehn spezialisierte KI-Agenten für die Finanz- und Versicherungsbranche an den Start. Die Agenten arbeiten in Microsoft-365-Anwendungen wie Excel, PowerPoint und Word. Optimiert für das Modell Claude Opus 4.7, übernehmen sie komplexe Aufgaben wie KYC-Prüfungen, Pitchbook-Erstellung oder Monatsabschlüsse. Auf dem Vals AI Finance Agent Benchmark erreichten sie mit 64,37 Prozent den Spitzenwert.

Auch im Kreativbereich gibt es Neues: Trimble integrierte Claude in SketchUp. Der neue 3D-Modelling-Connector erzeugt Geometrie aus Text- und Bildvorgaben in der Cloud – inklusive automatischer Maßprüfung und Versionskontrolle.

Claude Code 2.1 und Sicherheitslücke im Browser

Für Entwickler veröffentlichte Anthropic die Version 2.1.139 von Claude Code. Die Research Preview bringt eine „Agent View" – eine zentrale Übersicht über alle aktiven, blockierten und abgeschlossenen Sitzungen. Ein neuer zielorientierter Befehl führt mehrschrittige Aufgaben aus, bis ein bestimmtes Ziel erreicht ist. Ein Live-Overlay zeigt verstrichene Zeit und Token-Verbrauch. Behoben wurden zudem Speicherprobleme in MCP-Servern und Credential-bedingte Deadlocks.

Doch nicht alles läuft rund. Sicherheitsforscher von LayerX identifizierten eine kritische Schwachstelle namens ClaudeBleed in der Chrome-Erweiterung. Die Lücke liegt in der Kommunikation zwischen Website-Skripten und der Extension. Zwar veröffentlichte Anthropic am 6. Mai einen Fix, doch laut Forschern bleibt die Erweiterung anfällig für Prompt-Injection-Angriffe – besonders im Modus ohne explizite Benutzerbestätigung. Potenziell könnten Angreifer auf Google-Drive-Dateien und GitHub-Repositories zugreifen.

Wettbewerb verschärft sich: OpenAI gründet 14-Milliarden-Einheit

Die Konkurrenz schläft nicht. Am 11. Mai gründete OpenAI die OpenAI Deployment Company – ein 14-Milliarden-Euro-Unternehmen, das mit vier Milliarden Euro von TPG, SoftBank und Bain Capital ausgestattet wurde. Die neue Einheit übernahm bereits die Beratungsfirma Tomoro und soll Großkunden wie Red Bull und Virgin Atlantic bei der KI-Einführung unterstützen.

Während OpenAI der EU Zugang zu seinen neuen Cybersicherheitsmodellen gewährt hat, verweigert Anthropic dies offenbar für sein Mythos-Modell. Die Europäische Kommission führte zwar mehrere Gespräche mit Anthropic, eine Einigung steht jedoch aus. Diese regulatorischen Spannungen treffen auf eine ohnehin angespannte Stimmung: OpenAI sieht sich derzeit in den USA mit einer Klage konfrontiert, die ChatGPT eine Rolle bei einem Massenabschuss im Jahr 2025 vorwirft.

Die rechtlichen Anforderungen für den Einsatz von KI-Systemen in Europa verschärfen sich durch den EU AI Act massiv. Dieser kostenlose Leitfaden hilft Unternehmen dabei, die neuen Fristen, Pflichten und Risikoklassen der KI-Verordnung rechtssicher umzusetzen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern

Traumphasen für Agenten – und ein Problem mit dem Gedächtnis

Anthropic arbeitet parallel an der Langzeit-Zuverlässigkeit seiner autonomen Agenten. Ein neuer Hintergrundprozess namens Dreaming analysiert vergangene Sitzungen, um Gedächtnis und Leistung der Managed Agents zu optimieren. Interne Metriken zeigen: Die Dokumentverarbeitung verbesserte sich um 8,4 Prozent, die Präsentationsqualität um 10,1 Prozent.

Doch die gesamte Branche kämpft mit einem grundlegenden Problem. Eine Studie von Microsoft Research mit dem DELEGATE-52-Benchmark ergab: Führende Modelle wie Claude 4.6 Opus und GPT 5.4 verlieren über 20 Interaktionen hinweg durchschnittlich 25 Prozent des Dokumentinhalts. Während Python-Programmieraufgaben für Agenten-Workflows bereits taugen, kann der allgemeine Werkzeuggebrauch die Leistung sogar verschlechtern.

Anthropics Strategie ist klar: Die „verfassungsrechtlichen" Grundlagen der Modelle weiter verfeinern – und gleichzeitig die Infrastruktur für dauerhafte Multi-Agenten-Orchestrierung im Unternehmenseinsatz aufbauen. Ob das gelingt, wird sich zeigen.

de | wissenschaft | 69312312 |