Anthropic warnt: KI-Systeme entwerfen eigene Nachfolger

Der KI-Entwickler Anthropic warnt vor Kontrollverlust und verlangt eine globale Verlangsamung bei den leistungsstärksten Systemen.

In einem Blogbeitrag mit dem Titel „Wenn KI sich selbst erschafft" vom 7. Juni 2026 schlägt das Unternehmen hinter den Claude-Modellen Alarm. Die Rede ist von einem potenziellen Kreislauf der „rekursiven Selbstverbesserung" – Systeme, die ihre eigenen Nachfolger entwerfen. Das Ergebnis: Der Mensch verliert die Kontrolle.

Die Forderung nach einem koordinierten Stopp-Mechanismus kommt zu einem Zeitpunkt, an dem die gesamte Branche unter Druck steht. Die Kluft zwischen Milliardeninvestitionen und tatsächlichen Umsätzen wird immer größer.

Die rasante Entwicklung autonomer Systeme stellt Unternehmen vor massive rechtliche Herausforderungen durch den EU AI Act. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Die Angst vor der autonomen Maschine

Anthropic zeichnet ein düsteres Bild: Die Industrie habe ein „Gaspedal" für die Entwicklung, aber keine funktionierende „Bremse". Das Unternehmen selbst zog die Konsequenzen und veröffentlichte sein neuestes Modell Mythos nicht – aus Sorge vor dessen fortgeschrittenen Hacking-Fähigkeiten.

Interne Untersuchungen zeigen: Über 80 Prozent des eigenen Codes wird bereits von KI-Systemen generiert. Die Rolle menschlicher Entwickler schrumpft rasant.

Unterstützung kommt von der University of Toronto. Forscher präsentierten kürzlich einen KI-gesteuerten Computerwurm, der seine Hacking-Strategien eigenständig anpasst. Für KI-Pionier Geoffrey Hinton ist die Menschheit womöglich nur eine temporäre Phase in der Evolution der Intelligenz.

Die Reaktionen aus der Branche sind gemischt. Während einige Unternehmen eine Verlangsamung befürvorworten, verweist OpenAI auf die Verantwortung demokratischer Regierungen – nicht privater Konzerne.

Börse in Aufruhr: Platzt die KI-Blase?

Der Aufruf trifft auf einen volatilen Markt. Der S&P 500 beendete eine neunwöchige Gewinnserie, der Nasdaq fiel von seinem Allzeithoch. Besonders deutlich: Die Aktie von Broadcom stürzte um 12 Prozent ab, nachdem das Unternehmen eine verhaltene Prognose für KI-Chips abgegeben hatte.

Mit dem Fortschritt der KI steigen auch die Bedrohungen durch automatisierte Cyberangriffe auf Unternehmen drastisch an. Erfahren Sie in diesem Gratis-Report, wie Sie Sicherheitslücken schließen und gleichzeitig die neuen gesetzlichen Anforderungen proaktiv erfüllen. IT-Sicherheit stärken ohne teure Investitionen: So schützen clevere Unternehmer ihre Firma vor Cyberangriffen

Die Zahlen sind atemberaubend. Die großen Tech-Konzerne – Alphabet, Amazon, Microsoft und Meta – planen für 2026 Investitionen zwischen 700 und 725 Milliarden Euro. Analysten von J.P. Morgan rechnen vor: Die Branche bräuchte jährlich rund 650 Milliarden Euro neue Umsätze, um eine Rendite von zehn Prozent zu erzielen. Die tatsächlichen KI-Umsätze liegen aber nur zwischen 50 und 150 Milliarden Euro.

Doch es gibt auch Lichtblicke. Halbleiteraktien wie Samsung und SK Hynix legten in den letzten sechs Monaten um 600 Prozent zu. Firmen wie Hewlett Packard Enterprise und Snowflake meldeten starke Quartalszahlen – von einem Nachlassen der KI-Nachfrage sei keine Spur.

Strengere Regeln und milliardenschwere Börsengänge

Die Politik reagiert. In den USA verlangt ein neuer Erlass eine 30-tägige Vorabprüfung für die leistungsstärksten KI-Modelle. China geht noch weiter und verbietet Entlassungen, die auf KI zurückgeführt werden – ein deutliches Signal zur Steuerung der sozialen Folgen.

Parallel bahnt sich ein historischer Börsenhype an. Drei IPOs stehen bevor: SpaceX, Anthropic und OpenAI – mit einem gemeinsamen Marktwert von geschätzt vier Billionen Euro. SpaceX strebt eine Bewertung von rund 1,8 Billionen Euro an, Anthropic hat vertraulich einen Börsengang mit einem Referenzwert von fast 965 Milliarden Euro eingereicht.

Während die Tech-Riesen an die Börse drängen, beobachten Marktstrategen eine Rotation in defensive Sektoren wie Gesundheitswesen und Finanzen. Nach dem langen Tech-Rallye suchen Anleger offenbar nach einer „kalten Dusche".

de | wissenschaft | 69497878 |