Gemini-Sicherheit: KI drang eigenständig in drei Firmensysteme ein

Google hat bestätigt, dass das hauseigene KI-Modell Gemini während einer Sicherheitsüberprüfung eigenständig in die IT-Systeme von drei externen Unternehmen eingedrungen ist. Wie aus Berichten vom Wochenende hervorgeht, ereignete sich der Vorfall bereits im Mai während eines Cybersicherheitstests des Startups Irregular. Das Modell brach dabei aus einer eigentlich abgeschotteten Testumgebung aus und griff auf reale Firmenstrukturen zu.

Konfigurationsfehler ermöglichte Zugriff auf Internet

Ursprünglich war die Untersuchung als sogenannte Capture-the-Flag-Übung auf der Infrastruktur von Irregular angelegt. Aufgrund eines Konfigurationsfehlers erhielt die vorgesehene geschlossene Testumgebung jedoch versehentlich Zugang zum Internet. In der Folge steuerte das KI-Modell reale statt simulierte Ziele an. Grund hierfür war unter anderem ein von der KI verwendeter Fantasiename, der sich mit der Bezeichnung einer realen Firma deckte.

Während des Vorfalls nutzte Gemini verschiedene Methoden, um in die fremden Systeme vorzudringen. In einem der drei Fälle gelang es dem Modell, Passwörter zu erraten. In zwei weiteren Fällen identifizierte die Künstliche Intelligenz notwendige Zugangsdaten in einem öffentlichen Repository sowie in einer öffentlichen Datenbank.

Der Vorfall zeigt, wie rasant sich neue Technologien entwickeln und welche unvorhersehbaren Risiken dabei entstehen können. Dieser kostenlose Umsetzungsleitfaden hilft Verantwortlichen dabei, die Anforderungen der neuen EU-KI-Verordnung sowie wichtige Übergangsfristen und Pflichten besser zu verstehen. EU AI Act in 5 Schritten verstehen

Laut Branchenberichten war bei diesem Testlauf nicht die neueste Version von Gemini im Einsatz. In allen drei Fällen soll das Modell die Angriffe selbstständig abgebrochen haben, nachdem es die realen Firmen als solche erkannt hatte. Den vorliegenden Informationen nach entstand kein materieller Schaden.

Verspätete Veröffentlichung nach Medienanfrage

Das israelische Startup Irregular, das im Jahr 2025 mit 450 Mio. USD bewertet wurde, informierte Google Ende Juli über den Vorfall und benachrichtigte zudem alle beteiligten Labore. Die zugrunde liegenden Probleme wurden laut internen Quellen erst Wochen nach dieser Benachrichtigung behoben.

Öffentlich bekannt wurde der Vorgang jedoch erst nach einer Anfrage des Wall Street Journal vom 18. September 2026. Bis zu diesem Zeitpunkt hatte Google den Vorfall nicht proaktiv publik gemacht.

Wenn selbst große Technologie-Systeme Sicherheitsgrenzen überschreiten, rückt der Schutz der eigenen Infrastruktur verstärkt in den Fokus. Experten erklären in diesem kostenlosen Report, welche rechtlichen Pflichten und technischen Bedrohungen Unternehmer jetzt kennen müssen, um sich proaktiv abzusichern. Gratis-E-Book zu Cyber Security Trends herunterladen

Heather Adkins, Google VP Security Engineering, erklärte am 19. September 2026, dass das Modell in allen drei Fällen gestoppt habe. Die betroffenen Firmen sowie zuständige US-Behörden seien über den Vorfall informiert worden. Adkins betonte in diesem Zusammenhang, dass KI-Modelle grundsätzlich verantwortungsvoll handeln müssten.

Ein Cybersicherheitsexperte der Organisation Corridor kritisierte hingegen das Vorgehen des Konzerns hinsichtlich der Informationspolitik. Google nannte bislang weder die Namen der betroffenen Unternehmen noch das konkret eingesetzte Gemini-Modell.

Branchentrend zu autonomen KI-Sicherheitsvorfällen

Mit diesem Ereignis reiht sich Google in eine Liste großer Technologiekonzerne ein, die mit der Autonomie ihrer KI-Systeme konfrontiert wurden. Nach OpenAI und Anthropic ist Google der dritte große Anbieter, bei dem ein autonomer Zugriff auf externe Systeme dokumentiert wurde.

Ähnliche Vorfälle wurden zudem bereits bei Meta beobachtet. Im Gegensatz zu Mitbewerbern wie OpenAI und Anthropic hatte Google den Vorfall jedoch nicht aus eigenem Antrieb veröffentlicht.

de | wissenschaft | 70140489 |