KI-Phishing: Bösartige Seiten entstehen direkt im Browser

Sicherheitsforscher berichten über eine neue Generation von Phishing-Angriffen, bei denen bösartige Webseiten nicht mehr nur auf externen Servern gehostet, sondern mittels KI-Methoden direkt innerhalb des Webbrowsers des Opfers erstellt werden. Diese Entwicklung verleiht den Attacken eine deutlich höhere Effektivität und erschwert die herkömmliche Erkennung durch Sicherheitssoftware.

Automatisierung durch agentische KI-Systeme

Die Google Threat Intelligence Group (GTIG) dokumentiert in aktuellen Analysen den verstärkten Einsatz sogenannter agentischer KI durch Angreifer. In einem untersuchten Fall nutzte eine finanziell motivierte Gruppe ein autonomes Multi-Agenten-Framework, um eine Cloud-Infrastruktur zu kompromittieren.

Dieses System war in der Lage, eine komplexe Kampagne in weniger als 6 Stunden zu planen, Schwachstellen autonom zu scannen und massenhaft Zugangsdaten zu entwenden.

Ein von den Forschern entdeckter Kontrollserver mit der Bezeichnung „Recon“ verwaltete dabei 23.800 sensible Datensätze (Secrets). Die Beobachtungen der GTIG zeigen, dass KI-Agenten verschiedene Angriffsphasen mittlerweile parallel koordinieren und auftretende Fehler im Programmablauf selbstständig beheben können.

Vollautonome Angriffe auf bisher unbekannte Sicherheitslücken, sogenannte Zero-Day-Attacken, durch solche Frameworks wurden im Feld bisher jedoch nicht beobachtet.

GPT-6 Astra erreicht kritische Stufe bei Schwachstellensuche

Parallel dazu meldet OpenAI Fortschritte bei der Evaluierung eigener Modelle im Rahmen des sogenannten Preparedness Frameworks. Das Modell GPT-6 Astra hat demnach die „kritische Stufe“ erreicht, da es in der Lage ist, eigenständig Zero-Day-Exploits zu identifizieren. In Testumgebungen entdeckte und nutzte das Modell erfolgreich unbekannte Schwachstellen; zwei dieser Lücken befinden sich aktuell im Prozess der verantwortungsvollen Offenlegung.

Hinsichtlich der Sicherheit gegen Manipulationen zeigt das neue Modell eine Robustheit von 99,79 % gegenüber Prompt Injection, was eine Steigerung im Vergleich zum Vorgängermodell Sol darstellt, welches 96,23 % erreichte. Gleichzeitig nahm die Beobachtbarkeit der Modellaktivität ab: In 9,6 % der Fälle erkannte GPT-6 Astra, dass es sich in einer Evaluierungsumgebung befand.

Angesichts immer komplexerer Angriffsszenarien und neuer gesetzlicher Anforderungen stehen Unternehmen vor großen Herausforderungen. Dieses kostenlose E-Book liefert IT-Verantwortlichen und Geschäftsführern wertvolle Einblicke, wie man Sicherheitslücken schließt und proaktiv auf Cyberrisiken reagiert. Experten-E-Book zur Cyber Security jetzt kostenlos herunterladen

Massive Kampagnen und Umgehung von Sicherheitsmechanismen

Die Professionalisierung der Angriffe spiegelt sich auch in der Schlagkraft spezialisierter Phishing-Dienste wider. Der Dienst „BigBear 2.0“ ermöglichte die Umgehung der Multi-Faktor-Authentifizierung (MFA) bei 258 Organisationen. Dabei wurden 5.137 Zugangsdaten aus Microsoft-365-Konten gestohlen, wobei es in 474 Fällen zu einer vollständigen MFA-Umgehung kam. Analysten von CloudSEK identifizierten in diesem Zusammenhang 42 VPS-Server und Opfer-IPs in über 40 Ländern.

Microsoft registriert zudem eine Welle von Angriffen unter Verwendung von „ASCII Smuggling“. Hierbei werden unsichtbare Unicode-Zeichen genutzt, um Sicherheitsfilter zu täuschen. Die Erkennungsraten stiegen dabei massiv an: Von 21.000 betroffenen E-Mails zu Beginn der Kampagne im Februar auf Spitzenwerte von über 2,3 Millionen Nachrichten pro Tag im weiteren Verlauf.

Zielgerichtete Attacken auf Entwickler und Unternehmen

Weitere Bedrohungen gehen von Gruppen wie TeamPCP aus, die Schadsoftware wie SANDCLOCK und DUSTMAKER verteilen. DUSTMAKER zielt dabei spezifisch auf KI-Coding-Assistenten ab, indem Techniken wie Workspace-Vergiftung und Prompt Injection eingesetzt werden.

Zudem nutzen Angreifer zunehmend legitime Google-Dienste für mehrstufige Weiterleitungen, um Nutzer auf Phishing-Seiten zu führen und teilweise Fernzugriffs-Software wie ScreenConnect zu installieren.

Wer sich mit dem Schutz vor modernen Phishing-Angriffen und psychologischen Manipulationstaktiken befasst, benötigt praxiserprobte Strategien. Ein kostenloser Leitfaden zeigt Firmen aus verschiedenen Sektoren in vier Schritten auf, wie sie solche Attacken stoppen können, bevor sie entstehen. Kostenloses Anti-Phishing-Paket für Unternehmen anfordern

Regionale Stellen wie die IHK Oberfranken Bayreuth warnen aktuell vor der Phishing-Welle „Kali365“, die gezielt Microsoft-365-Nutzer anspricht. Experten raten Unternehmen, Konfigurationen wie den Device-Code-Flow einzuschränken, um das Risiko einer MFA-Umgehung zu minimieren.

Dass die Gefahr auch für Privatpersonen real bleibt, zeigt ein Vorfall Anfang September, bei dem ein Senior 7.000 Euro durch eine Kombination aus einer gefälschten Elster-Webseite und Telefonbetrug verlor.

de | wissenschaft | 70076061 |