KI-Sicherheit: NCSC fordert Maßnahmen bis 31. Juli 2026

Sicherheitsforscher haben neue Methoden identifiziert, mit denen Kriminelle ChatGPT für Malware-Attacken und Phishing-Kampagnen missbrauchen. Die am 29. Mai veröffentlichten Berichte zeigen, wie Angreifer offizielle OpenAI-Funktionen umgehen, um traditionelle Sicherheitsfilter zu überlisten.

Angreifer nutzen immer raffiniertere Methoden und KI-Tools, um Sicherheitsbarrieren zu umgehen und Unternehmen gezielt zu attackieren. Dieser kostenlose Report klärt darüber auf, welche neuen Cyberrisiken und rechtlichen Pflichten Unternehmer jetzt unbedingt kennen müssen. Neue KI-Gesetze und Cyberrisiken jetzt entdecken

Der LLMShare-Trick: Gefälschte Ausfälle als Einfallstor

Die Sicherheitsfirma Push Security entdeckte eine Kampagne namens „LLMShare", die legitime ChatGPT-Freigabelinks für Malware-Verteilung nutzt. Die Angreifer schalten Google-Anzeigen für Suchbegriffe wie „ChatGPT-Download" und leiten Nutzer auf offizielle URLs unter chatgpt.com/s/ weiter.

Da diese Links auf eine echte OpenAI-Domain führen, passieren sie häufig Sicherheitsplattformen und E-Mail-Filter unbemerkt. Klickt ein Nutzer darauf, erscheint eine Seite mit einer gefälschten OpenAI-Ausfallmeldung. Angeblich wegen hoher Auslastung wird der Nutzer aufgefordert, eine Desktop-Anwendung herunterzuladen.

Der Download-Link führt zu einer externen Seite, die Malware für Windows und macOS verteilt. Tests bestätigten: Die Windows-Version enthält virtuelle Maschinen-Prüfungen zur Analyse-Umgehung, die macOS-Version installiert den Odyssey Stealer – eine Software zum Abgreifen sensibler Daten.

ChatGPhish: Wenn ChatGPT zum Phishing-Werkzeug wird

Parallel dazu enthüllte der Forscher Andi Ahmeti eine Schwachstelle namens „ChatGPhish". Sie nutzt aus, dass ChatGPT nicht zwischen eigenen Anweisungen und externer Markdown-Formatierung unterscheiden kann.

Ob CEO-Fraud oder manipulierte KI-Inhalte – Hacker nutzen gezielt psychologische Schwachstellen aus, um sensible Unternehmensdaten abzugreifen. Das kostenlose Anti-Phishing-Paket zeigt Ihnen in 4 Schritten, wie Sie Ihr Unternehmen effektiv gegen diese modernen Angriffsmethoden absichern. Kostenloses Anti-Phishing-Paket herunterladen

Bittet ein Nutzer ChatGPT, eine Webseite mit versteckten Anweisungen zusammenzufassen, kann der Chatbot getäuscht werden, schädliche Elemente darzustellen. Angreifer betten versteckte Markdown-Befehle ein, die falsche Sicherheitswarnungen, Phishing-Links oder QR-Codes im Chat-Interface anzeigen. QR-Codes sind besonders effektiv, da sie desktopbasierte URL-Filter umgehen.

OpenAI wurde Berichten zufolge bereits am 29. April über den Fehler informiert. Ob ein permanenter Fix existiert, bleibt unklar. Sicherheitsexperten empfehlen, alle KI-Ausgaben grundsätzlich als nicht vertrauenswürdig zu behandeln.

GREYVIBE: Russische Gruppe setzt systematisch auf KI

Der Sicherheitsanbieter WithSecure dokumentierte die Aktivitäten der russisch verbundenen Gruppe GREYVIBE, die seit August 2025 aktiv ist. Die Gruppe integriert KI-Tools wie ChatGPT, Gemini und Ideogram AI systematisch in ihre gesamte Angriffskette – mit Fokus auf militärische, staatliche und zivile Ziele in der Ukraine.

GREYVIBE nutzt die KI, um überzeugende Spear-Phishing-Köder zu erstellen und Code für Malware wie LegionRelay, PhantomRelay und die Android-Spyware FallSpy zu schreiben. Auch die Kommando-und-Kontroll-Infrastruktur wurde mit KI aufgebaut.

Trotz dieser ausgeklügelten Methoden machte die Gruppe operative Fehler: Sie nutzte öffentliche Plattformen zum Hosten von Malware und verwendete offensichtliche Dateinamen wie „letsrollboyos". Analysten sehen sowohl Merkmale staatlich geförderter Aktivitäten als auch Verbindungen zur organisierten Cyberkriminalität, einschließlich Verbindungen zur TrickBot-Gruppe.

Jagd auf Claude-Nutzer: SEO-Vergiftung als neue Waffe

Der Trend, KI-Marken als Köder zu nutzen, beschränkt sich nicht auf ChatGPT. Die Sicherheitsfirma Cyderes Howler Cell berichtete von einer Kampagne, die Nutzer der KI „Claude Code" ins Visier nimmt. Die Angreifer setzen auf SEO-Vergiftung: Sie locken Opfer auf eine gefälschte Website, wo sie zur Ausführung eines Befehls aufgefordert werden. Dies löst eine mehrstufige Infektion aus, die schließlich einen .NET-basierten Datendieb installiert. Die gestohlenen Browser-Zugangsdaten landen auf einem Server in Russland.

Ein weiterer Bericht von Barracuda vom 28. Mai zeigt: Im April 2026 stieg die Zahl erfolgreicher schädlicher Microsoft-365-Anmeldungen aus typischerweise risikoarmen Ländern wie Großbritannien und den USA um 25 Prozent. Die Angreifer setzen zunehmend auf KI-generierte Köder und dateilose Malware.

Britische und EU-Behörden reagieren mit neuen Regeln

Die zunehmende Waffenisierung von KI hat regulatorische Konsequenzen. Das britische National Cyber Security Centre (NCSC) erließ am 27. Mai eine Direktive: Organisationen müssen bis zum 31. Juli 2026 Maßnahmen zur Ausgabebereinigung und Sandboxing für KI-Systeme implementieren.

Die Europäische Union plant ähnliche Sicherheitsvorgaben bis zum 1. September 2026. Die EU-Kommission erwägt zudem, KI-gestützte Malware künftig als Hochrisiko-Anwendung einzustufen – ein Schritt, der die wachsende Schnittstelle zwischen künstlicher Intelligenz und Cyber-Spionage adressieren soll.

de | wissenschaft | 69446599 |