KI-Betrug: Chatbots erzielen 46% Erfolgsquote gegen 18% bei Menschen

Eine aktuelle Untersuchung von vier Universitäten kommt zu dem Ergebnis, dass automatisierte Chatbots auf Basis Künstlicher Intelligenz (KI) bei speziellen Betrugsmaschen signifikant erfolgreicher agieren als menschliche Akteure. Die in einer Studie auf der Plattform arXiv veröffentlichte Analyse zeigt, dass KI-Systeme insbesondere beim sogenannten Pig-Butchering-Betrug eine deutlich höhere psychologische Wirkung auf potenzielle Opfer erzielen.

KI übertrifft menschliche Erfolgsraten deutlich

In der durchgeführten Untersuchung zeigten die Forscher auf, dass die Erfolgswahrscheinlichkeit der KI-gesteuerten Chatbots bei 46 Prozent lag. Im Vergleich dazu folgten lediglich 18 Prozent der Teilnehmer den Aufforderungen menschlicher Betrüger. Dieser signifikante Unterschied verdeutlicht die Effektivität, mit der automatisierte Systeme Vertrauen aufbauen und Manipulationen durchführen können.

Ein wesentlicher Faktor für diesen Erfolg scheint das erzeugte Vertrauensverhältnis zu sein. Laut den Studienergebnissen vertrauten die Teilnehmer der Künstlichen Intelligenz in hohem Maße und richteten rund 80 Prozent ihrer gesamten Nachrichten an das KI-System.

Die Forscher beobachteten, dass die Probanden bereitwilliger auf die Interaktionen der automatisierten Profile eingingen als auf die der menschlichen Vergleichsgruppe. Die Studie, über die unter anderem das Portal vice.com berichtete, unterstreicht damit das wachsende Risiko durch hochgradig personalisierte und skalierbare Social-Engineering-Angriffe.

Wer sich gegen solche hochmodernen Manipulationsversuche und Datendiebstahl wappnen möchte, findet in diesem kostenlosen Report eine effektive Lösung. Erfahren Sie, wie Sie Passkeys bei großen Diensten einrichten und Hackern durch passwortloses Einloggen keine Chance mehr lassen. Kostenlosen Report zu sicheren Passkeys jetzt herunterladen

Parallele Bedrohungen durch täuschend echte Phishing-Kampagnen

Neben den Erkenntnissen aus der akademischen Forschung weisen aktuelle Vorfälle auf der Social-Media-Plattform X auf eine generelle Professionalisierung von Online-Betrugsmethoden hin.

In den letzten Monaten wurden vermehrt Phishing-Kampagnen beobachtet, bei denen Angreifer offizielle Login-Warnungen der Plattform nahezu identisch imitieren. Diese gefälschten Benachrichtigungen sind laut Berichten pixelgenau nachgebaut, was eine Unterscheidung von legitimen Systemnachrichten für Nutzer erheblich erschwert.

Ein Experte des Sicherheitsunternehmens Keeper Security warnte bereits Ende Juli vor der hohen Qualität dieser Imitationen. Die Strategie der Angreifer ziele darauf ab, Nutzer durch vermeintliche Sicherheitsrisiken zur Preisgabe ihrer Zugangsdaten zu bewegen.

Allein in Deutschland werden pro Quartal rund 4,7 Millionen Online-Konten gehackt – oft durch täuschend echte Phishing-Angriffe. Dieser Gratis-Ratgeber erklärt Ihnen die Technologie, die klassische Passwörter ablöst und Ihre Konten bei Amazon, WhatsApp & Co. endlich wirksam schützt. Hier gratis nachlesen: So funktionieren Passkeys

Empfehlungen für Unternehmen und Nutzer

Angesichts der steigenden Qualität automatisierter und imitierter Angriffe betonen Sicherheitsverantwortliche die Bedeutung präventiver Maßnahmen. Die Plattform X rät ihren Nutzern dazu, grundsätzlich keine Links in E-Mails zu klicken, die zur Anmeldung auffordern. Stattdessen sollten Anwender die offizielle App oder die Website direkt über den Browser öffnen, um den Kontostatus zu prüfen.

Zudem wird dringend davor gewarnt, Passwörter oder sensible Kontoinformationen per E-Mail zu teilen, da legitime Dienste solche Informationen niemals auf diesem Weg abfragen. Experten raten dazu, die Sensibilisierung für KI-gestützte Manipulationsversuche zu schärfen, da die herkömmlichen Merkmale von Betrugsversuchen, wie fehlerhafte Sprache oder unnatürliche Gesprächsverläufe, durch den Einsatz moderner Sprachmodelle zunehmend verschwinden.