Apple und Google entfernen Dutzende KI-„Nudify“-Apps

Apple und Google haben Dutzende Apps für nicht-einvernehmliche KI-Nacktbilder aus ihren Stores verbannt. Die Aktion folgt einem Enthüllungsbericht und zeigt die wachsende Herausforderung bei der Kontrolle von KI-Missbrauch.

Enthüllung führt zu koordinierter Löschaktion

Auslöser war ein Bericht der Aufsichtsorganisation Tech Transparency Project vom 27. Januar. Die Untersuchung identifizierte Dutzende Apps, die darauf ausgelegt sind, Personen auf Fotos digital „auszuziehen“ und so Deepfake-Nacktbilder ohne Einwilligung zu erzeugen. Allein mit Suchbegriffen wie „nudify“ oder „undress“ fanden die Prüfer 47 solcher Anwendungen im Apple App Store und 55 im Google Play Store. Nach der Benachrichtigung entfernte Google 31 und Apple 25 der beanstandeten Apps. Die einfache Auffindbarkeit wirft ernste Fragen zur Wirksamkeit der Plattform-Kontrollen auf.

KI senkt die Hemmschwelle für digitalen Missbrauch

Die „Nudify“-Apps sind Teil eines besorgniserregenden Trends: Generative KI macht die Erstellung nicht-einvernehmlicher intimer Bilder (NCII) massentauglich. Diese Form des digitalen Missbrauchs hat schwerwiegende reale Folgen. Die Apps tarnten sich oft als harmlose „Kunstgeneratoren“ oder „Foto-Editoren“, was automatisierte Prüfsysteme in die Irre führte. Laut dem Bericht wurden sie hundertmillionenfach heruntergeladen und dürften über 100 Millionen Euro Umsatz generiert haben – wovon Apple und Google eine beträchtliche Provision kassierten.

KI-getriebene Schadsoftware und manipulative Apps bedrohen inzwischen Nutzer und Unternehmen – Studien sprechen von hundertmillionenfachen Downloads und hohen Umsätzen, die Missbrauch ermöglichen. Unser kostenloses E-Book fasst aktuelle Cyber-Security-Trends zusammen, erklärt, wie Angreifer KI nutzen und welche Schutzmaßnahmen wirklich wirken. Praxisnahe Empfehlungen helfen, Angriffe früh zu erkennen und Ihre Organisation abzusichern. Der Leitfaden enthält Checklisten und konkrete Schritte für den Alltag. Jetzt kostenlosen Cyber-Security-Report herunterladen

KI treibt auch klassische Cyberkriminalität an

Das Problem geht weit über Bildmanipulation hinaus. Sicherheitsforscher beobachten einen alarmierenden Anstieg von Malware, die KI-Werkzeuge nutzt. Bereits am 26. Januar warnten Berichte vor staatlich unterstützten Gruppen, die KI zur schnellen Entwicklung neuer Bedrohungen einsetzen. Ein konkretes Beispiel: Die Sicherheitsfirma Dr. Web meldete am 23. Januar eine neue Android-Malware. Sie nutzt Googles eigene Open-Source-Machine-Learning-Bibliothek, um Werbebetrug zu automatisieren. Die Schadsoftware analysiert den Bildschirm, erkennt Werbeanzeigen und klickt sie automatisch an – und passt sich sogar wechselnden Layouts an.

App-Stores im permanenten Kontrollkampf

Die jüngste Säuberungsaktion unterstreicht die immense Herausforderung für Apple und Google. Trotz ausgefeilter Prüfprotokolle finden böswillige Akteure ständig neue Wege, Sicherheitsvorkehrungen zu umgehen. Dass die Löschung durch einen externen Watchdog angestoßen wurde und nicht intern entdeckt wurde, deutet auf Lücken in der proaktiven Erkennung hin – besonders bei heiklen KI-Anwendungen.

Der finanzielle Anreiz ist ein wesentlicher Treiber. Bei Millionenumsätzen sind Entwickler hochmotiviert, Schlupflöcher zu finden und zu nutzen. Das Umsatzbeteiligungsmodell der App-Stores bedeutet, dass die Plattformen selbst an diesen schädlichen Apps mitverdienen, bis sie entdeckt und entfernt werden.

Ausblick: Der KI-Wettlauf in der Cybersicherheit

Die Vorfälle signalisieren eine Eskalation im Katz-und-Maus-Spiel zwischen Plattform-Betreibern und schädlichen Entwicklern. Da KI-Technologie immer zugänglicher wird, dürfte ihre Integration in bösartige Software zunehmen. Die Bedrohungen werden dynamischer, schwerer zu erkennen und schädlicher.

Der Druck auf Apple und Google wächst, ihre Überprüfungsprozesse zu verschärfen. Erforderlich sind fortschrittlichere, KI-gestützte Analysen, strengere Prüfungen für Apps mit bestimmten KI-Funktionen und schnellere Reaktionen auf Meldungen. Für Verbraucher gilt: Nur Apps aus offiziellen Quellen laden, Berechtigungen genau prüfen und bei Anwendungen misstrauisch sein, die allzu invasive oder ethisch fragwürdige Funktionen versprechen. Die digitale Landschaft bleibt ein umkämpfter Raum.

PS: Sie laden Apps aufs Smartphone? Dann lohnt sich ein Blick auf aktuelle Schutzstrategien: Dieses kostenfreie E-Book erklärt, wie Sie mit einfachen Maßnahmen Phishing, Bot‑Malware und KI‑basierte Angriffe abwehren und Ihre Systeme sicherer machen. Es richtet sich an Unternehmen und IT‑Verantwortliche und enthält konkrete Handlungsempfehlungen, die ohne große Investitionen umsetzbar sind. Ideal auch für Privatnutzer, die ihr Smartphone vor missbräuchlichen Apps schützen wollen. Jetzt kostenloses Cyber-Security-E-Book sichern