Google und Apple dulden gefährliche KI-Nacktbild-Apps in ihren Stores

Eine neue Untersuchung enthüllt: In den offiziellen App-Stores von Google und Apple stehen Dutzende Apps, die mit Künstlicher Intelligenz gefälschte Nacktbilder erstellen. Diese sogenannten „Nudify“-Apps wurden millionenfach heruntergeladen und verstoßen klar gegen die Richtlinien der Tech-Giganten.

Das Tech Transparency Project (TTP) identifizierte diese Woche 55 solcher Anwendungen im Google Play Store und 47 im Apple App Store. Zusammen verzeichneten sie über 700 Millionen Downloads und spülten schätzungsweise 117 Millionen US-Dollar in die Kassen. Die Apps nutzen KI, um aus normalen Fotos täuschend echte Nacktbilder zu generieren – oft ohne Einwilligung der abgebildeten Personen.

Systematisches Versagen bei den Kontrollen

Kritiker werfen Apple und Google vor, von den schädlichen Apps finanziell zu profitieren, anstatt sie konsequent zu entfernen. Zwar reagierten beide Unternehmen auf den Bericht und löschten einige Anwendungen. Ein Großteil der Software bleibt aber verfügbar. Das deutet auf ein systemisches Versagen bei der Durchsetzung der eigenen Sicherheitsrichtlinien hin.

Plattformbetreiber und Entwickler stehen unter erheblichem Druck: Die EU-KI-Verordnung verlangt jetzt Kennzeichnungspflichten, Risikoklassifizierung, ausführliche Dokumentation und klare Übergangsfristen – sonst drohen Bußgelder und Haftungsrisiken. Ein kostenloser Umsetzungsleitfaden fasst die wichtigsten Anforderungen kompakt zusammen, erklärt, welche KI-Systeme als besonders riskant gelten und liefert praktische Checklisten und Vorlagen zur sofortigen Umsetzung. Ideal für Unternehmen und Entwickler, die jetzt rechtssicher handeln müssen. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Besonders alarmierend: Viele dieser Apps sind auch für Minderjährige zugänglich. Das erhöht die Gefahr von digitaler Gewalt, Mobbing und Erpressung erheblich.

So funktionieren die gefährlichen Deepfake-Tools

Die „Nudify“-Apps basieren auf Deepfake-Technologie. Eine KI analysiert hochgeladene Bilder und ersetzt die Kleidung durch realistisch wirkende, komplett gefälschte Nacktheit. Die Tools sind so einfach zu bedienen, dass kaum technisches Wissen nötig ist.

• Die Technologie: Ursprünglich für Film-Effekte entwickelt, wird sie zunehmend missbraucht.
• Die Folgen: Opfer leiden unter Rufschädigung, psychischen Belastungen und Erpressung.
• Die Verbreitung: Die manipulierten Bilder verbreiten sich blitzschnell in sozialen Netzwerken.

Druck auf Plattformen und Gesetzgeber wächst

Der Fall ist Teil eines größeren Problems mit missbräuchlich genutzter KI. Erst kürzlich geriet etwa der KI-Chatbot Grok von Elon Musks Unternehmen xAI in die Kritik. Nutzer missbrauchten ihn zur Erstellung sexualisierter Bilder.

Die Vorfälle erhöhen den Druck auf Politik und Tech-Konzerne. Die Europäische Union hat bereits ein Verfahren gegen die Plattform X (ehemals Twitter) eingeleitet, weil Grok dort integriert ist. Analysten fordern, dass Plattformen stärker für KI-generierte Inhalte haften müssen.

Der Wettlauf zwischen Innovation und Sicherheit

Die Situation zeigt den Konflikt zwischen rasanter KI-Entwicklung und langsamer Regulierung. Bisherige, oft automatisierte Prüfverfahren in App-Stores reichen offenbar nicht aus, um komplexe KI-Bedrohungen zu erkennen.

Sicherheitsexperten fordern nun:
* Verbesserte technische Filter
* Strengere manuelle Überprüfungen
* Eine klare gesetzliche Haftung für Plattformbetreiber

Der Fall könnte als Weckruf dienen, die digitale Produkthaftung zu verschärfen. Unternehmen müssten dann die Sicherheit ihrer Nutzer über kommerzielle Interessen stellen. Für Nutzer wird es immer wichtiger, verdächtige Apps zu melden und sich über den Schutz der eigenen Bilddaten zu informieren.

PS: Die EU-KI-Verordnung ist seit August 2024 in Kraft – viele Anbieter und Plattformen stehen vor offenen Fragen zu Fristen, Kennzeichnung und Dokumentationspflichten. Ein kompakter Leitfaden erklärt praxisnah, wie Sie KI-Systeme richtig klassifizieren, welche Nachweise Behörden erwarten und welche Schritte jetzt Priorität haben, um Haftungsrisiken zu reduzieren. Kostenfreier Download mit klaren Handlungsempfehlungen für Anbieter und Betreiber. Kostenlosen Leitfaden zur KI-Verordnung anfordern