Nudify-Apps: San Francisco fordert Apple und Google zum Handeln auf
Veröffentlicht am: 19.07.2026 um 16:13 Uhr | Redaktion boerse-global.de
Der Stadtanwalt von San Francisco, David Chiu, fordert Apple und Google auf, KI-Apps zu löschen, die ohne Einwilligung Nacktbilder erstellen. Die Behörde wirft den Konzernen vor, fast ein Jahr lang von diesen sogenannten „Nudify-Apps“ profitiert zu haben – obwohl deren Funktionen gegen kalifornisches Recht verstoßen.
Acht Apps im Visier der Justiz
Die Aufforderung vom 17. Juli richtete sich gegen insgesamt acht Anwendungen. Sie sind darauf spezialisiert, bekleidete Personen auf Fotos digital zu entkleiden. Diese Deepfake-Inhalte entstehen meist ohne Zustimmung der Betroffenen. Nach Angaben der Staatsanwaltschaft verletzen die Dienste das kalifornische Deepfake-Gesetz, das die Verbreitung solcher Inhalte untersagt.
Die Plattformbetreiber reagierten bereits. Apple entfernte drei der beanstandeten Apps und kündigte die zugehörigen Entwicklerkonten. Google sperrte fünf entsprechende Anwendungen im Play Store. Die Unternehmen haben nun 28 Tage Zeit, umfassend zu reagieren und weitere Maßnahmen darzulegen. Bei Nichteinhaltung drohen zivilrechtliche Strafen.
Der Fall der „Nudify-Apps“ zeigt deutlich, wie schnell KI-Anwendungen mit geltendem Recht kollidieren können. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Risikoklassen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Welle der Gegenwehr gegen KI-Missbrauch
Die Maßnahme ist Teil einer breiteren Entwicklung. Behörden und Unternehmen gehen verstärkt gegen den Missbrauch von KI-Werkzeugen zur Erzeugung pornografischen Materials vor.
Erst kürzlich ging xAI rechtlich gegen einen Nutzer vor, der das KI-Modell Grok zur Generierung sexueller Deepfakes verwendet haben soll. Berichten zufolge wurden zehntausende Konten suspendiert. Auch Meta deaktivierte die Funktion „Muse Image“ kurz nach der Einführung. Das Tool hatte KI-Bilder auf Basis öffentlicher Instagram-Profile ermöglicht – und löste heftigen Widerstand von Anti-Exploitations-Gruppen aus.
Da Aufsichtsbehörden die Verantwortlichkeit für KI-Inhalte zunehmend verschärfen, müssen Firmen ihre rechtlichen Pflichten genau kennen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen, um rechtssicher zu agieren. Kostenlosen Report zur KI-Verordnung anfordern
Plattformen in der Verantwortung
Die Debatte um die Verantwortlichkeit von App-Store-Betreibern verschärft sich. KI-Modelle werden immer leistungsfähiger, die Kosten für die Generierung sinken – und die Sorge vor gesellschaftlichem Missbrauch wächst.
Juristen weisen darauf hin, dass die Durchsetzung von Verboten komplex bleibt, weil ständig neue Anwendungen in die Stores drängen. Die Initiative aus San Francisco zeigt jedoch: Aufsichtsbehörden nehmen die Plattformbetreiber zunehmend für die Inhalte in die Pflicht, an deren Bereitstellung sie finanziell beteiligt sind. Neben dem Schutz der Persönlichkeitsrechte geht es auch um den Schutz Minderjähriger – ein Thema, das zuletzt auch durch strengere Vorgaben für KI-Begleiter in China an regulatorischer Bedeutung gewann.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf- oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
