Deepfake-Apps: San Francisco fordert Apple und Google zur Löschung auf
Veröffentlicht: 18.07.2026 um 04:31 Uhr, Redaktion boerse-global.de
Stadtanwalt David Chiu forderte Apple und Google am Freitag auf, 13 „Nudify“-Apps zu entfernen. Die Apps entkleiden Personen auf Fotos digital – ohne deren Einwilligung.
Acht der Apps liefen im Apple App Store, fünf im Google Play Store. Sie tarnen sich oft als harmlose Bildbearbeitung oder Face-Swap-Tools. Chiu wirft den Konzernen vor, durch Gebühren und In-App-Käufe Millionen an diesen Apps verdient zu haben.
Google reagiert, Apple zögert
Google reagierte schnell: Die fünd beanstandeten Android-Apps sind bereits suspendiert. Dazu kamen hunderte weitere ähnliche Anwendungen. Bei Apple ist die Lage unklar. Einige Berichte sprechen von drei entfernten Apps und angekündigten weiteren Maßnahmen. Andere Quellen berichten, Apple habe sich zunächst nicht geäußert.
Die Zahlen sind enorm. Branchenanalysen zufolge verzeichneten die betroffenen Apps zwischen 480 und 705 Millionen Downloads. Der Umsatz liegt zwischen 110 Millionen Euro und 117 Millionen US-Dollar. Forscher fanden bei rund 70 Prozent einer Stichprobe von 155 Face-Swap-Apps ein erhebliches Missbrauchspotenzial.
xAI verklagt Nutzer
Auch Elon Musks KI-Unternehmen xAI geht juristisch vor. Am Donnerstag wurde bekannt, dass das Unternehmen einen Nutzer seines Dienstes „Grok“ verklagt. Terry Wayne Harwood soll die Plattform zur Erstellung von Material zum sexuellen Missbrauch von Kindern (CSAM) genutzt haben.
Harwood war bereits im Februar festgenommen worden. xAI nutzt den Fall, um auf seine Sicherheitsmaßnahmen hinzuweisen. Das Unternehmen sperrte 2026 bereits 52.222 Konten und meldete 73.604 Vorfälle an das National Center for Missing & Exploited Children (NCMEC). Daraus resultierten 244 Festnahmen.
Der Fall xAI verdeutlicht, wie schnell innovative Technologien für illegale Zwecke missbraucht werden können. Welche KI-Systeme nach der neuen Gesetzgebung als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen, klärt dieser kostenlose Report auf. Die EU-KI-Verordnung verstehen: Jetzt Gratis-Leitfaden sichern
Deutschland reguliert KI-Suchmaschinen
Auch in Deutschland steigt der Druck. Die Kommission für Zulassung und Aufsicht (ZAK) der deutschen Medienanstalten stufte KI-Suchmaschinen wie Google AI Overviews und Perplexity als Inhalteanbieter ein. Das Haftungsprivileg des Digital Services Act (DSA) entfällt damit.
Die Begründung: Die KI-Dienste fassen journalistische Inhalte direkt zusammen, statt auf die Ursprungsseiten zu verlinken. Sie verdrängen damit klassische Quellen.
Deepfakes für die Polizei?
Gleichzeitig diskutiert die Politik neue Einsatzmöglichkeiten. Das Justizministerium in Nordrhein-Westfalen erwägt, KI-generierte Deepfakes für polizeiliche Ermittlungen auszuweiten. Bislang ist das nur im Bereich Kinderpornografie erlaubt.
Justizminister Limbach zeigt sich offen für eine Gesetzesänderung. Mehrere Fraktionen im Landtag äußerten jedoch Skepsis. Die rechtlichen Rahmenbedingungen seien noch unklar.
Da die Politik bereits über neue Einsatzgebiete und schärfere Regeln für künstliche Intelligenz berät, stehen viele Firmen vor rechtlicher Unsicherheit. Dieser kostenlose Download verschafft Ihnen den nötigen Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen – zum Gratis-E-Book
Gericht: KI-Bild verletzt kein Urheberrecht
Bereits im April befasste sich das Oberlandesgericht Düsseldorf mit KI-Bildbearbeitung. Ein KI-generiertes Bild eines Hundes unter Wasser verletze kein Urheberrecht, so das Gericht. Voraussetzung: Nur das Motiv wurde übernommen, nicht die konkrete gestalterische Ausarbeitung.
Eine freie Benutzung im Sinne einer neuen Schöpfungshöhe liege nicht vor. Die notwendige menschliche Gestaltungstiefe fehle.
Die steigende Relevanz von KI zeigt sich auch bei den Sozialgerichten in Rheinland-Pfalz. Dort stieg die Zahl KI-generierter Klageschriften im Jahr 2025 um 20 Prozent.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
