KI-Deepfakes in China: Behörde lässt 47.000 Inhalte und 3.961 Konten sperren

Die Cyberspace Administration of China (CAC) geht verschärft gegen die missbräuchliche Nutzung künstlicher Intelligenz zur Nachahmung prominenter Personen vor. Wie aus chinesischen Medienberichten hervorgeht, wurden im Rahmen einer gezielten Aufsichtsaktion mehr als 47.000 rechtswidrige Informationseinheiten entfernt und 3.961 Benutzerkonten auf führenden Online-Plattformen gesperrt.

Die Regulierungsbehörde beanstandete insbesondere die unautorisierte Erstellung von Bild- und Stimmen-Deepfakes, die auf Plattformen wie WeChat, Douyin und Xiaohongshu für kommerzielle Produktwerbung ausgespielt wurden.

Zu den betroffenen Diensten zählen darüber hinaus Kuaishou und Taobao. Die Behörden forderten die Betreibergesellschaften auf, ihrer Kontrollverantwortung nachzukommen und den Missbrauch generativer KI auf ihren Plattformen konsequent zu unterbinden.

Kommerzielle Täuschung und gezielte Desinformation

Das Vorgehen der Behörden umfasst mehrere Fallgruppen. Neben unerlaubter Produktwerbung nutzten Betreiber gefälschte Darstellungen Prominenter zur Steigerung von Reichweiten auf Douyin, Xiaohongshu, Bilibili und Kuaishou. Andere Konten verbreiteten erfundene Krankheitsgeschichten, darunter Falschmeldungen über angebliche Alzheimer-Erkrankungen bekannter Persönlichkeiten auf WeChat. Auf Kuaishou wurden zudem vulgäre KI-Inhalte registriert.

Zu den von den Plattformen gesperrten Accounts gehören unter anderem die WeChat-Konten „Hua**ji“, „Shi**xu“ und „Xiu**8“, die Douyin-Profile „Wei**tian“ und „S**wu“ sowie die Xiaohongshu-Präsenzen „Xiao**C“ und „Wa**kuan“, über die unerlaubt mit KI-Prominenten geworben worden war.

Die rasante Entwicklung von KI-Systemen bringt neue rechtliche Anforderungen mit sich, die für Unternehmen und Plattformbetreiber gleichermaßen relevant sind. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über die aktuellen Regeln, Risikoklassen und Pflichten. EU AI Act in 5 Schritten verstehen

Gegen die Verbreitung von Demenz-Gerüchten sperrte WeChat Profile wie „Shan**hua“ und „Jiu**gu“. Auf Kuaishou wurde das Konto „Kang**“ wegen vulgärer Prominenten-Videos stillgelegt.

Auslöser für das Eingreifen waren wiederholte Vorfälle im Oktober 2026. Am 18. Oktober 2026 machte die Schauspielerin Wu Yue öffentlich, dass das Konto „Huajie Meifu Riji“ unter Verwendung ihrer KI-generierten Identität Einnahmen generierte, woraufhin WeChat das Profil dauerhaft sperrte.

Am 26. Oktober 2026 dementierte der an der Xiamen-Universität tätige Professor Yi Zhongtian Videoberichte über eine angebliche Alzheimer-Diagnose; ein ähnliches Gerücht kursierte über die Schauspielerin Xu Fan.

In Shanxi wurde zudem ein Mann festgenommen, der die taiwanesische Oppositionsführerin Cheng Li-wun per Deepfake für Verkaufslivestreams nachgebildet hatte. Auch das Erscheinungsbild des Schauspielers Jin Dong war zuvor per Face-Swap für Betrugshandlungen an älteren Menschen sowie illegale Geldbeschaffung missbraucht worden.

Niedrige Produktionskosten und lückenhafte Prüfungen

Untersuchungen veranschaulichen die niedrige Einstiegshürde für gefälschte Werbeinhalte. Entsprechende KI-Werbevideos wurden auf Marktplätzen wie Taobao und Xianyu für 100 bis 150 Yuan bei einer Fertigungszeit von rund 30 Minuten angeboten; drei Clips waren für 350 Yuan erhältlich.

Die Anbieter führten Aufträge aus, ohne eine Autorisierung der betroffenen Personen einzufordern. Medienberichten von Nandu zufolge wurden KI-Face-Swap-Pakete bereits für 28 bis 138 Yuan vertrieben.

Wer sich mit den Gefahren moderner Manipulationstechniken und Betrugsmaschen befasst, sollte die Warnzeichen rechtzeitig erkennen können. Dieser kostenlose Ratgeber deckt die häufigsten Tricks auf und zeigt, wie man sich und Angehörige wirksam schützt. Die 10 häufigsten Betrugsmaschen jetzt entdecken

Praxistests zeigten zudem Schwachstellen bei den Prüfmechanismen der Netzwerke: Drei KI-generierte Testvideos – mit Darstellungen einer chinesischen Schauspielerin, eines verstorbenen Prominenten sowie einer ausländischen Darstellerin – passierten die Prüfungen von Douyin, Xiaohongshu, Kuaishou und Video Channels. Die Veröffentlichung gelang sowohl mit als auch ohne Kennzeichnung als KI-Inhalt, teilweise sogar unter Nennung des Klarnamens.

Xiaohongshu selbst entfernte im bisherigen Jahresverlauf 2026 bereits 56.500 Beiträge und sperrte 1.372 Konten im Zusammenhang mit KI-Fälschungen. Ein Rechtsexperte forderte vor diesem Hintergrund den Aufbau verpflichtender Gesichts- und Stimmvergleichsdatenbanken durch die Betreiber.

Die jüngste Intervention reiht sich in die übergeordnete „Qinglang“-Kampagne der CAC ein, in deren Verlauf nach Behördenangaben bereits über 5,61 Millionen illegale Inhalte gelöscht, 49.000 Konten gesperrt sowie rund 2.400 Websites und Anwendungen rechtlich verfolgt wurden.