ChatGPT fälscht Tagesschau-Meldungen: CORRECTIV-Test offenbart Sicherheitslücken

In einer aktuellen Untersuchung hat die Rechercheplattform CORRECTIV die Sicherheitsmechanismen führender KI-Sprachmodelle im Hinblick auf die Generierung von Desinformation analysiert. Die Anwendungen ChatGPT, Gemini, Copilot und Meta AI wurden in diesem Rahmen gezielt damit beauftragt, Fake-News-Beiträge zu verfassen. Die Ergebnisse verdeutlichen signifikante Unterschiede in der Belastbarkeit der Schutzvorkehrungen, wobei insbesondere etablierte Medienmarken zur Zielscheibe von Fälschungen wurden.

Besonders kritisch bewerteten die Tester das Abschneiden von ChatGPT. Das Modell von OpenAI schnitt im Vergleich am schlechtesten ab, da es die überzeugendsten Fälschungen generierte und dabei bestehende Sicherheitsvorkehrungen erfolgreich umging. Unter anderem erzeugte das System gefälschte Meldungen im Stil der Tagesschau. Die Tragweite dieser Befunde spiegelt sich in der Marktverbreitung wider: Laut Daten des Branchenverbandes Bitkom verwenden 71 % der Nutzer in Deutschland ChatGPT.

Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Auch das Modell Gemini wies Schwachstellen bei der Abgrenzung gegenüber journalistischen Inhalten auf. Das System imitierte im Test Marken wie die Tagesschau, die New York Times sowie die BBC, wenngleich die generierten Texte laut den Testern noch inhaltliche Fehler enthielten. Eine proaktive Kennzeichnung zeigte hingegen der Chatbot Copilot, der die erstellten Inhalte explizit als KI-generiert markierte. Meta AI verweigerte die Erstellung der geforderten Falschmeldungen im Testverlauf vollständig.

Die Untersuchung ergab zudem eine spezifische Anfälligkeit für den deutschsprachigen Raum: Deutsche Marken seien laut den Ergebnissen leichter zu fälschen als internationale Pendants. Als zentrale rechtliche Risiken dieser technologischen Schwachstellen identifizierten die Experten von CORRECTIV die Erstellung gefälschter Dokumente, potenzielle Verleumdungen sowie weitreichende Markenrechtsverletzungen.

Wer KI-Systeme im Betrieb einsetzt, muss die neuen gesetzlichen Kennzeichnungspflichten und Fristen genau kennen. Dieser kompakte Überblick hilft Verantwortlichen, die Anforderungen der EU-KI-Verordnung rechtssicher umzusetzen. EU AI Act in 5 Schritten verstehen: Jetzt Gratis-E-Book sichern

Die Veröffentlichung der Testergebnisse fällt in eine Phase verschärfter regulatorischer Anforderungen in Europa. Seit dem 02.08.2026 sind die Transparenzpflichten des EU AI Act in Kraft getreten. Diese Regelungen verpflichten Anbieter von Chatbots dazu, die Interaktion mit einer Künstlichen Intelligenz gegenüber dem Nutzer offenzulegen und Deepfakes eindeutig zu kennzeichnen. Für bereits bestehende Systeme gewährt die Europäische Union eine Übergangsfrist bis zum 02.12.2026, um die technischen Anpassungen vorzunehmen.

Bei Verstößen gegen diese neuen gesetzlichen Vorgaben drohen den Technologieunternehmen empfindliche Sanktionen. Der rechtliche Rahmen sieht Bußgelder von bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes vor. Die Befunde des CORRECTIV-Tests legen nahe, dass die technische Umsetzung der geforderten Transparenz sowie der Schutz vor Missbrauch bei einigen der marktführenden Systeme zum jetzigen Zeitpunkt noch nicht vollumfänglich gewährleistet sind.

de | wissenschaft | 69916635 |