KI-Detektoren: Nur 85% Trefferquote statt versprochener 99,98%

Doch die Zuverlässigkeit der Tools ist fragwürdig – mit teils gravierenden Folgen.

Große Lücken zwischen Werbung und Realität

Tools wie Pangram, GPTZero, Copyleaks oder Scribbr sind an jeder fünften Hochschule im Einsatz. Sie sollen prüfen, ob Studierende ihre Arbeiten selbst geschrieben haben. Pangram wirbt mit einer Trefferquote von 99,98 Prozent – die Realität sieht anders aus. Schätzungen zufolge erkennen die Systeme nur rund 85 Prozent der KI-Texte korrekt. 15 Prozent bleiben unentdeckt.

Während die Erkennung von KI-Inhalten im Alltag oft schwierig ist, bietet die Technologie enorme Chancen zur Zeitersparnis. Dieser kostenlose Ratgeber zeigt Ihnen, wie Sie die KI für Ihre tägliche Organisation und Planung effektiv einsetzen können. Urlaub planen, Sprachen lernen, Zeit sparen: So erledigt ChatGPT Ihre Alltagsaufgaben in Sekunden

Pangram-CEO Max Spero räumt ein, dass man KI oft auch ohne technische Hilfsmittel erkennt: Die Modelle agieren in ihrer Wortwahl häufig sehr gleichförmig. Gleichzeitig warnt sein Unternehmen davor, allein auf Detektionsergebnisse zu vertrauen. Eine Cornell-Studie zeigt zudem, wie anfällig KI-Systeme für Manipulation sind: Ein einziger strategisch platzierter Satz von 13 Wörtern reichte aus, um KI-Agenten in bis zu 51 Prozent der Fälle zur Übernahme von Falschinformationen zu bewegen.

Falsch-positive Treffer treffen auch Autisten und ADHS-Betroffene

Ein besonders heikles Problem: KI-Detektoren markieren Texte von neurodivergenten Menschen überdurchschnittlich oft fälschlich als KI-generiert. Menschen mit Autismus oder ADHS schreiben häufig sehr präzise und mit gleichmäßigem Rhythmus – Merkmale, die die Software fälschlich als maschinell interpretiert.

In den USA führte das bereits zu juristischen Auseinandersetzungen. Im Januar 2026 hob ein Gericht in New York einen Betrugsvorwurf gegen einen Studenten auf – wegen Verfahrensfehlern bei der Nutzung der Detektionssoftware. Rechtsexperten raten Bildungseinrichtungen, die Ergebnisse nur als Indiz zu werten und immer durch ein menschliches Urteil zu ergänzen.

Medienbranche in der Zwickmühle

Der „Tagesspiegel“ pausierte im Juni 2026 die Zusammenarbeit mit einem ehemaligen Chefredakteur. Ihm wurde vorgeworfen, rund 50 KI-generierte Texte ungekennzeichnet veröffentlicht zu haben. Während Verlage wie Springer offensiv mit der Technologie experimentieren und KI-Kommentare veröffentlichen, warnt Medienethiker Heesen von der Universität Tübingen vor den Gefahren für die öffentliche Meinungsbildung. Demokratie sei auf echte menschliche Stimmen angewiesen.

Auch im Literaturbetrieb sorgt die Unsicherheit für Debatten. Im Juni 2026 stufte die Software Pangram die Kurzgeschichte eines Preisträgers der „Harper’s Bazaar UK Short Story Competition“ als vollständig KI-generiert ein. Die Frage drängt sich auf: Müssen Wettbewerbe künftig die menschliche Autorschaft strikt prüfen – oder die Nutzung von KI-Werkzeugen explizit erlauben?

Gerichte ziehen Grenzen für KI-Inhalte

Das Landgericht München I entschied Ende Mai 2026 (Az. 26 O 869/26), dass Betreiber von KI-Systemen für generierte Falschaussagen haften können. Im konkreten Fall untersagte das Gericht Google, KI-Zusammenfassungen mit unwahren Behauptungen über ein Verlagshaus zu verbreiten. Die Zusammenfassungen wertete das Gericht als eigenen Inhalt des Anbieters.

Die rechtliche Unsicherheit beim Einsatz von KI-Systemen wächst – die neue EU-KI-Verordnung stellt Unternehmen nun vor klare Pflichten. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle relevanten Fristen, Risikoklassen und Dokumentationspflichten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

EU-AI-Act bringt neue Kennzeichnungspflicht

Ab dem 2. August 2026 verpflichtet Artikel 50 der EU-Verordnung Anbieter zur Kennzeichnung von KI-Inhalten. Die Maßnahme reagiert auf ein wachsendes Problem: Laut einer Bitkom-Studie aus dem Jahr 2026 stoßen 91 Prozent der Deutschen im Internet auf Falschinformationen. Nur 34 Prozent trauen sich zu, KI-erstellte Deepfakes sicher zu identifizieren.

Zur Bekämpfung der Desinformation fördert das Bundesministerium für Bildung und Forschung bis 2029 insgesamt elf Forschungsprojekte mit 20 Millionen Euro.

de | wissenschaft | 69593852 |