KI-Zitate: Grok-3 führt 154 von 200 geprüften Quellen ins Leere
Veröffentlicht am: 25.10.2026 um 19:46 Uhr | Redaktion boerse-global.de
Aktuelle Untersuchungen belegen, dass Quellenangaben und Zitate von gängigen KI-Chatbots die generierten Aussagen häufig weder stützen noch verifizieren. Anstatt verlässliche Nachweise zu liefern, verweisen Sprachmodelle in zahlreichen Fällen auf fehlerhafte Webadressen oder erfinden bibliografische Angaben vollständig.
Die Zuverlässigkeit von Quellenverweisen in Sprachmodellen steht vermehrt im Fokus der Forschung. Laut Untersuchungen des Tow Center enthielten über 50 Prozent der Antworten der Systeme Gemini und Grok-3 erfundene oder nicht funktionierende Webadressen. Bei Grok-3 führten 154 von 200 geprüften Zitaten direkt auf Fehlerseiten.
Die sogenannte Charlotin-Datenbank erfasst diesbezüglich bereits 2.217 dokumentierte Fälle fehlerhafter Referenzierungen. Bei einer Überprüfung der BBC sank der Anteil von Antworten mit erheblichen Problemen in einer zweiten Testrunde von 51 Prozent auf 37 Prozent, verblieb damit jedoch weiterhin auf einem hohen Niveau.
Akademischer Sektor von Phantomzitaten betroffen
Die Problematik fehlerhafter Quellenangaben reicht bis in den wissenschaftlichen Publikationsbetrieb. Der Wissenschaftsverlag Taylor & Francis prüft derzeit einen Fachaufsatz mit dem Titel „Z-Library and Full-Text Access“, der im Oktober 2026 im Fachjournal New Review of Academic Librarianship von zwei Bibliothekaren nigerianischer Universitäten veröffentlicht wurde. Anlass für die Untersuchung ist der Hinweis, dass mindestens 10 von 44 angegebenen Referenzen nicht auffindbar sind.
Unter den beanstandeten Quellen befindet sich ein angeblicher Beitrag der Plattform TorrentFreak aus dem Jahr 2021, der laut dem Portal überhaupt nicht existiert; der angegebene Link leitet lediglich auf die Startseite weiter.
Wer sich mit der Zuverlässigkeit von KI-Systemen befasst, sollte auch die rechtlichen Rahmenbedingungen kennen. Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Zudem fehlen ein angeblicher Fachartikel von Gervais aus dem Jahr 2019 in der Zeitschrift Harvard JOLT sowie ein für denselben Zeitraum geführter Artikel von Tenopir in der Publikation College & Research Libraries in den jeweiligen Ausgaben.
Den Angaben der Autoren zufolge kamen bei der Texterstellung die Werkzeuge Consensus AI und ChatGPT zum Einsatz. Die Richtlinien des Verlags gestatten zwar automatisierte Quellenvorschläge, verpflichten die Autoren jedoch zur eigenhändigen Überprüfung und untersagen vollständig KI-generierte Bibliografien.
Bereits eine im Fachjournal Scientific Reports für das Jahr 2023 veröffentlichte Erhebung zeigte die Anfälligkeit älterer Systeme: Demnach erfand GPT-3.5 damals 55 Prozent von 222 untersuchten Referenzen, während der Anteil bei GPT-4 bei 18 Prozent von 414 Referenzen lag.
Der Einsatz künstlicher Intelligenz erfordert nicht nur technisches Verständnis, sondern auch die Einhaltung neuer gesetzlicher Vorgaben. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Neue Ansätze zur automatisierten Überprüfung
Als Reaktion auf die anhaltenden Halluzinationen entwickeln Forschungsgruppen neue Prüfmechanismen. Ein Team um den New Yorker Informatik-Professor Dennis Shasha stellte in der Fachzeitschrift MDPI Information zwei webbasierte Softwaresysteme vor.
Das System „Hallucination Nerd“ überprüft, ob die in einer Antwort angeführte Fachliteratur die jeweilige Behauptung tatsächlich stützt, und ordnet die Zitate in die Kategorien unterstützt, teilweise unterstützt, nicht unterstützt oder widersprüchlich ein. Das Programm wurde mithilfe der Plattform arXiv validiert.
Ein zweites System namens „Protocol Nerd“ zielt auf wissenschaftliche Abläufe ab. Es ermittelt über gezielte Rückfragen passende Versuchsprotokolle und greift dabei auf Datenbanken wie PubMed und Europe PMC zurück. Das Werkzeug ist derzeit für Anwendungen in der Molekularbiologie und Chemie ausgelegt, soll künftig jedoch auch in den Bereichen Psychologie und Ökonomie einsetzbar sein.
