KI-Sicherheit: Forscher entschlüsseln 315.320 Gedankenprozesse
Veröffentlicht am: 12.08.2026 um 13:53 Uhr | Redaktion boerse-global.de
Einem internationalen Forscherteam ist es gelungen, eine neue Methode zu entwickeln, mit der sich die verschlüsselten internen Gedankenprozesse führender KI-Modelle offenlegen lassen. Die Experten der Universität Tübingen, des Max-Planck-Instituts sowie der Organisationen MATS Research und Snyk identifizierten eine Schwachstelle in den Anwendungsschnittstellen (APIs) von OpenAI, Anthropic und Google. Diese Lücke ermöglichte es, sogenannte Reasoning-Traces – die internen logischen Zwischenschritte einer Künstlichen Intelligenz – bei Systemen wie ChatGPT, Claude und Gemini zu rekonstruieren.
Massive Datenfunde in öffentlichen Protokollen
Die Untersuchung der Sicherheitsforscher verdeutlicht das Ausmaß der potenziellen Gefährdung durch diese Schwachstelle. Bei der Analyse von 6.708 öffentlich zugänglichen Ausgaben von KI-Agenten konnten die Experten insgesamt 315.320 einzelne Gedankenprozesse entschlüsseln. Dabei stießen sie auf eine Vielzahl vertraulicher Informationen, die in den internen Log-Dateien der Modelle verborgen waren.
Insgesamt identifizierte das Team 704 sensible Datensätze. Dazu gehörten unter anderem 62 API-Keys, 33 Passwörter, 24 Access-Tokens sowie 30 E-Mail-Adressen. Ein anderer Teil der Untersuchung bezifferte die Funde auf 367 persönliche Informationen und 182 Zugangsdaten aus öffentlichen Protokollen. Neben diesen sicherheitskritischen Daten förderte die Entschlüsselung auch spezifische interne Fragmente zutage. So enthielt das verborgene Reasoning von ChatGPT etwa den ungewöhnlichen Ausdruck „But marinade“, während das Modell Claude Opus 4.8 im Rahmen seiner internen Logik bereits die korrekte Antwort 60 für eine AIME-Aufgabe (American Invitational Mathematics Examination) bereithielt.
Der Schutz sensibler Unternehmensdaten wird durch neue technologische Schwachstellen und gesetzliche Vorgaben wie den EU AI Act immer komplexer. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Cyberrisiken Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken: Was auf Ihr Unternehmen zukommt
Verdacht auf Modell-Plagiate und geopolitische Spannungen
Die Entdeckung der Schwachstelle hat weitreichende Konsequenzen für die Branche und führt zu Vorwürfen der unrechtmäßigen Nutzung von Modell-Daten. Die Forscher stellten auffällige Ähnlichkeiten zwischen dem chinesischen Modell Kimi K3 des Unternehmens Moonshot AI und den Systemen Claude Opus 4.8 sowie GPT 5.6 Sol fest. Statistische Analysen zeigten eine ungewöhnlich hohe Wahrscheinlichkeit, mit der Kimi K3 die Reasoning-Schritte von Claude Opus 4.8 vorhersagen konnte. Bereits auf ein Fragment von nur einem Prozent des ursprünglichen Reasonings reagierte das chinesische Modell mit stark angepassten Antworten.
Dies nährt den Verdacht der sogenannten Destillation, bei der die internen Denkprozesse eines leistungsfähigeren Modells genutzt werden, um ein anderes Modell zu trainieren. In der Branche wird beobachtet, dass Kimi K3 im Vergleich zu anderen Modellen wie DeepSeek oder Inkling eine deutlich einfachere Extraktion von Reasoning-Daten der westlichen Konkurrenz ermöglichte. Kausale Beweise für eine gezielte Destillation konnten die Forscher jedoch bislang nicht vorlegen.
Angesichts der zunehmenden Spionage- und Hacker-Risiken müssen Firmen ihre IT-Sicherheit heute proaktiv und ohne hohe Investitionen stärken. Ein Gratis-E-Book enthüllt, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen zum Schutz Ihres geistigen Eigentums erfüllen. IT-Sicherheit stärken: So schützen Unternehmer ihre Firma vor Angriffen
Die Angelegenheit hat mittlerweile eine politische Dimension erreicht. Das Weiße Haus, vertreten durch Michael Kratsios, warf Moonshot AI vor, Daten von Anthropics Fable-Modell für die Entwicklung von K3 destilliert und unbefugten Zugang zu beschränkten Servern des Hardware-Herstellers Nvidia erhalten zu haben. Auch Anthropic selbst wandte sich in einem Schreiben an den US-Senatsausschuss für Bankwesen und beschuldigte den chinesischen Konzern Alibaba eines Destillationsangriffs auf Claude-Modelle. Alibaba hat sich zu diesen Vorwürfen bislang nicht geäußert.
Unternehmen schließen die Sicherheitslücke
Die betroffenen Technologiekonzerne OpenAI, Anthropic und Google haben auf die Veröffentlichungen der Forscher reagiert. Den Angaben zufolge wurde die Schwachstelle in den jeweiligen APIs bereits durch entsprechende Patches geschlossen. Experten werten den Vorfall dennoch als Signal dafür, dass die internen Denkprozesse von KI-Modellen zu einem zentralen Streitpunkt im geopolitischen Wettbewerb um technologische Vorherrschaft zwischen den USA und China werden. Die Fähigkeit, das „Reasoning“ von Konkurrenzmodellen abzugreifen, stellt nicht nur ein Sicherheitsrisiko dar, sondern gefährdet auch das geistige Eigentum der Entwickler.
