KI-Sicherheit: Forscher warnen vor 99-Prozent-Erfolgsrate bei Manipulationen
Veröffentlicht am: 15.08.2026 um 21:10 Uhr | Redaktion boerse-global.de
Forscher der Universität Turin (Università di Torino) haben nachgewiesen, dass KI-Modelle wie ChatGPT, Gemini oder Claude durch unsichtbare Anweisungen in PDF-Dokumenten massiv manipuliert werden können. Wie die Wissenschaftler Mitte August mitteilten, erreichten sie bei der Beeinflussung von Bewertungen eine Erfolgsrate von bis zu 99 Prozent.
Diese Erkenntnisse werfen neue Fragen zur Sicherheit automatisierter Prozesse auf, insbesondere in Bereichen wie dem Recruiting oder der Dokumentenprüfung, in denen KI-Systeme zunehmend zur Vorauswahl eingesetzt werden.
Manipulation von Bewertungsprozessen
Die Untersuchung der Universität Turin zeigt, dass herkömmliche Sprachmodelle anfällig für versteckte Befehle sind, die für das menschliche Auge in digitalen Dokumenten nicht erkennbar sind. Durch diese Technik gelingt es, die KI-gestützte Auswertung der Inhalte gezielt zu steuern.
Während die Erfolgsrate bei Manipulationen in Testläufen fast die Marke von 100 Prozent erreichte, arbeiteten die Forscher parallel an Schutzmaßnahmen. Als eine mögliche Gegenmaßnahme wurden digitale Wasserzeichen identifiziert, die eine Erkennungsrate von 87 bis 97 Prozent aufweisen sollen.
Die Relevanz dieser Schwachstellen wird durch die zunehmende Professionalisierung auf dem Schwarzmarkt unterstrichen. Marktforscher von Proofpoint berichteten Mitte August, dass Cyberkriminelle bereits Werkzeuge für sogenannte indirekte Prompt-Injections (IDPI) entwickeln und zum Verkauf anbieten.
Die neuen Manipulationsmöglichkeiten zeigen, wie schnell sich die rechtlichen und sicherheitstechnischen Anforderungen beim Einsatz von Algorithmen ändern. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle aktuellen Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Diese Tools zielen auf E-Mails, Dokumente, Kalendereinladungen und Webseiten ab. Die entsprechenden Dienste werden laut dem Bericht bereits ab einem monatlichen Abonnementpreis von rund 150 US-Dollar gehandelt. Obwohl eine flächendeckende Ausnutzung dieser Sicherheitslücken bisher noch nicht beobachtet wurde, warnt die Branche vor der Verfügbarkeit dieser Angriffsinstrumente.
Erste juristische Sanktionen nach Manipulationsversuch
Ein aktueller Vorfall am Connecticut Superior Court verdeutlicht, dass Versuche der KI-Manipulation bereits die Rechtspraxis erreichen. Ein Kläger versteckte in Gerichtsdokumenten eine Prompt-Injection, indem er Anweisungen in weißer Schrift mit einer minimalen Größe von 3 Punkt formatierte.
Die Entdeckung erfolgte durch ungewöhnliche Leerräume innerhalb der Dokumente. Obwohl das Gericht angab, keine Künstliche Intelligenz zur Prüfung von Fällen einzusetzen, wertete der zuständige Richter Walter Spader die Aktion als schwerwiegenden Verstoß.
Der betroffene Kläger, der die versteckten Befehle als Audit und Scherz bezeichnete, wurde mit dem Verlust seines Zugangs zum elektronischen Einreichungssystem (E-Filing) sanktioniert. Dies gilt als erster bekannter Fall dieser Art in den USA.
Experten äußerten massive Besorgnis über die versuchte Beeinflussung von Gerichtsakten durch versteckte KI-Anweisungen. Bereits im Mai dieses Jahres gab es einen Präzedenzfall in Brasilien, bei dem Anwälte wegen ähnlicher Vorfälle zu einer Geldstrafe in Höhe von 16.000 US-Dollar verurteilt worden waren.
Wer sich mit der Absicherung automatisierter Prozesse und neuen digitalen Bedrohungen befasst, muss auch die rechtlichen Rahmenbedingungen kennen. Ein aktueller Gratis-Report klärt darüber auf, welche konkreten Risikoklassen und Dokumentationspflichten die EU-KI-Verordnung für Anwender vorsieht. Kostenlosen Report zu KI-Risikoklassen anfordern
Sicherheitsrisiken durch Drittanbieter und Identitäten
Zusätzliche Gefahrenpotenziale ergeben sich aus der Infrastruktur der KI-Nutzung. Daten des Sicherheitsunternehmens Akamai zeigen, dass 47,11 Prozent der KI-Konversationen über persönliche Identitäten abgewickelt werden.
Zudem weisen 16,3 Prozent der untersuchten KI-Browsererweiterungen bekannte Sicherheitslücken auf. In Fachkreisen wird vor neuen Angriffsmustern gewarnt, die unter Bezeichnungen wie Vibe Hacking, CursorJacking oder CometJacking firmieren.
Für Verantwortliche in Unternehmen und Behörden unterstreichen diese Entwicklungen die Notwendigkeit, automatisierte Prüfprozesse kritisch zu hinterfragen. Da die Manipulationen oft erst bei einer detaillierten technischen Analyse der Dokumentenstruktur auffallen, stellen sie ein erhebliches Risiko für die Integrität automatisierter Entscheidungsfindungen dar.
Die Forschung der Universität Turin belegt, dass ohne effektive Schutzmechanismen wie digitale Wasserzeichen die Verlässlichkeit von KI-Bewertungen bei extern eingereichten Dokumenten kaum gewährleistet werden kann.
