KI-Sicherheit: Neue Standards gegen Datenlecks und Prompt-Injection
27.06.2026 - 08:22:20 | boerse-global.de
Am 26. Juni stellten führende Unternehmen und Sicherheitsforscher mehrere neue Schutzmechanismen vor, um kritische Schwachstellen in der Interaktion zwischen KI-Agenten und Unternehmensdaten zu schließen. Der Vorstoß kommt zu einem Zeitpunkt, an dem das Vertrauen in automatisierte KI-Sicherheitstests massiv gesunken ist.
Sichere Architekturen für KI-Datenbankzugriff
Eine neue Sicherheitsarchitektur für MCP-Server (Model Context Protocol) wurde entwickelt, damit KI-Agenten sicher auf Unternehmensdatenbanken zugreifen können – ohne öffentliche Ports zu öffnen. Der Ansatz nutzt den Identity-Aware Proxy (IAP) von Google Cloud Platform sowie Remote Stdio, um einen verschlüsselten Tunnel für die KI-Datenbank-Kommunikation zu schaffen. Durch eine mehrstufige Tool-Strategie mit semantischer Suche und Schema-Kontext soll unbefugter Datenzugriff verhindert werden.
Diese Entwicklung ist Teil umfassenderer Bemühungen, das MCP-Protokoll zu verbessern. Eine für Ende Juli erwartete Aktualisierung sieht einen Wechsel zu einem zustandslosen Protokoll vor. Sicherheitsexperten weisen darauf hin, dass dieser Schritt zwar Risiken wie Session-Hijacking eliminiert, aber neue Angriffspunkte wie Workflow-Manipulation und Header-basierte Datenlecks schaffen könnte – was mehr Verantwortung auf die Entwickler verlagert.
Standardisierung von KI-Identität und Autorisierung
Das Unternehmen Proof veröffentlichte am 26. Juni das Protokoll x401 – eine offene, anbieterneutrale Methode zur Identifizierung und Autorisierung von KI-Agenten. Es erlaubt Diensten, spezifische Behauptungen wie Mitgliedschaft oder Alter zu überprüfen, bevor sie Zugriff gewähren.
Das Protokoll ist kompatibel mit x402, einem bestehenden Standard für KI-gesteuerte Zahlungen. Proof plant, x401 an die FIDO Alliance zu übergeben, um eine breite Branchenakzeptanz zu fördern. Dieser Schritt folgt einem Trend zu überprüfbaren KI-Systemen, der sich auch in der Vorstellung von OPAQUE 3.0 auf dem Confidential Computing Summit am 26. Juni zeigte. Der aktualisierte OPAQUE-Standard integriert Post-Quanten-Kryptografie für manipulationssichere Aufzeichnungen des gesamten KI-Lebenszyklus.
Während neue technische Standards die Sicherheit von KI-Systemen verbessern, schafft die EU mit dem AI Act den verbindlichen rechtlichen Rahmen für deren Einsatz. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Prompt-Injection und die „Gaslighting“-Gefahr
Die Widerstandsfähigkeit aktueller KI-Systeme gegen Prompt-Injection wurde am 25. Juni in einem öffentlichen Test auf die Probe gestellt. Über 2.000 Teilnehmer sendeten mehr als 6.000 E-Mails an den KI-Assistenten Fiu (basierend auf Claude Opus 4.6), um die Preisgabe einer geheimen Umgebungsdatei zu erzwingen. Trotz zahlreicher Social-Engineering- und mehrsprachiger Angriffe schützte der Assistent die Daten erfolgreich.
Doch die offensive Nutzung ähnlicher Techniken nimmt zu. Sicherheitsforscher von SentinelLabs identifizierten einen Rust-basierten macOS-Schädling namens macOS.Gaslight, der mit nordkoreanischen Akteuren in Verbindung steht. Die Malware zielt speziell auf KI-gestützte Analysetools ab, indem sie Dutzende gefälschter Systemnachrichten einschleust. Diese sollen LLM-basierte Analysesysteme manipulieren und dazu bringen, die Untersuchung der Schaddatei abzubrechen.
Governance und der Aufstieg von Shadow AI
Die Notwendigkeit besserer Transparenz über KI-Komponenten in Unternehmensnetzwerken unterstreicht der Launch von Checkmarx AI Inventory am 26. Juni. Das Tool identifiziert KI-Modelle, Agenten und MCP-Server, die in Codebasen versteckt sind, und erstellt eine KI-Stückliste.
Der 2026 State of Pentesting Report zeigt die Dringlichkeit solcher Governance-Tools: Das Vertrauen von Cybersicherheitsexperten in automatisierte KI-Tests sank von 29 Prozent im Jahr 2025 auf nur noch 9 Prozent in diesem Jahr. Forscher stellten fest, dass 90 Prozent der Mitarbeiter persönliche KI-Tools für die Arbeit nutzen, während 43 Prozent der Teams ohne formale KI-Governance arbeiten. Die durchschnittliche Zeit zur Behebung von Schwachstellen in großen Sprachmodellen hat sich von 19 auf 36 Tage nahezu verdoppelt.
Der unkontrollierte Einsatz von KI-Tools und die steigenden Cyberrisiken erfordern von Unternehmen jetzt schnelles Handeln bei der Compliance und Risikodokumentation. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und wie Sie die neuen Regeln der EU-KI-Verordnung rechtssicher umsetzen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Um die Abwehr gegen diese wachsenden Bedrohungen zu koordinieren, startete die Linux Foundation am 26. Juni gemeinsam mit Amazon, Google, Microsoft und OpenAI die Akrites-Initiative. Diese Zusammenarbeit konzentriert sich auf die Sicherung kritischer Open-Source-Projekte gegen KI-verstärkte Cyberangriffe.
