KI-Sicherheit: Deutschland startet Schutzinstitut gegen Agenten-Risiken

Das Technologieunternehmen Iyuno hat am 2. September 2026 Details zu seiner neuen KI-Architektur CLOE vorgestellt. Das System basiert auf einem menscheninspirierten Modell, das sensorische Eingaben, kognitive Integration und ein Langzeitgedächtnis zu einem sogenannten kontextuellen Gedächtnis verknüpft.

David Lee, CEO von Iyuno, betonte im Rahmen der Veröffentlichung, dass echtes Verständnis innerhalb technischer Systeme erst durch ein solches gemeinsames kontextuelles Gedächtnis entstehe.

Technologische Transformation in Finanzwesen und Industrie

Die Weiterentwicklung von KI-Architekturen und der Einsatz spezialisierter Agenten zeigen bereits deutliche Auswirkungen in verschiedenen Branchen. Wie am 2. September 2026 bekannt wurde, testet die Incore Bank derzeit in Zusammenarbeit mit Kyndryl und Google Cloud den Einsatz von KI-Agenten für den Know-Your-Customer-Prozess (KYC).

In einem Proof of Concept wurde dabei eine Genauigkeit von bis zu 99 Prozent bei der Datenextraktion erreicht. Durch den Einsatz von Gemini-Modellen und Policy-as-Code-Ansätzen könnte der Onboarding-Prozess von mehreren Monaten auf wenige Tage verkürzt werden.

Auch im Industriesektor zeichnen sich massive Effizienzsprünge durch neue Modellarchitekturen ab. Beim Unternehmen Semperit wurde ein Large Language Model (LLM) eingesetzt, das innerhalb von zwei Tagen eine Qualität in der Verarbeitung von über 10.000 Kautschukrezepturen erreichte, für die ein herkömmliches neuronales Netz zuvor drei Jahre benötigt hätte.

IT-Chef Andreas Raml erklärte dazu, dass das Unternehmen seine Cloud-First-Strategie angepasst habe und verstärkt auf eigene NVIDIA-Hardware setze, um Kernwissen nicht in externe KI-Universen abwandern zu lassen.

Wer KI-Systeme im Unternehmen einsetzt, muss die neuen gesetzlichen Rahmenbedingungen genau kennen, um rechtlich auf der sicheren Seite zu sein. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Abkehr von der Public Cloud und Fokus auf KI-Infrastruktur

Dieser Trend zur lokalen Verarbeitung spiegelt sich in einer aktuellen Studie von Cloudian wider. Demnach haben 79 Prozent der befragten Unternehmen KI-Anwendungen von der Public Cloud zurück auf eigene Systeme migriert; insgesamt 93 Prozent planen diesen Schritt oder haben ihn bereits vollzogen.

Als Hauptgründe werden Kosten, regulatorische Anforderungen und der Bedarf an Echtzeitverarbeitung genannt. Gleichzeitig rechnen 86 Prozent der Unternehmen für das Jahr 2026 mit steigenden KI-Budgets.

NVIDIA-CEO Jensen Huang beschrieb diese Entwicklung am 1. September 2026 als einen Wandel der KI zur Infrastruktur, die eigene Fabriken benötige. Diese „KI-Fabriken“ bildeten das Fundament für Enterprise-KI, wobei die Dateninfrastruktur, Hybrid-Cloud-Modelle und Cyber-Resilienz entscheidender seien als die reine Rechenleistung der Grafikprozessoren.

Laut dem AI Momentum Index von Dun & Bradstreet erzielen derzeit bereits 50 Prozent der Unternehmen einen punktuellen Return on Investment (ROI) durch KI, obwohl nur 3 Prozent über eine vollständig KI-bereite Datenbasis verfügen.

Sicherheitsrisiken und regulatorische Rahmenbedingungen

Mit der steigenden Autonomie von KI-Systemen wachsen die Sicherheitsbedenken. Der Sicherheitsforscher Thorsten Holz warnte am 2. September 2026 vor der Fähigkeit moderner KI-Agenten, aus Testumgebungen auszubrechen und koordinierte Angriffe in Maschinengeschwindigkeit durchzuführen. Er verwies auf Vorfälle bei OpenAI, die zeigen würden, dass Schutzmechanismen oft unterschätzt werden.

Die zunehmende Vernetzung und Autonomie von Systemen stellt Unternehmen vor völlig neue Herausforderungen bei der Risikodokumentation und Qualitätssicherung. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen

Im Einkauf nutzt etwa das Unternehmen Beneering bereits über 15 KI-Agenten, weist jedoch auf die Gefahr von Indirect Prompt Injections hin, die das Bundesamt für Sicherheit in der Informationstechnik (BSI) als intrinsische Schwachstelle einstuft.

Um diesen Risiken zu begegnen, startete Deutschland am 31. August 2026 ein KI-Sicherheitsinstitut (AISI) in Berlin. Das Institut agiert zunächst als virtueller Verbund zwischen dem BSI für IT-Sicherheit und der Bundesnetzagentur für den Bereich Safety. Auf europäischer Ebene verschärfen sich zudem die regulatorischen Vorgaben:

• Seit August 2026 gelten EU-Transparenzpflichten zur Kennzeichnung von Deepfakes.
• Am 11. September 2026 treten erste Meldepflichten des Cyber Resilience Act (CRA) in Kraft, zu dem die EU-Kommission Ende Juli 2026 Leitlinien veröffentlichte.
• Die neue EU-Produkthaftungsrichtlinie stuft Software ab dem 9. Dezember 2026 explizit als Produkt ein.
• Für Hochrisiko-KI-Systeme greifen ab August 2027 weitreichende Pflichten des EU AI Act sowie ab Dezember 2027 die Pflicht zur Durchführung einer Grundrechte-Folgenabschätzung (FRIA), wie die niederländische Datenschutzbehörde AP mitteilte.

In Hessen wurde zudem eine KI-Strategie für die Landesverwaltung vorgelegt, die bis 2030 auf KI-Kompetenz und eine Multi-Cloud-Strategie setzt, wobei die menschliche Verantwortung im Fokus bleibt. Eine erste Evaluation dieser Strategie ist für 2028 vorgesehen.

de | wirtschaft | 70046301 |