OCC-Leitlinie zu KI-Agenten: Bankprüfer sollen Risiken praktisch bewerten

Die US-Bankenaufsicht OCC hat ein neues Rahmenwerk für Bankprüfer zum Umgang mit Super Intelligence und agentischer künstlicher Intelligenz herausgegeben. Wie die Behörde in ihrer Mitteilung News Release 2026-97 darlegt, handelt es sich um die erste spezifische Leitlinie für Bankprüfer zum Einsatz von KI-Technologien. Das Dokument verfolgt einen technologieneutralen Ansatz und soll künftig regelmäßig aktualisiert werden.

Dem Rahmenwerk zufolge sollen Prüfer Super Intelligence nicht als eigenständige Risikokategorie einstufen. Banken seien folglich nicht verpflichtet, eine separate Risikobereitschaft für diesen Bereich zu definieren.

Maßgeblich bleibe vielmehr, dass sämtliche Aktivitäten sicher ablaufen und geltenden Gesetzen entsprechen. Bei der Beurteilung sollen die Aufseher die konkrete Nutzungsart sowie die Größe und Komplexität des jeweiligen Instituts berücksichtigen.

Der Schwerpunkt liegt dabei auf den praktischen Konsequenzen von Systemfehlern anstelle der reinen Modellkomplexität. Ein einfacher Software-Agent mit eigener Transaktionsbefugnis könne für ein Institut ein höheres Risiko darstellen als ein mathematisch hochkomplexes, rein internes Modell.

Weist ein Einsatzbereich ein gesteigertes Risikoprofil auf, seien strengere Autonomiebeschränkungen oder eine verstärkte menschliche Aufsicht angezeigt. Obwohl die neuen Leitlinien formal nicht rechtsverbindlich sind, orientieren sich beaufsichtigte Institute in der Praxis üblicherweise an den behördlichen Vorgaben.

Wer sich mit dem Einsatz moderner Technologien befasst, muss die rechtlichen Rahmenbedingungen genau kennen. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Zunehmende Regulierungsinitiativen zu autonomen Systemen

Parallel zu den Schritten der US-Aufsicht verstärken auch internationale Institutionen ihre Leitlinien für autonome KI-Agenten. In Indien legte die Cybersicherheitsbehörde CERT-In ein 107 Seiten umfassendes Regelwerk für Sicherheitsaudits vor, das sich an Organisationen richtet, die Systeme mit indischen Daten oder für lokale Nutzer betreiben.

Das Papier unterteilt Risiken in vier Stufen: Die Kategorie Low sieht jährliche Überprüfungen und grundlegende interne Bewertungen vor, während Moderate kontinuierliche Bewertungen, dokumentierte interne Audits sowie jährliche unabhängige Prüfungen durch gelistete Prüfer verlangt.

Die Stufe High verlangt externe Audits bei wesentlichen Änderungen oder alle sechs Monate; die Stufe Critical schreibt Prüfungen durch CERT-In-gelistete Stellen und eine kontinuierliche Überwachung vor.

Die regulatorischen Anforderungen an neue Systeme stellen viele Verantwortliche vor große Herausforderungen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmen jetzt kennen müssen, um auf der sicheren Seite zu stehen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?

Der Prüfkatalog von CERT-In umfasst neun Bereiche, darunter KI-Governance, Datenqualität, Modellrisikomanagement, Fairness, Transparenz, Cybersicherheit, regelmäßige Überwachung, menschliche Aufsicht und Drittanbieter. Ergänzende Vorgaben gelten unter anderem für generative Systeme, Chatbots, Multi-Agenten-Architekturen sowie autonome und cyber-physische Modelle.

Haftungsfragen und operative Sicherheitsrisiken

Haftungsfragen bei autonomen Systemen thematisiert zudem die indische Organisation DSCI in einem Diskussionspapier mit dem Titel „AI Liability: Industry Guidance for Agentic AI“.

DSCI unterscheidet fünf Akteursgruppen im Unternehmenseinsatz: Endnutzerorganisationen, Dienstleister und Integratoren, Produktunternehmen und Start-ups, Anbieter von Werkzeugen und Frameworks sowie Cloud- und Infrastrukturbetreiber, während Modellanbieter gesondert betrachtet werden.

Die Zuweisung von Verantwortung soll sich nach der tatsächlichen Kontrolle über Systementscheidungen richten, etwa bei Berechtigungen und Tool-Zugriffen. Vorgeschlagen werden sechs Schutzmaßnahmen für 12 Schadensbereiche, darunter Notausschalter mit klarer Zuständigkeit und Genehmigungspflichten für irreversible Aktionen.

Die Dringlichkeit klarer Leitplanken unterstrichen am 3. November 2026 Aussagen von CERT-In-Generaldirektor Sanjay Bahl, der die Übertragung von Befugnissen ohne ausreichende Kontrollen als zentrales Risiko bezeichnete. Das indische Cybercrime Coordination Centre warnte vor finanziell motivierten Angriffen mit KI-Agenten in Maschinengeschwindigkeit, nachdem zuvor bereits die Notenbank RBI auf ähnliche Gefahren hingewiesen hatte.

Branchenvertreter wie die Indian Banks' Association arbeiten unterdessen an Mechanismen zum Vorfallsaustausch und Testumgebungen für fortgeschrittene KI-Modelle.