KI-Governance: Nur 34 Prozent der Unternehmen führen ein Modell-Inventar

Unternehmen stehen zunehmend unter Druck, verbindliche Richtlinien für den Einsatz künstlicher Intelligenz einzuführen und die organisatorische Verantwortung auf Führungsebene festzulegen.

Branchenbeobachter und Regulierungsbehörden empfehlen verstärkt die Ernennung von Führungskräften wie AI Governance Officers oder Chief AI Officers, um operative, rechtliche und sicherheitsbezogene Risiken abzufedern.

Während KI-Anwendungen mittlerweile quer durch alle Abteilungen – von automatisierten Abrechnungssystemen im Finanzbereich bis zur Bewerberauswahl in der Personalabteilung – Einzug halten, verlagert sich die Kontrollverantwortung von reinen IT-Abteilungen direkt in Vorstandsetagen und Aufsichtsgremien.

Vorgaben für Vorstände und Aufsichtsräte

Wirtschaftsverbände und Regulierer formulieren bereits präzise Anforderungen an die Unternehmensführung. So empfiehlt die italienische Emittentenvereinigung Assonime börsennotierten Betrieben neben der Erstellung einer systematischen KI-Richtlinie und der vollständigen Erfassung aller genutzten Systeme auch die Bildung von Technologie-Komitees.

In Italien verpflichtet eine Reform des Finanzgesetzes TUF ab dem Jahr 2027 Unternehmen dazu, ihre Richtlinien für KI-Einsatz, Monitoring und IT-Risikomanagement in der Corporate-Governance-Erklärung offenzulegen, was einer verpflichtenden Prüfung durch Revisionsgesellschaften unterliegt.

Assonime verweist dabei auf operationelle Gefahren wie fehlerhafte Daten, algorithmische Diskriminierung, mangelnde Nachvollziehbarkeit von Ergebnissen und unautorisierte Nutzungen im Rahmen von Regelwerken wie dem AI Act, NIS 2 und der DSGVO.

Wer die komplexen Vorgaben der neuen EU-KI-Verordnung rechtssicher im Unternehmen verankern möchte, erhält in diesem kompakten Leitfaden eine Übersicht zu allen Fristen und Risikoklassen. EU AI Act Umsetzungsleitfaden jetzt kostenlos herunterladen

Auch das Financial Stability Board hat Leitlinien vorgelegt, die eine zentrale Steuerungsfunktion für Geschäftsleitungen und Verwaltungsräte vorsehen. Diese Gremien müssen den KI-Einsatz fortlaufend mit Geschäftsmodell und Risikotoleranz abgleichen sowie das Risikomanagement über den gesamten Lebenszyklus der Modelle hinweg steuern.

Das Gremium fordert zudem eine strikte menschliche Aufsicht, insbesondere über autonome KI-Agenten: Unternehmen müssten genaue Kriterien festlegen, bei welchen risikoreichen Schritten ein System zwingend eine menschliche Freigabe einholen muss.

Nachholbedarf bei Modellinventaren und Sicherheitsstrukturen

Untersuchungen verdeutlichen, dass viele Betriebe bei der formalen Verankerung dieser Vorgaben noch am Anfang stehen. Laut einer Erhebung von Optro-Research liegt die Hauptverantwortung für KI-Governance derzeit mit 25 Prozent noch am häufigsten bei den IT-Abteilungen, gefolgt von Risikomanagement- und Querschnittsteams.

Bislang führen jedoch lediglich 34 Prozent der Organisationen ein Modell-Inventar, während systematische Leistungs- und Voreingenommenheitstests weiterhin eine Minderheitenpraxis darstellen. Vor diesem Hintergrund rät Optro-Research zur Benennung eines designierten Führungsverantwortlichen für unternehmensweite KI-Risiken.

Da die unkritische Nutzung neuer Technologien oft mehr Risiken birgt als die Systeme selbst, sollten Verantwortliche frühzeitig auf fundierte Compliance-Strategien setzen. Kostenlosen Report zu KI-Pflichten und Risikoklassen anfordern

Dass organisatorische Vorkehrungen dringend erforderlich sind, unterstreicht auch die KI-Sicherheitsstudie 2026 von BSI und TÜV-Verband unter 505 Unternehmen ab 20 Beschäftigten.

Demnach sieht sich lediglich jedes zehnte Unternehmen ausreichend auf Angriffe mit KI-Unterstützung vorbereitet. Insgesamt 17 Prozent der befragten Betriebe registrierten in den vergangenen zwölf Monaten bestätigte Sicherheitsvorfälle oder Verdachtsfälle; Phishing-Mails machten mit 90 Prozent den dominanten Angriffsvektor aus.

Eigene Prozesse für KI-bezogene Sicherheitsvorfälle haben bisher lediglich 11 Prozent der aktiven KI-Nutzer etabliert, während 43 Prozent auf allgemeine IT-Sicherheitsprozesse ausweichen. Bei den organisatorischen Gegenmaßnahmen setzen 56 Prozent der befragten Firmen auf Mitarbeiterschulungen sowie jeweils 45 Prozent auf strukturierte Freigabeprozesse und Risikobewertungen.

In der Praxis zeichnet sich die Schaffung spezialisierter Führungsämter bereits ab: Bei der Deutschen Welle berief Intendantin Barbara Massing Simon Uhl zum Chief AI Officer. In dieser Funktion leitet Uhl die bereichsübergreifende Steuerung der Daten- und KI-Aktivitäten und verantwortet zusammen mit der Geschäftsleitung die Weiterentwicklung der institutionellen KI-Strategie.