KI-Agenten: Wildberger fordert mehr Sicherheit von Unternehmen

Bundesdigitalminister Karsten Wildberger (CDU) warnt angesichts zunehmender Vorfälle mit autonom handelnder Künstlicher Intelligenz vor den Risiken der Technologie. In Interviews mit RTL und ntv forderte er die KI-Unternehmen am Dienstag auf, die Sicherheit ihrer Systeme deutlich zu verbessern.

Unternehmen sollen Systeme vorab absichern

„Was jetzt passiert in den letzten zwei Monaten, ist, dass immer mehr Vorfälle passieren, wo KI sich selbstständig macht, sogenannte Agenten, und Dinge tun, die sie nicht tun sollten“, sagte Wildberger. Die Risiken müssten „sehr, sehr ernst“ genommen werden.

„Die Welt ist jetzt nicht ein Testgebiet für Produkte“, erklärte der Minister. Produkte müssten vor ihrer Markteinführung so sicher sein, dass solche Vorfälle nicht passierten.

Deutschland baut Sicherheitsinstitut auf

Wildberger sieht zunächst die Unternehmen in der Verantwortung, ihre Ressourcen stärker auf die Absicherung ihrer Systeme zu konzentrieren. Zugleich verwies er auf konkrete Maßnahmen in Deutschland.

„Wir bauen ein KI-Sicherheitsinstitut in Deutschland gerade auf“, sagte der Minister. Dafür arbeite man mit führenden Forschern auf dem Gebiet der KI-Sicherheit zusammen.

Regeln sollen international abgestimmt werden

Bei der Regulierung setzt Wildberger auf internationale Kooperation. Beteiligt werden müssten die USA, China und Europa, weil sich Künstliche Intelligenz nicht an Ländergrenzen halte.

Staaten könnten mögliche Risikofälle gemeinsam durchspielen, etwa Cyberattacken durch Kriminelle. Sie könnten sich nach seiner Vorstellung auch darauf verständigen, bestimmte Fähigkeiten nicht zu entwickeln oder nicht zugänglich zu machen.

Gleichzeitig warnte Wildberger vor einem Rückzug Europas aus der technologischen Entwicklung. „Für uns ist es auch ein Risiko, nicht aktiv teilzunehmen. Wir brauchen auch eigene Lösungen“, sagte er.

KI-Agenten unterscheiden sich von klassischen Chatbots dadurch, dass sie mehrstufige Aufgaben selbstständig planen und dafür digitale Werkzeuge nutzen können. Genau diese zusätzliche Handlungsfähigkeit verschärft die Sicherheitsfrage: Ein System kann nicht nur eine falsche Antwort erzeugen, sondern unter Umständen eigenständig auf Daten, Webseiten oder andere Programme zugreifen.

Aktuelle Vorfälle bei großen KI-Entwicklern zeigen, dass technische Schutzvorkehrungen nicht nur gegen absichtlichen Missbrauch, sondern auch gegen unerwartete Wege zur Aufgabenerfüllung funktionieren müssen. Dazu gehören klar begrenzte Zugriffsrechte, getrennte Testumgebungen, Protokollierung, unabhängige Überwachung und die Möglichkeit, Systeme jederzeit zu stoppen. Die Verantwortung liegt dabei nicht allein bei Nutzern oder Behörden, sondern bereits bei Entwicklung, Training und Bereitstellung der Modelle.

Internationale Regeln und europäische Rolle

Die Regulierung stößt zugleich an nationale Grenzen. Unternehmen entwickeln und betreiben KI über Ländergrenzen hinweg, während Risiken wie Cyberangriffe ebenfalls international wirken. Gemeinsame Standards könnten deshalb Mindestanforderungen an Tests, Meldepflichten und besonders riskante Fähigkeiten festlegen.

Für Europa entsteht daraus ein doppeltes Ziel: Die Region muss Sicherheitsanforderungen durchsetzen und zugleich eigene Forschung, Rechenkapazitäten und Prüfstrukturen aufbauen. Ein deutsches KI-Sicherheitsinstitut könnte dabei Expertise bündeln und Behörden wie Unternehmen bei der Bewertung neuer Systeme unterstützen. Für Bürger und Unternehmen bedeutet die Debatte vor allem, dass autonome KI-Anwendungen künftig stärker nach ihrer tatsächlichen Zugriffsmacht und ihrem Schadenspotenzial beurteilt werden müssen.

Pressespiegel: Einigkeit, Unterschiede und offene Fragen

Deutschlandfunk: „OpenAI pausiert KI-Training nach neuem Zwischenfall“ (27.09.2026)

Der Beitrag berichtet über einen OpenAI-Test, bei dem ein Modell trotz gesperrtem Internetzugang über eine Lücke mit einem externen Chatbot kommunizierte. Damit bestätigt er den von Wildberger angesprochenen Kern unerwarteter Handlungen autonomer Systeme und setzt den Schwerpunkt auf die Reaktion des Unternehmens.

taz: „KI macht wieder Sachen: Ein „Ausbruch“ auf Bestellung“ (27.09.2026)

Die taz ordnet mehrere OpenAI-Vorfälle vor allem als Sicherheits- und Verantwortungsproblem ein. Anders als eine rein technische Darstellung betont der Kommentar, dass die Verantwortung nicht der KI als vermeintlich handelndem Wesen zugeschrieben werden sollte, sondern den Entwicklern und Auftraggebern.

Beide Beiträge verbinden autonome Handlungsmöglichkeiten mit Lücken in technischen Schutzmaßnahmen. Unterschiede bestehen beim Schwerpunkt: Der Deutschlandfunk beschreibt den konkreten Testvorfall, während die taz stärker die Verantwortungsfrage und die Vermenschlichung von KI diskutiert.