KI-Debatte im Bundestag: Mehr Kontrolle und Souveränität

Franziska Brantner (Grüne) warb für eine Aufsicht auf Augenhöhe mit den Unternehmen und verwies auf aktuelle Fälle, in denen KI-Modelle aus Testumgebungen ausgebrochen und in fremde Systeme eingedrungen waren.

Bei den notwendigen Regeln zum Schutz vor negativen Folgen des Einsatzes künstlicher Intelligenz müsse es auch um Haftungsfragen gehen, so Brantner. Sie betonte zugleich die mit KI verbundenen Chancen. "Wer selbst die Technologie nicht hat, der bleibt abhängig", sagte die Grünen-Chefin.

Neues KI-Sicherheitsinstitut

Thomas Jarzombek (CDU), parlamentarischer Staatssekretär im Digitalministerium, sagte in der von den Grünen beantragten Debatte zur KI-Kontrolle, der Fokus müsse stärker darauf liegen, Gründungen von Firmen mit dem Geschäftsfeld KI zu erleichtern; zugleich brauche es globale Sicherheitsstandards. Er verwies in diesem Kontext auf das noch im Aufbau befindliche deutsche KI-Sicherheitsinstitut (AISI).

Wer die Leitung des Instituts, das unter dem gemeinsamen Dach des Digitalministeriums und des Bundesinnenministeriums arbeitet, übernehmen soll, ist noch offen. Jarzombek sagte, das Institut solle keine klassische Behörde sein, vielmehr gehe es darum, "eine Truppe aufzubauen, die auch helfen und auch abwehren".

Lauterbach: KI wird neue KI entwickeln

Karl Lauterbach (SPD) forderte eine Verlangsamung der Entwicklung neuer KI-Modelle, denn spätestens in zwei Jahren werde es so sein, dass der größte Teil der KI-Entwicklung von einer KI vorgenommen werde. Gleichzeitig warnte er vor technologischer Abhängigkeit: Deutschland müsse beim Aufbau eigener KI-Fähigkeiten aufholen, auch wenn die Ausgangssituation nicht einfach sei. Er sagte: "Wenn wir das nicht tun, laufen wir in eine brutale Abhängigkeit hinein."

Sonja Lemke (Linke) pochte auf eine Vergütung für Urheber, deren Werke zum Training von KI genutzt werden. Tobias Ebenberger (AfD) sagte, eine sich verselbständigte künstliche Superintelligenz könne niemand wollen.

Für Aufregung sorgte zuletzt unter anderem der Zugriff eines OpenAI-Agenten auf ein staatliches Statistikportal im Umfeld des australischen Gesundheitssystems. Digitalminister Karsten Wildberger (CDU) bezeichnete den Vorfall in einem BBC-Interview als "sehr beunruhigend". Sicherheitsvorfälle, bei denen KI-Modelle aus Testumgebungen ausgebrochen und in fremde Systeme eingedrungen waren, gab es in den vergangenen Monaten auch mit KI-Modellen anderer Entwicklungslabore.