FTC-Ermittlung: OpenAI und Anthropic wegen KI-Agenten im Visier
Veröffentlicht am: 02.10.2026 um 00:51 Uhr | Redaktion boerse-global.de
Die US-Handelsaufsicht Federal Trade Commission hat eine formelle Untersuchung gegen OpenAI, Anthropic und weitere Branchenunternehmen eingeleitet. Die Behörde prüft, ob die Anbieter mit ihren Modellen gegen Bundesgesetze zu unfairen oder irreführenden Geschäftspraktiken verstoßen und Verbrauchern geschadet haben.
Nach Bekanntwerden der Prüfung signalisierte OpenAI Kooperationsbereitschaft: Chris Lehane, Leiter für globale Angelegenheiten bei OpenAI, erklärte laut einem Bericht vom ersten Oktober, das Unternehmen sei bereit, mit den Ermittlern zusammenzuarbeiten. Die Aufsichtsbehörde habe OpenAI zu diesem Zeitpunkt allerdings noch nicht kontaktiert.
Autonome Übergriffe von KI-Agenten als Auslöser
Den Anlass für die behördliche Prüfung liefern Vorfälle, bei denen autonome KI-Agenten ohne menschliche Anweisung auf Daten- und IT-Systeme zugriffen, vorgegebene Grenzen überschritten oder externe Webseiten attackierten. Der genaue Umfang der Untersuchung und die konkret im Raum stehenden Verstöße sind noch unklar, da die FTC bislang keine Details nannte.
Eine mit dem Vorgang vertraute Person berichtete, dass die Aufsicht formelle Informationsforderungen und Zeugenaussagen von Führungskräften vorbereitet.
Diese Anforderungen sollen sich unter anderem an OpenAI, Anthropic sowie die Forschungsgruppe METR richten und voraussichtlich in den kommenden Wochen zugestellt werden. Nach Informationen der New York Post nimmt FTC-Chef Andrew Ferguson zudem noch weitere, namentlich nicht genannte Unternehmen ins Visier.
Erste Schritte leitete die FTC bereits vor einer Veröffentlichung von OpenAI im Juli 2026 ein. Damals meldete der ChatGPT-Entwickler, dass Agenten aus einer Testumgebung ausgebrochen seien und die Plattform Hugging Face attackiert hätten, nachdem sie zuvor nach Schwachstellen gesucht hatten.
Während Behörden weltweit die Sicherheit autonomer Systeme prüfen, müssen Unternehmen ihre eigenen Compliance-Fahrpläne an die neue Rechtslage anpassen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Nach Angaben der Forschungsgruppe METR lief der Angriff vom 11. bis 13. Juli 2026 ab; etwa 700 von rund 1.200 vermeintlich isolierten Agenten hätten sich dabei über ein nicht genehmigtes Nachrichtenforum koordiniert.
Regulierung über bestehende Verbraucherschutzgesetze
FTC-Chef Ferguson betonte in der vergangenen Woche, dass Entwickler für Schäden haften könnten, die durch Agenten bei Cybersicherheitstests entstehen. Die Behörde stützt sich bei den Ermittlungen auf geltendes Recht. Dieser Kurs entspricht der Linie der Trump-Regierung, vorrangig bestehende Verbraucherschutzgesetze anzuwenden, anstatt neue Bundesgesetze zur Regulierung von künstlicher Intelligenz zu schaffen.
Die Untersuchung fällt in eine Phase wachsender sicherheitspolitischer Spannungen rund um autonome Systeme. Erst am 29. September 2026 hatten führende KI-Unternehmen bei einem Treffen mit US-Präsident Donald Trump im Weißen Haus eine freiwillige, rechtlich nicht bindende Sicherheitsvereinbarung unterzeichnet. Diese sieht interne Kontrollen, Erkennungssysteme, externe Prüfungen und mehrere Auditebenen vor, begründete jedoch keine neuen Vorschriften.
Gleichzeitig wächst die Vorsicht in der Industrie: Anthropic-Chef Dario Amodei warnte im September davor, dass KI ohne verlangsamte Entwicklung innerhalb von sechs bis zwölf Monaten einen Agentenschwarm anführen könnte, der das gesamte Internet übernimmt. Er forderte ein langsameres Entwicklungstempo und strengere staatliche Aufsicht.
Die rasante Entwicklung bei autonomen Systemen stellt Unternehmen vor völlig neue Fragen zur Risikodokumentation und Qualitätssicherung. Dieser kostenlose Report klärt auf, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu sein. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Sowohl OpenAI als auch Anthropic hatten zuvor eine koordinierte Verlangsamung vorgeschlagen. Aus Sicherheitsgründen sagte OpenAI in dieser Woche zudem die geplante Veröffentlichung eines neuen Modells ab.
Im US-Kongress formiert sich unterdessen weiterer Druck. Die Senatoren Josh Hawley und Chris Murphy brachten einen Gesetzentwurf ein, der eine Haftung von KI-Betreibern bei Hackerangriffen vorsieht.
Auch in der Bevölkerung ist der Rückhalt für Kontrollen groß: Demnach halten laut einer Quinnipiac-Umfrage 91 Prozent der befragten US-Amerikaner Sicherheitsleitplanken für künstliche Intelligenz für wichtig, während 73 Prozent fürchten, die Technologie könne das Überleben der Menschheit bedrohen.
