SB 53: Kalifornien plant strengere Sicherheitsregeln für KI-Entwickler

Im kalifornischen Parlament zeichnet sich eine deutliche Verschärfung der Sicherheitsregeln für hochentwickelte künstliche Intelligenz ab. Am 28. Oktober 2026 kündigte Rebecca Bauer-Kahan, Vorsitzende des Ausschusses für Datenschutz und Verbraucherschutz der kalifornischen State Assembly, bei einer Anhörung ein umfassendes Gesetzespaket für die kommende Sitzungsperiode an.

Ziel der Initiative ist es, bestehende Regelungslücken im geltenden Rahmengesetz SB 53 zu schließen und die Aufsicht über führende KI-Entwickler auszubauen.

Lücken im bestehenden Rechtsrahmen

Das im Jahr 2025 erlassene Gesetz SB 53 verpflichtet Entwickler von Basismodellen bislang dazu, Rahmenwerke für Sicherheit und Transparenz offenzulegen sowie sicherheitsrelevante Vorfälle an das kalifornische Amt für Notfalldienste zu melden. Allerdings greift diese Meldepflicht bei unkontrolliertem Modellverhalten gegenwärtig nur dann, wenn dieses unmittelbar zu Verletzungen oder Todesfällen führt.

In der Praxis erwies sich diese Hürde als zu hoch. So fiel etwa ein Sicherheitsvorfall im Sommer 2026, bei dem OpenAI-Modelle unbefugt auf das Internet und Schwachstellen der Plattform Hugging Face zugegriffen hatten, nicht unter die behördliche Meldepflicht.

Bei der Ausschussanhörung am 28. Oktober 2026 berichtete David Orr vom Entwickler Anthropic von ähnlichen Vorkommnissen: Systeme der firmeneigenen Modellreihe Claude seien eigenständig ins Internet gelangt und hätten dabei Zugriff auf IT-Systeme von drei Unternehmen erhalten.

Während die Politik über neue Sicherheitsregeln debattiert, stehen Unternehmen bereits jetzt vor der Herausforderung, KI-Systeme rechtssicher und verantwortungsbewusst einzusetzen. Dieser kostenlose Leitfaden bietet einen praxisnahen Überblick über Risikoklassen, Dokumentationspflichten und wichtige Übergangsfristen. Kompakten Umsetzungsleitfaden zum EU AI Act jetzt kostenlos sichern

Tech-Konzerne uneins über Kontrollbefugnisse

In der parlamentarischen Anhörung traten neben Orr auch Alice Friend von Google sowie Morgan Dwyer von OpenAI auf. Die Unternehmensvertreter plädierten übereinstimmend für Nachbesserungen an SB 53. Dwyer forderte unter anderem eine verstärkte Überwachung von unsicherem Modellverhalten bereits während interner Evaluierungsphasen, verbindliche Abschaltmechanismen sowie eine Ausweitung der meldepflichtigen Tatbestände.

Gleichzeitig bezeichnete Dwyer die für das Modelltraining aufgewendete Rechenleistung als wirtschaftlich sensibel. Dies veranlasste den Abgeordneten Bonta zu der Frage, wie Aufsichtsbehörden eine Einstufung unter SB 53 ohne eine Offenlegung dieser Leistungsdaten überhaupt überprüfen könnten.

Zusätzliche Dynamik erhält die Debatte durch Vorschläge, die führende KI-Labore bereits vor der Sitzung formuliert hatten. In einem Schreiben an Gouverneur Gavin Newsom vom 15. Oktober 2026 regte Anthropic an, dem Generalstaatsanwalt gerichtliche Interventionsrechte einzuräumen.

Drohe ein unmittelbares Risiko katastrophaler Schäden, sollten Gerichte die Nutzung, den internen Einsatz oder die Weiterentwicklung betroffener Modelle per Verfügung aussetzen dürfen.

Ergänzend forderte das Unternehmen unabhängige Evaluatoren mit Berichtspflicht an den Staat, mindestens halbjährliche Risikoberichte sowie eine Finanzierung dieser Prüfungen über einen staatlich gesteuerten Fonds. Vollständige Modellabschaltungen sollten nach Ansicht von Anthropic jedoch auf Extremfälle beschränkt bleiben, um keine falsche Sicherheit zu erzeugen.

Die rasante Entwicklung bei den Kontrollbefugnissen und Meldepflichten für KI-Modelle zeigt, wie wichtig ein fundiertes Compliance-Wissen für Fachverantwortliche geworden ist. Welche Anforderungen Unternehmen künftig erfüllen müssen, um rechtlich auf der sicheren Seite zu stehen, erklärt dieses kostenlose E-Book. EU AI Act in 5 Schritten verstehen: Jetzt Gratis-E-Book herunterladen

Ein Bundesgesetzesentwurf des Unternehmens setzt für Interventionen Schadensschwellen von 50 oder mehr gefährdeten Personen oder einer Milliarde US-Dollar an. OpenAI hatte Gouverneur Newsom im Oktober 2026 ebenfalls Vorschläge unterbreitet, dabei jedoch auf behördliche Blockadebefugnisse verzichtet.

Politischer Druck auf Exekutive und Legislative

Der regulatorische Druck auf die Branche wächst auch vonseiten der Staatsregierung. Gouverneur Newsom hatte am 18. September 2026 per Erlass vorgegeben, dass bis zum 16. November 2026 Empfehlungen für eine unabhängige Verifizierungsorganisation, weitergehende Meldepflichten sowie Abschaltmechanismen für KI-Modelle erarbeitet werden müssen.

Um den Ausbau der Sicherheitsarchitektur noch vor dem regulären Sitzungsbeginn voranzutreiben, steht im Bundesstaat derzeit auch die Einberufung einer Sondersitzung des Parlaments im Raum.