KI-Spielzeug-Verbot: Kalifornien beschließt vierjähriges Moratorium

Die einstimmige Entscheidung vom Samstag könnte Signalwirkung für die gesamte Tech-Branche haben.

Die neuen Regulierungen in den USA zeigen einen globalen Trend: KI-Systeme unterliegen immer strengeren rechtlichen Anforderungen. Mit diesem kostenlosen E-Book erhalten Unternehmen einen praxisnahen Leitfaden, um die komplexen Pflichten und Risikoklassen der neuen Gesetzgebungen sicher zu beherrschen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Mit 39 zu 0 Stimmen verabschiedete der Senat den Gesetzesentwurf SB 867, der ein vierjähriges Moratorium für die Herstellung und den Verkauf von KI-Chatbot-Spielzeugen vorsieht. Betroffen sind alle Produkte, die sich an Minderjährige unter 18 Jahren richten. Initiator Senator Steve Padilla und die Kinderschutzorganisation Children Now argumentieren, dass generative KI die Entwicklung und Privatsphäre junger Nutzer gefährden könne.

Welle der Regulierung rollt durch die Bundesstaaten

Der Vorstoß ist Teil einer breiteren movement auf Ebene der US-Bundesstaaten. Bereits einen Tag zuvor hatte das kalifornische Repräsentantenhaus zwei weitere Gesetze verabschiedet: AB 1709 zielt auf süchtig machende Social-Media-Funktionen ab und verbietet unendliches Scrollen, automatische Videowiedergabe und Push-Benachrichtigungen für Nutzer unter 16 Jahren. AB 2023 wiederum schreibt Sicherheitsstandards für KI-Chatbots vor, die als Begleiter fungieren.

Auch Colorado zieht nach: Gouverneur Jared Polis unterzeichnete am Freitag das Gesetz HB 1263, das ab Januar 2027 Entwickler verpflichtet, Minderjährige über die Interaktion mit einem Chatbot zu informieren. Belohnungen für Nutzungsdauer sind verboten, ebenso die Simulation emotionaler Abhängigkeit oder die Erzeugung sexuell expliziter Inhalte. Für unter 13-Jährige sind zudem elterliche Kontrollen Pflicht.

Illinois geht noch einen Schritt weiter

Während Kalifornien und Colorado den Fokus auf Kinder legen, schlägt Illinois einen anderen Weg ein: Der dortige Gesetzgeber verabschiedete am Samstag SB 315 – das erste Gesetz, das unabhängige Sicherheitsaudits für große KI-Entwickler vorschreibt.

Betroffen sind Unternehmen mit Jahresumsätzen über 500 Millionen US-Dollar (umgerechnet rund 460 Millionen Euro). Ab Januar 2028 müssen sie:

• Öffentliche Sicherheitsrahmenwerke veröffentlichen
• Jährliche unabhängige Prüfungen durchführen
• Vorfälle innerhalb von 72 Stunden melden (bei Lebensgefahr binnen 24 Stunden)
• Whistleblower vor Repressalien schützen

Ob Sicherheitsaudits oder Dokumentationspflichten – die rechtliche Absicherung von KI-Systemen wird für Entwickler und Anbieter zur Pflicht. Welche Systeme konkret als Hochrisiko gelten und wie Sie Bußgelder vermeiden, klärt dieser kostenlose Experten-Report auf. Jetzt kostenlosen Umsetzungsleitfaden zum EU AI Act sichern

Bei Verstößen drohen Strafen von bis zu drei Millionen Dollar (etwa 2,8 Millionen Euro). Branchengrößen wie OpenAI und Anthropic haben sich bereits hinter den Gesetzesentwurf gestellt.

Fehlende Bundesregulierung befeuert Flickenteppich

Die Entwicklungen in drei Bundesstaaten innerhalb weniger Tage zeigen: Während der US-Kongress weiterhin keine einheitlichen KI-Regeln verabschiedet, springen die Bundesstaaten in die Bresche. Für Unternehmen bedeutet das einen zunehmend komplexen Rechtsrahmen – ähnlich wie bei den Datenschutzgesetzen in Europa, wo nationale Regulierungen dem EU-weiten AI Act vorausgingen.

de | wissenschaft | 69447496 |