AB 1883 in Kalifornien: 500 Dollar Bußgeld je Verstoß gegen KI-Regeln
Veröffentlicht am: 23.10.2026 um 02:44 Uhr | Redaktion boerse-global.de
Der Einsatz von Systemen zur Emotionserkennung und KI-basierten Verhaltensanalyse gerät weltweit zunehmend unter Druck. Aufsichtsbehörden und Regulatoren stufen derartige Technologien als dubios und risikobehaftet ein. Vor diesem Hintergrund formieren sich international neue gesetzliche Kontrollmechanismen, um den Einsatz algorithmischer Systeme in Unternehmen spürbar einzuschränken und Beschäftigte vor unzulässiger Kontrolle zu schützen.
Gesetzliche Schranken gegen algorithmische Überwachung
In den USA hat der kalifornische Gouverneur Gavin Newsom ein Gesetzespaket unterzeichnet, das die Befugnisse von KI-Systemen in Betrieben drastisch beschränkt. Unter dem Abgeordneten Isaac Bryan verabschiedete der Bundesstaat das Gesetz AB 1883, das die automatisierte Überwachung am Arbeitsplatz reglementiert.
Die Regelung verbietet unter anderem den Einsatz von Emotionserkennung sowie das Erfassen von Daten zur Gehirn- und Nervensystemaktivität von Mitarbeitern. Bei Verstößen droht Arbeitgebern ein Bußgeld von 500 US-dollar pro Einzelfall.
Ergänzend tritt zum 1. Juli 2027 mit dem Gesetz SB 947 von Jerry McNerney ein Verbot in Kraft, das Kündigungen oder Disziplinarmaßnahmen allein durch sogenannte automatisierte Entscheidungssysteme untersagt.
Die neuen Regeln zur algorithmischen Überwachung und zum EU AI Act stellen Unternehmen vor komplexe Herausforderungen bei der Dokumentation. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Wird ein solches System primär genutzt, ist eine menschliche Überprüfung zwingend vorgeschrieben. Beschäftigte müssen zudem schriftlich informiert werden und können eine sachliche Beschreibung der genutzten Daten einfordern. Von den strengen Vorgaben sind herkömmliche Werkzeuge wie Spamfilter, Firewalls, Antivirenprogramme oder Datenbanken ausgenommen.
Das Gesetz SB 951 verpflichtet Arbeitgeber ab dem 1. Januar 2028 darüber hinaus, bei Massenentlassungen gesondert anzugeben, ob Technologie wesentlich zum Stellenabbau beigetragen hat. Zudem müssen Unternehmen bis zum 1. Januar 2027 Vorgaben der Datenschutzbehörde des Bundesstaates umsetzen, die Wahlmöglichkeiten und Auskünfte bei maßgeblichen Personalentscheidungen vorsehen.
Italien setzt strikte Vorschriften für Risikobewertung in Kraft
In Europa verschärfen Behörden die Gangart ebenfalls spürbar. In Italien tritt am 23. Oktober 2026 das Gesetzesdekret Nummer 179 vom 7. Oktober 2026 ohne Übergangsfrist in Kraft, um nationale Vorschriften an die europäische KI-Verordnung anzugleichen.
Artikel 42 dieses Erlasses verlangt von Unternehmen, alle KI-Systeme, die Arbeitsorganisation, Produktionstempo, Aufgabenzuteilung oder sicherheitsrelevante Aspekte steuern, in das betriebliche Dokument zur Risikobewertung aufzunehmen. Dabei müssen Gefahren wie Technostress, fehlerhafte Modellergebnisse und Ängste vor ständiger algorithmischer Kontrolle ausdrücklich berücksichtigt werden.
Die Nichteinhaltung dieser Pflichten zieht nach geltendem Arbeitsrecht Bußgelder zwischen rund 3.557 und 9.113 Euro oder einen Arrest von bis zu sechs Monaten nach sich.
Wer sich mit der rechtssicheren Implementierung von KI-Systemen und den damit verbundenen Compliance-Experten-Warnungen befasst, sollte die neuen Haftungsrisiken kennen. Jetzt kostenlos herunterladen: Der Umsetzungsleitfaden zum EU AI Act mit allen relevanten Übergangsfristen. Compliance-Experten warnen: Wer die KI-Verordnung ignoriert, riskiert empfindliche Strafen
Artikel 41 des Dekrets legt zudem fest, dass wesentliche Personalentscheidungen wie Neueinstellungen, Änderungen oder Kündigungen von einer natürlichen Person mit tatsächlicher Befugnis getroffen werden müssen; rein formale Zustimmungen zu Software-Empfehlungen sind unwirksam.
Parallel dazu prüft in Deutschland die Bundesdatenschutzbehörde automatisierte Screening- und Bewertungssysteme im Personalbereich auf ihre Vereinbarkeit mit dem europäischen Datenschutzrecht.
Wachsender Widerstand gegen psychische Belastungen
Die Dringlichkeit neuer Schranken belegen internationale Untersuchungen. In Australien warnte das Human Technology Institute der University of Technology Sydney vor einer massiven Zunahme digitaler Überwachungsmethoden.
Berichtet wird von engmaschigen Kontrollen über Tastaturaufzeichnungen, Bildschirmüberwachung und KI-Kameras, die bei Beschäftigten erhebliche psychische Belastungen wie Panikattacken auslösten. Das Institut fordert daher gesetzliche Schutzprüfungen und Beschwerdewege.
Auch der bulgarische Wirtschafts- und Sozialrat betonte in einem aktuellen Gutachten, dass die Einführung von Algorithmen zwingend mit menschlicher Aufsicht, Transparenz und der Erfassung psychosozialer Gefahren einhergehen müsse. Ergänzend mahnte der Europäische Datenschutzausschuss jüngst strenge Leitplanken für den Einsatz tragbarer Kamerabrillen an, um eine unbemerkte Überwachung am Arbeitsplatz zu unterbinden.
