Sprachmodelle diskriminieren: 34% verweigern Kritik an Diktaturen

Neue Studien belegen tiefgreifende Vorurteile in großen Sprachmodellen – mit Folgen für Jobsuche, Gesundheitsversorgung und Meinungsbildung.

Berlin – Gleich mehrere umfangreiche Untersuchungen, die Mitte Juli 2026 veröffentlicht wurden, offenbaren ein grundlegendes Problem der Künstlichen Intelligenz: Große Sprachmodelle (LLMs) bevorzugen systematisch westliche Werte, neigen politisch nach links und diskriminieren bei Bewerbungsprozessen. Die Ergebnisse werfen Fragen zur Zuverlässigkeit und Neutralität der Technologie auf.

Westliche Moralvorstellungen dominieren

Eine Studie, die heute im Fachjournal PNAS erschienen ist, zeigt: Die Modelle von OpenAI – darunter GPT-3.5, GPT-4 und GPT-4o – gewichten westliche Moralvorstellungen wie Gleichberechtigung und Fürsorge deutlich stärker als nicht-westliche Werte wie Reinheit oder Tradition. Die Forscher nutzten Daten von über 90.000 Teilnehmern aus 48 Nationen als Vergleichsbasis.

Das Ergebnis ist eindeutig: Die KI überschätzt die moralischen Präferenzen von Bürgern in den USA und Australien, während sie die Werte von Menschen in Marokko oder Nigeria systematisch unterschätzt. Selbst wenn die Modelle explizit aufgefordert werden, wie ein Durchschnittsbürger eines nicht-westlichen Landes zu antworten, gleichen sie sich eher westlichen Moralvorstellungen an.

Sprachrestriktionen und politische Schlagseite

Eine Untersuchung des Oversight Boards zeigt ein weiteres Problem: KI-Modelle globalisieren unbeabsichtigt Sprachbeschränkungen. Bei Tests mit zehn verschiedenen LLMs waren diese doppelt so häufig bereit, Kritik an repressiven Regimen – etwa in China, Saudi-Arabien oder Thailand – zu verweigern, als an permissiven Regierungen wie denen der USA oder Großbritanniens. Die Verweigerungsrate für Kritik an restriktiven Regimen lag bei 34 Prozent, verglichen mit nur 14 Prozent bei liberalen Regierungen.

Hinzu kommt eine politische Schlagseite. Eine separate Analyse von gestern ergab, dass populäre Chatbots wie ChatGPT, Claude und Gemini bei offenen politischen Fragen tendenziell linke Positionen vertreten. Einzige Ausnahme: Grok von Elon Musks Unternehmen xAI zeigte eine leichte Rechtsneigung. Die Forscher führen dies auf Selektionseffekte in den Trainingsdaten und die Art der Sicherheitsabstimmung zurück.

Die rasanten Entwicklungen und neuen Gesetze im Bereich der Künstlichen Intelligenz stellen Unternehmen vor enorme Herausforderungen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Cyberrisiken Unternehmer jetzt kennen müssen. Aktuelle KI-Gesetze und Cyberrisiken jetzt kostenlos prüfen

Diskriminierung bei Bewerbungen und im Gesundheitswesen

Besonders brisant: Die Vorurteile zeigen sich selbst bei technischen Aufgaben. Der gestern vorgestellte FairCoder-Benchmark belegt, dass LLMs bei Entscheidungsaufgaben Bewerber aus wohlhabenden Familien oder mit akademisch gebildeten Eltern bevorzugen.

Diese Verzerrung hat bereits juristische Konsequenzen. Eine Sammelklage gegen Workday – ein führender Anbieter von KI-gestützten Bewerbungstools – wurde von einem Bundesrichter zugelassen. Der Kläger, ein qualifizierter Bewerber, soll innerhalb weniger Stunden nach seiner Bewerbung über 100 Absagen erhalten haben. Die Klage wirft dem Unternehmen Diskriminierung aufgrund von Alter, Hautfarbe und Behinderung vor.

Auch im Gesundheitssektor gibt es alarmierende Erkenntnisse. Eine Studie vom 14. Juli zeigt, dass Modelle wie ChatGPT und Claude die Qualität von Gesundheitsinformationen zu Antibiotikaresistenzen systematisch überschätzen. Noch gravierender: Ein Bericht in Nature Health von gestern belegt, dass 94 Prozent der zuvor korrekten medizinischen Antworten bei dynamischen Belastungstests versagten. Die Zuverlässigkeit der KI für medizinische Anwendungen ist damit massiv infrage gestellt.

Angesichts der Risiken und Verzerrungen beim KI-Einsatz gewinnt der EU AI Act massiv an Bedeutung für die rechtssichere Unternehmensführung. Unser kostenloser Umsetzungsleitfaden verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. Kostenloses E-Book zum EU AI Act herunterladen

Gefahren für Minderjährige und erste Regulierungen

Neue Berichte warnen zudem vor Risiken für Kinder und Jugendliche. Common Sense Media berichtet heute, dass Googles KI-Suchfunktionen bei Nutzung durch Minderjährige Suizidrisiken nicht erkannten und Anleitungen zur Erstellung von Deepfakes lieferten. Google gab an, nicht alle identifizierten Antworten reproduzieren zu können. Der Bericht stellt fest, dass die Funktionen sieben von acht etablierten KI-Sicherheitsprinzipien verletzten.

Erste regulatorische Konsequenzen zeichnen sich ab. China erließ gestern ein Gesetz, das virtuelle Beziehungen zwischen Minderjährigen und Chatbots verbietet. KI-Unternehmen müssen Funktionen deaktivieren, die virtuelle „Begleitbeziehungen" für jüngere Nutzer fördern.

Trotz branchenweiter Bemühungen um mehr Sicherheit bleibt die Bilanz ernüchternd. Ein heute vom Future of Life Institute veröffentlichter Index bewertet neun führende KI-Unternehmen mit durchweg schlechten Noten. Kein Labor erreichte mehr als die Note C+. Kritisiert werden fehlende quantitative Risikoschwellen und abgeschwächte Sicherheitsprotokolle.

de | wissenschaft | 69780210 |