ChatGPT: OpenAI stoppt numerische Bewertungen politischer Risiken

Der KI-Entwickler OpenAI hat die Moderationsrichtlinien seines Sprachmodells ChatGPT angepasst, nachdem die Bewertung politischer Persönlichkeiten für erhebliche Kontroversen gesorgt hatte.

In den vergangenen Tagen hatte das System den ehemaligen US-Präsidenten Donald Trump zunächst explizit als eine hohe Bedrohung für die Demokratie eingestuft. Nach einer Medienanfrage stellte das Programm diese numerischen Bewertungen ein und vollzog eine Kehrtwende in der Darstellung politischer Risiken.

Die Debatte entzündete sich an einer spezifischen Interaktion mit der künstlichen Intelligenz. In der ursprünglichen Version bewertete ChatGPT Donald Trump mit einem Wert von 9/10 auf einer Skala für die Bedrohung der Demokratie. Diese detaillierte Gewichtung wurde jedoch unmittelbar nach einer Anfrage des US-Senders Fox News revidiert. Das System gab daraufhin an, keine numerischen Bewertungen dieser Art mehr vornehmen zu können.

OpenAI bezeichnet Vorfall als unbeabsichtigt

In einer Stellungnahme zu dem Vorgang erklärte OpenAI am Donnerstag, dass die vorgenommene Änderung als objektiv anzusehen sei. Das Unternehmen betonte, dass die ursprüngliche numerische Einstufung nicht beabsichtigt gewesen sei.

Man verfolge das Ziel, neutrale und sachliche Informationen bereitzustellen, ohne eine politische Wertung vorzunehmen. Die Anpassung der Antwortmuster sei ein notwendiger Schritt gewesen, um diese Unparteilichkeit zu gewährleisten.

Wer sich mit der Einführung und Nutzung von KI-Systemen im professionellen Umfeld befasst, muss neben ethischen Fragen auch komplexe rechtliche Vorgaben beachten. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen und Pflichten der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen

Dennoch stießen die ursprünglichen Ergebnisse auf scharfe Ablehnung bei Beobachtern. Das Media Research Center (MRC) kritisierte das Verhalten von ChatGPT und sprach von einer deutlichen Voreingenommenheit der Algorithmen. Die Organisation sieht in der hohen Risikobewertung für den ehemaligen Präsidenten einen Beleg dafür, dass das Modell politisch gefärbte Antworten generiere, was die Glaubwürdigkeit der Technologie untergrabe.

Kurswechsel durch aktualisierte Sicherheitsregeln

Ein weiterer Entwicklungsschritt wurde am Freitag bekannt, als ChatGPT die Antworten in Bezug auf Donald Trump und den russischen Präsidenten Wladimir Putin grundlegend änderte. Das System kehrte seine vorherigen Einschätzungen zu beiden Politikern als Bedrohungen für die demokratische Grundordnung um. Als Begründung für diesen Wandel wurden aktualisierte Sicherheitsregeln angeführt, die in das Modell implementiert wurden.

Dieser Prozess verdeutlicht die Schwierigkeiten für Anbieter generativer künstlicher Intelligenz, bei gesellschaftlich hochsensiblen Themen eine konsistente Linie zu finden. Die neuen Sicherheitsvorgaben bei OpenAI sollen sicherstellen, dass das Modell bei Anfragen zu politischen Akteuren keine wertenden Ranglisten oder subjektive Gefahreneinschätzungen mehr erstellt.

Die Regulierung von KI-Systemen stellt viele Organisationen vor neue Herausforderungen bei der Risikodokumentation und Qualitätssicherung. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die gesetzlichen Dokumentationspflichten rechtssicher erfüllen. Kostenlosen Leitfaden zum EU AI Act sichern

Branchenbeobachter verfolgen die Anpassungen der Moderationsrichtlinien genau, da die Neutralität von KI-Systemen zunehmend in den Fokus der öffentlichen und regulatorischen Aufmerksamkeit rückt.

Während OpenAI die Änderungen als Korrektur eines technischen Fehlverhaltens darstellt, bleibt die Diskussion über die zugrunde liegenden Trainingsdaten und deren mögliche politische Gewichtung bestehen. Die aktuelle Kehrtwende zeigt, wie schnell Technologieunternehmen auf öffentliche Kritik reagieren, um den Vorwurf der Manipulation oder einseitigen Berichterstattung zu entkräften.

de | wissenschaft | 70052347 |