ChatGPT: OpenAI lässt 900 Millionen Nutzer von Externen bewerten

OpenAI lässt echte Konversationen seines Chatbots ChatGPT von externen Arbeitskräften manuell einsehen und bewerten. Dies geht aus Medienberichten vom 15. September 2026 hervor und sorgt für erhebliche Bedenken hinsichtlich des Datenschutzes. Von der Praxis sind potenziell über 900 Millionen Nutzer der Plattform betroffen.

Projekt Lily und die Bewertung von Dialogen

Nach Angaben von 404 Media sind im Rahmen einer intern als „Project Lily“ bezeichneten Initiative hunderte Auftragnehmer damit beschäftigt, echte Chatprotokolle zu analysieren. Die Vermittlung dieser Hilfskräfte läuft über die Dienstleister Crossing Hurdles sowie Mercor, wobei die Entlohnung bei über 50 US-Dollar pro Stunde liegt.

Die Prüfer erhalten dabei den Auftrag, jeweils vier Antwortvarianten des Modells auf einer Skala von 1 bis 7 zu bewerten. Als zentrales Ziel dieser menschlichen Überprüfung gilt die qualitative Nachbesserung der Modelle: OpenAI will damit das sogenannte sykovantische Verhalten – also das übermäßige, unkritische Zustimmen der KI gegenüber Nutzern – sowie unnatürliche, generative Sprachmuster eindämmen.

Wer sich mit dem Einsatz moderner Technologien befasst, muss die neuen rechtlichen Rahmenbedingungen kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Lücken in den Schutzmechanismen

Um die Privatsphäre der Nutzer zu wahren, setzt OpenAI auf einen automatisierten Filter, der Nutzernamen und Klarnamen vor der Weitergabe an die Prüfer entfernt. Allerdings räumt das Unternehmen ein, dass dieser Filter seltene Identifikatoren verfehlen und insbesondere bei kurzen Dialogen personenbezogene Daten durchlassen kann. Sensible Details in den Eingabetexten bleiben daher unter Umständen für die Lesenden sichtbar.

Zudem erhalten die Prüfkräfte weitergehende Kontextdaten: Eine Zusammenfassung der gespeicherten Nutzerinformationen zeigt den beauftragten Arbeitskräften unter anderem Interessen, Details zur früheren Nutzung sowie den ungefähren Standort der betroffenen Personen an.

Die Nutzung von KI-Systemen stellt Unternehmen vor neue Herausforderungen bei der rechtlichen Absicherung und Risikodokumentation. Ein kostenloser Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Umsetzungsleitfaden zur KI-Verordnung kostenlos anfordern

Einstellungen zur Datennutzung und Branchenstandard

Dass Interaktionen für das Training und die Überprüfung verwendet werden, hängt von den Voreinstellungen des Nutzerkontos ab. Bei den Tarifstufen Free, Plus und Pro ist die Option zur Modellverbesserung standardmäßig aktiviert.

Nutzer können dieser Erfassung zwar widersprechen, ein solcher Opt-out greift jedoch ausschließlich für künftige Sitzungen und wirkt nicht rückwirkend auf bereits geführte Unterhaltungen.

Temporäre Chats sind von der Nutzung für Trainings- und Prüfzwecke generell ausgenommen. Für Kunden von Enterprise-, Business- und Bildungszugängen ist die Weiterverwendung von Daten zur Modelloptimierung hingegen bereits standardmäßig abgeschaltet.

Die manuelle Auswertung von Benutzerdialogen ist in der Branche nicht unüblich. Auch das KI-Unternehmen Anthropic bestätigte ein ähnliches manuelles Prüfverfahren für Konversationen mit dem System Claude, sofern die Nutzer der Modellverbesserung zugestimmt haben. Ebenso weist Google bei seinem Dienst Gemini darauf hin, dass menschliche Prüfer Einblick in Chats erhalten können.

de | wissenschaft | 70107546 |