KI-Datenschutz: OpenAI und Anthropic dürfen Kunden-Prompts fürs Training nutzen
Veröffentlicht am: 02.10.2026 um 23:43 Uhr | Redaktion boerse-global.de
Forschende und Medienberichte richten den Blick verstärkt auf den Umgang führender Technologiekonzerne mit vertraulichen Eingaben. Im Mittelpunkt steht der Verdacht, dass Anbieter von künstlicher Intelligenz private Nutzerdaten sowie sensible Prompts für das Training und die Weiterentwicklung ihrer Modelle heranziehen. Die Diskussion wirft grundlegende Fragen zur Datensicherheit und zum Schutz von Betriebs- und Forschungsgeheimnissen auf.
Verdachtsfälle und Trainingsklauseln bei Sprachmodellen
Konkrete Vorwürfe wurden unter anderem im wissenschaftlichen Umfeld laut. Der Biologe Mario Rodríguez Mestre äußerte den Verdacht, dass Anthropic eine Ende September veröffentlichte Forschungsarbeit zu Enzymen verwertet haben könnte. Er und sein Team hatten die Funktionsweise dieser Enzyme nach eigenen Angaben rund ein Jahr zuvor entschlüsselt und entsprechende Daten mit dem Assistenten Claude geteilt. Direkte Beweise für eine unrechtmäßige Übernahme liegen nicht vor, und Anthropic bestreitet einen solchen Zusammenhang.
Ein Blick in die rechtlichen Rahmenbedingungen zeigt jedoch weitreichende Befugnisse der Plattformbetreiber. Sowohl OpenAI als auch Anthropic behalten sich in ihren Nutzungsbedingungen vor, Prompts auch von zahlenden Kunden für das Modelltraining einzusetzen, sofern die Nutzer dem Verfahren nicht ausdrücklich widersprechen.
Lediglich Unternehmenskunden haben die Möglichkeit, eine solche Verwertung vertraglich auszuschließen. Zudem sehen die Bestimmungen beider Anbieter vor, dass Chatinhalte gespeichert, ausgewertet und stichprobenartig durch Mitarbeitende überprüft werden können.
Sicherheitsvorfälle und geplante Werbemodelle
Dass die zentrale Speicherung von Chatverläufen erhebliche Risiken birgt, belegen frühere Zwischenfälle. Bei OpenAI führte eine Sicherheitslücke im Jahr 2023 dazu, dass Nutzer fremde Chatprotokolle einsehen konnten. Zudem meldete OpenAI Ende September 2026 einen weiteren Vorfall, bei dem automatisierte Agenten 53 Nutzerbilder ohne vorliegende Einwilligung online gestellt hatten.
Zusätzliche Brisanz erhält das Thema durch neu angekündigte Vermarktungsstrategien. Nach Angaben des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI) sowie der Landesbeauftragten für Datenschutz und Informationsfreiheit Nordrhein-Westfalen (LDI NRW) plant OpenAI die Einführung von hyperpersonalisierter Werbung in Europa.
Das Vorhaben betrifft die kostenlose Version von ChatGPT sowie ChatGPT Go. Auf Basis einer Opt-in-Einwilligung sollen frühere sowie aktuelle Chats, Gerätedaten und das Nutzungsverhalten zu individuellen Persönlichkeitsprofilen verknüpft werden.
Wird keine Einwilligung erteilt, soll stattdessen kontextbezogene Werbung ausgespielt werden, die auf aktuellen Eingaben, dem allgemeinen Standort oder der Sprache basiert.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. EU AI Act Umsetzungsleitfaden kostenlos herunterladen
Laut einer Studie von OpenAI entfallen allein 49 Prozent aller Eingaben auf die Kategorie Fragen. Beide deutschen Aufsichtsbehörden warnen vor den Datenschutzrisiken durch die Auswertung teils hochintimer Chatinhalte sowie einer potenziellen Echtzeit-Stimmungserkennung; die LDI NRW rät Nutzerinnen und Nutzern ausdrücklich von einer Einwilligung ab.
Sensorik und Datenschutz bei Hardware-Schnittstellen
Datenschutzbedenken beschränken sich nicht auf reine Textschnittstellen. Ein Abschlussbericht des HmbBfDI zur Datenbrille Ray-Ban Meta Wayfarer der ersten Generation verdeutlicht die Problematik im Bereich der Hardware. Das mit einer Weitwinkelkamera, fünf Mikrofonen und einem Qualcomm-Prozessor ausgestattete Gerät weist laut Aufsichtsbehörde Datenbankstrukturen mit den Bezeichnungen „face“ und „face_group“ auf, die auf derzeit ungenutzte Vorbereitungen für eine Gesichtserkennung hindeuten.
Der HmbBfDI bemängelt zudem, dass die Signal-LED bei Anfragen an Meta AI teilweise kaum oder gar nicht erkennbar ist. Werden bei der Nutzung Daten unbeteiligter Dritter für das KI-Training übermittelt, greift nach Ansicht der Hamburger Behörde die sogenannte DSGVO-Haushaltsausnahme nicht mehr.
In der Folge könnten die Brillentragenden gemeinsam mit Meta rechtlich verantwortlich sein. Unternehmen wird daher geraten, das KI-Training auf entsprechenden Geräten zu deaktivieren und den Einsatz in sensiblen Bereichen klar zu regeln.
Vorgaben und Schutzmaßnahmen für Unternehmen
Um Risiken beim Einsatz moderner KI-Werkzeuge zu minimieren, rücken klare interne Richtlinien in den Fokus. Entsprechende Leitfäden empfehlen, Regelungen an Datenklassen, den konkreten Einsatzzweck und freigegebene Werkzeuge zu koppeln. Als Orientierung dient etwa das Rahmenwerk der Universität Stuttgart, welches Informationen in öffentlich, intern, vertraulich und streng vertraulich unterteilt.
Organisationen sollten ihren Beschäftigten verbindlich vorschreiben, ausschließlich dienstliche Konten sowie freigegebene Endgeräte zu nutzen, Texteingaben auf das Notwendige zu beschränken, generierte Ergebnisse stets fachlich zu kontrollieren und Fehlgriffe unverzüglich zu melden. Neue Softwarewerkzeuge erfordern zudem strukturierte Freigabeprozesse, ohne die eine Datenverarbeitung unzulässig bleibt.
Compliance-Experten warnen: Wer die neuen Regeln beim Einsatz künstlicher Intelligenz ignoriert, riskiert empfindliche Strafen. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Dabei entbindet auch die Wahl eines deutschen Rechenzentrums nicht von den gesetzlichen Pflichten. Ein inländischer Serverstandort betrifft vorrangig die Regeln für Drittlandübermittlungen, ersetzt jedoch weder den Abschluss von Auftragsverarbeitungsverträgen noch die Umsetzung technischer und organisatorischer Maßnahmen.
Die Bedeutung dieser Vorgaben wächst stetig: Nach Zahlen des Statistischen Bundesamts nutzten im Jahr 2025 bereits 54 Prozent der Unternehmen ab zehn Beschäftigten kostenpflichtige Cloud-Dienste. In der Gruppe von 10 bis 49 Beschäftigten lag der Anteil bei 51 Prozent, stieg bei Betrieben mit 50 bis 249 Beschäftigten auf 65 Prozent und erreichte bei Großunternehmen ab 250 Beschäftigten 86 Prozent.
