OpenAI-Bildklassifikator, Bilder

OpenAI-Bildklassifikator: 48 Prozent weniger Bilder für menschliche Prüfung

Veröffentlicht am: 22.11.2026 um 19:23 Uhr | Redaktion boerse-global.de
OpenAI meldet weniger manuelle Prüfungen in ersten Tests; unabhängige Kontrollen der Leistungsdaten stehen noch aus.
Ein minimalistischer, leerer Serverraum mit metallischen Regalen und kühler Beleuchtung. Illustration mit AI erstellt.

Das US-amerikanische Technologieunternehmen OpenAI hat einen neuen KI-basierten Bildklassifikator vorgestellt, der Missbrauchsbilder von Kindern wirksamer erkennen und herausfiltern soll. Das System zielt insbesondere auch auf KI-generierte Inhalte ab.

Anders als herkömmliche Schutzsysteme verlässt sich das Werkzeug nicht ausschließlich auf den Abgleich bekannter digitaler Fingerabdrücke, sogenannter Hashes. Stattdessen analysiert die Software visuelle Missbrauchssignale und weist den Inhalten Bewertungswerte zu, die menschlichen Prüfern als Entscheidungshilfe dienen.

OpenAI kündigte das Werkzeug bei einem Pressebriefing in Washington, DC an. Nach Angaben von John Buckley von OpenAI handelt es sich um den ersten breit verfügbaren Klassifikator für Missbrauchsmaterial mit einem spezifischen Erkennungssignal für KI-Generierung.

Das System soll geprüften Organisationen kostenfrei über eine Schnittstelle bereitgestellt werden. Zudem stellte das Unternehmen Begleitmaßnahmen wie Entwicklerleitlinien und Schulungen für Strafverfolgungsbehörden in Aussicht. Entwickelt wurde das Modell laut Unternehmensangaben mit Unterstützung des National Center for Missing & Exploited Children (NCMEC).

Testergebnisse und Rückmeldungen aus der Praxis

In ersten Testläufen mit Partnerorganisationen reduzierte das System die Zahl der Bilder, die einer menschlichen Überprüfung unterzogen werden mussten, um 48 Prozent. Die Menge der letztlich identifizierten Missbrauchsbilder blieb dabei annähernd gleich. Laut OpenAI wiesen die vom Klassifikator markierten Bilder eine doppelt so hohe Wahrscheinlichkeit auf, tatsächlich mit Missbrauch in Verbindung zu stehen.

Anzeige

Wer sich professionell mit dem Einsatz von KI-Systemen befasst, steht oft vor komplexen rechtlichen Fragen zu Risikoklassen und Dokumentationspflichten. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen

Erste Partner meldeten konkrete Ergebnisse: Die Organisation Fal bestätigte, dass 72 Prozent der mit hoher Zuverlässigkeit markierten Funde zuvor unbekanntes Missbrauchsmaterial darstellten. Bei der Organisation SafetyKit identifizierte das Werkzeug 90 Prozent der Fälle, in denen Zeichnungen oder Animationen Kinder sexualisierten.

Hintergrund der Entwicklung ist eine deutliche Zunahme synthetischer Missbrauchsabbildungen. Bei den Meldestellen führt die Verbreitung von Deepfake-Material zu massiven Überlastungen. So verzeichnete die CyberTipline des NCMEC im Jahr 2025 insgesamt 400.000 Meldungen mit Bezug zu generativer Künstlicher Intelligenz, nachdem es im Jahr 2024 noch 67.000 Meldungen gewesen waren.

Der Generalstaatsanwalt von North Carolina, Jeff Jackson, bezeichnete diesen Zuwachs als explosionsartig. Nach eigenen Angaben leitet OpenAI ausnahmslos alle Fälle von Kindesmissbrauchsmaterial an das NCMEC weiter.

Sicherheitsregeln und regulatorischer Rahmen

Parallel zu dem neuen Klassifikator greifen bestehende Sicherheitsmechanismen auf den Plattformen des Unternehmens. Wenn Nutzer versuchen, über ChatGPT nach Missbrauchsmaterial zu suchen, wird der Vorgang durch einen Warnhinweis unterbrochen und die Unterhaltung gelöscht. Das betroffene Konto wird daraufhin für 24 Stunden gesperrt.

Bei wiederholten Verstößen drohen längere Sperrzeiten, eine vollständige Kontoschließung oder die Weiterleitung des Vorfalls an die zuständigen Behörden.

Anzeige

Die technologische Entwicklung bringt neue rechtliche Spielregeln mit sich, die insbesondere für Compliance-Verantwortliche entscheidend sind. Ein kostenloser Report klärt darüber auf, welche KI-Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Report zur KI-Verordnung anfordern

Offene Fragen bleiben indes bei der technischen Überprüfbarkeit. OpenAI veröffentlichte bislang keine technischen Details zur Modellarchitektur, zur genauen Treffsicherheit oder zur Rate von Falschpositiven. Sämtliche Leistungsdaten basieren derzeit auf Angaben des Anbieters selbst; unabhängige Überprüfungen hinsichtlich möglicher Übersehensraten bei unterschiedlichen Bildquellen stehen noch aus.

Auch der regulatorische Kontext setzt hohe Hürden für den praktischen Einsatz: Nach den Vorgaben des europäischen KI-Gesetzes gelten Systeme zur Moderation von Inhalten, die Grundrechte berühren können, als hochriskant. Da Falschmeldungen erhebliche rechtliche Konsequenzen sowie Reputationsschäden nach sich ziehen können, gilt eine lückenlose menschliche Aufsicht in diesem Bereich als unverzichtbar.

Disclaimer...
de | wissenschaft | 70544762 |