OpenAI, Jakub

OpenAI: Jakub Pachocki schlägt gemeinsame Obergrenzen für KI-Entwicklung vor

Veröffentlicht am: 22.11.2026 um 22:56 Uhr | Redaktion boerse-global.de
Jakub Pachocki plädiert für abgestimmte KI-Messungen und Sicherheitsprüfungen, räumt jedoch methodische Grenzen seiner Kennzahl ein.
Ein minimalistischer, modern gestalteter Flur mit Sichtbetonwänden und geometrischen Schattenwürfen in einer Forschungseinrichtung. Illustration mit AI erstellt.

OpenAI-Chefwissenschaftler Jakub Pachocki hat vorgeschlagen, dass führende Entwickler künstlicher Intelligenz branchenweite Standards und gemeinsame Obergrenzen für Entwicklungsschwellenwerte vereinbaren. Wie aus einem Essay des Forschers hervorgeht, sollten bestimmte Leistungsgrenzen nicht überschritten werden, bevor konkrete Meilensteine bei der Überwachung der Systeme erreicht sind.

Als gemeinsame Kennzahl für die Modellentwicklung und künftige Sicherheitsstandards schlug Pachocki die sogenannte Perplexity beziehungsweise den Cross-Entropy-Loss vor.

In diesem Zusammenhang veröffentlichte OpenAI erstmals interne Log-Perplexity-Werte, die auf einem festen unternehmenseigenen Code-Datensatz ermittelt wurden. Demnach erreichte GPT-3.5 einen Wert von rund 0.99, was flüssige Konversationen ermöglichte, während GPT-4 bei etwa 0.91 lag und Chain-of-Thought-Reasoning erlaubte.

Unterhalb eines Werts von 0.8 traten nach Angaben des Chefwissenschaftlers transformative Fähigkeiten in den Bereichen Cybersicherheit und Mathematik auf. Ein Modell bei rund 0.76 habe bereits langjährige offene mathematische Probleme gelöst.

Warnung vor einer Eigendynamik in der Forschung

Für das Fenster zwischen 0.68 und 0.70 Log-Perplexity erwartet Pachocki weitere transformative Fähigkeiten. Er schlug vor, diese Schwelle nicht zu durchbrechen, bis entsprechende Kontroll- und Monitoring-Techniken nachgezogen haben – etwa Weiterentwicklungen von Chain-of-Thought-Monitoren.

Anzeige

Die rasante Entwicklung leistungsfähiger KI-Systeme führt bereits heute zu neuen regulatorischen Anforderungen für Unternehmen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über Pflichten, Fristen und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen

Pachocki warnte vor einem möglichen Lawineneffekt in der Pretraining-Forschung bereits im Jahr 2027. In einem solchen Szenario könnte eine künstliche Intelligenz ihre eigene Weiterentwicklung schneller beschleunigen, als menschliche Forscher bei der Entwicklung von Kontrollmechanismen Schritt halten können.

Bei OpenAI habe sich die Fortschrittskurve im Jahr 2026 stark beschleunigt, was überwiegend auf Forschungsfortschritte und Rechenkapazitäten sowie zu einem kleineren Teil auf Automatisierung zurückgeführt wird.

Um Risiken zu minimieren, regte Pachocki an, dass sogenannte Frontier-Labs vergleichbare Messungen aus dem Pretraining veröffentlichen, einheitliche Evaluierungen sowie Sicherheitstests vereinbaren und vor dem ersten praktischen Einsatz umfassende Sicherheitsprüfungen im Rahmen von Red-Teaming durchführen.

Anzeige

Wer sich mit dem verantwortungsvollen Einsatz von Algorithmen befasst, muss neben technischen auch rechtliche Leitplanken kennen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen nun konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Unterstützung durch das Management und methodische Hürden

OpenAI-Chef Sam Altman stellte sich hinter den Vorstoß des Chefwissenschaftlers. Altman bezeichnete Pachockis Beitrag als die wichtigste Veröffentlichung des Unternehmens seit einiger Zeit und betonte, dass eine Einigung auf gemeinsame Obergrenzen der allgemeinen Sicherheit und Kontrolle diene.

Gleichzeitig räumte Pachocki methodische Grenzen seines Ansatzes ein. So seien die Messergebnisse zwischen verschiedenen Laboren aufgrund unterschiedlicher Trainingsdatensätze nur schwer vergleichbar.

Zudem bilde die Perplexity keine konkreten Aufgabenstellungen ab. Auch methodische Verbesserungen im Post-Training sowie bei Chain-of-Thought-Verfahren könnten die Fähigkeiten eines Modells steigern, ohne dass der eigentliche Loss-Wert sinkt.

Darüber hinaus sei die absolute theoretische Untergrenze der Metrik unbekannt. Einen konkreten Schwellenwert für ein erstes verbindliches Limit, potenzielle Kooperationspartner oder einen Zeitplan für die Umsetzung nannte Pachocki bislang nicht.

Disclaimer...
de | wissenschaft | 70544846 |