OpenAI holt Aleksander Madry zurück: KI-Sicherheit wird zur Priorität

Der KI-Forscher Aleksander Madry ist zu OpenAI zurückgekehrt. Dort widmet er sich künftig unter der Leitung von Chefwissenschaftler Jakub Pachocki der Erforschung und Bewältigung von Sicherheits- und Security-Risiken, die mit immer leistungsfähigeren Modellen der künstlichen Intelligenz einhergehen.

Madry ordnete seinen zwischenzeitlichen Abschied rückblickend als ein Sabbatical ein. Seine Perspektive auf die Entwicklung der Technologie habe sich gewandelt: Nicht mehr primär die Nützlichkeit von KI-Systemen stehe im Vordergrund, sondern das Lösen drängender Herausforderungen im Bereich von Schutz und Systemsicherheit.

Die Technologie sei mittlerweile in ein verändertes Regime des Fortschritts eingetreten, weshalb Safety und Security nun zur zentralen Priorität werden müssten.

Bestätigung durch die wissenschaftliche Leitung

OpenAIs Chefwissenschaftler Jakub Pachocki bestätigte den Schritt auf der Plattform X und erklärte, Madry zurückgeholt zu haben. Zudem betonte er, dessen fachliches Urteil in Sicherheitsfragen besonders zu schätzen.

Während Experten die technische Sicherheit von KI-Modellen erforschen, müssen Unternehmen bereits heute komplexe rechtliche Leitplanken beachten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen

Madry blickt auf eine längere Historie bei dem US-amerikanischen KI-Entwickler zurück. Vor seinem zwischenzeitlichen Ausscheiden leitete er das sogenannte Preparedness-Team des Unternehmens, das sich mit der Früherkennung und Eindämmung schwerwiegender Gefahren befasste, bevor er intern auf das Themenfeld des KI-Reasonings umgesetzt wurde.

Im Mai hatte er OpenAI nach knapp drei Jahren verlassen, um sich den ökonomischen Auswirkungen von KI zu widmen. Ursprünglich war er dem Unternehmen im Jahr 2024 beigetreten. Vor seiner Tätigkeit bei dem ChatGPT-Entwickler stand Madry dem Center for Deployable Machine Learning am Massachusetts Institute of Technology vor.

Die Identifikation von Hochrisiko-Systemen stellt viele Organisationen vor große Herausforderungen bei der praktischen Anwendung neuer Technologien. Erfahren Sie in diesem kostenlosen Report, welche konkreten Dokumentationspflichten auf Betriebe zukommen und wie Sie rechtlich auf der sicheren Seite bleiben. Kostenlosen Report zu KI-Risikoklassen anfordern

Zeitgleiche Umstrukturierung in der Infrastruktur

Die Rückkehr des Sicherheitsexperten fällt mit weiteren personellen Veränderungen in den Führungsebenen von OpenAI zusammen. Im Bereich der Rechen- und Infrastrukturressourcen tritt Sachin Katti von seinem Posten als Infrastrukturchef zurück. Katti soll dem Unternehmen künftig jedoch weiterhin in beratender Funktion zur Seite stehen. Zeitgleich übernimmt Uday Ruddarraju die Rolle des Chief Technology Officer für den Bereich Compute.