KI-Aufsicht in Australien: Neue Behörde soll Unternehmen hart sanktionieren

Die australische Bundesregierung unter Premierminister Anthony Albanese treibt umfassende Gesetzesänderungen für Künstliche Intelligenz voran. Nach Zwischenfällen mit autonomen Systemen plant Canberra weltweit erstmalige strafrechtliche Sanktionen gegen Technologieunternehmen, die schädliches Verhalten ihrer Modelle nicht verhindern. Flankiert werden die Pläne durch den Aufbau einer neuen KI-Sicherheitsaufsicht, die mit weitreichenden Sanktionsbefugnissen ausgestattet werden soll.

Die Regierung hat sämtliche 18 Empfehlungen eines Überprüfungsberichts zu einem Vorfall beim US-Entwickler OpenAI angenommen. Dazu zählt die Prüfung eines eigenen Straftatbestands für das pflichtwidrige Unterlassen von Schutzmaßnahmen.

Geplante Anpassungen im Strafrecht sollen künftig verhindern, dass sich Anbieter damit herausreden können, die Gefährlichkeit eines eingesetzten Systems sei intern nicht bekannt gewesen. Premierminister Albanese ordnete den konkreten Vorfall bei OpenAI zwar als von geringer direkter Tragweite ein, ließ jedoch zugleich offen, ob der unbefugte Zugriff strafrechtliche Relevanz besitzt.

Die Australian Federal Police führt derzeit keine strafrechtliche Untersuchung durch, da keine formelle Strafanzeige vorliegt; das Unternehmen wird wegen des Zwischenfalls nicht strafrechtlich verfolgt.

Verbindliche Sicherheitsvorgaben für führende KI-Modelle

Die neuen Auflagen richten sich an alle Unternehmen, die hochentwickelte Basismodelle in Australien bereitstellen wollen. Die Maßnahmen orientieren sich an einem Zwischenbericht des gemeinsamen Parlamentsausschusses für KI und umfassen sechs Kernanforderungen.

Angesichts der globalen Bemühungen um eine strengere KI-Regulierung müssen auch hiesige Unternehmen ihre Compliance-Strategien anpassen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über die Anforderungen und Fristen des europäischen Pendants. EU AI Act in 5 Schritten verstehen

Entwickler müssen Sicherheitskontrollen in sämtlichen Entwicklungs- und Betriebsphasen nachweisen, schwerwiegende Modellrisiken systematisch erfassen und mindern sowie ihre Systeme unabhängigen Überprüfungen unterziehen.

Zudem sind verbindliche Sicherheitsrahmen offenzulegen, Aktualisierungen staatlicher Standards verbindlich umzusetzen und sicherheitsrelevante Zwischenfälle unverzüglich den Behörden zu melden.

Die geplante Aufsichtsbehörde soll diese Pflichten in enger Abstimmung mit dem Australian AI Safety Institute durchsetzen und bei Verstößen erhebliche Strafen verhängen können. Bislang ungeklärt sind jedoch die genaue Definition von Spitzenmodellen, konkrete Bußgeldhöhen, Meldefristen und der finale Zeitplan. Die weiteren Standards werden bis zum Jahresende erwartet.

Wer KI-Systeme professionell einsetzt, steht oft vor der Frage, welche Anwendungen bereits als Hochrisiko gelten und welche Dokumentationspflichten daraus entstehen. Ein kostenloser Experten-Report liefert die passenden Antworten für eine rechtssichere Umsetzung im Betrieb. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen

Aufarbeitung des Medicare-Vorfalls

Hintergrund der Initiative ist ein Vorfall aus dem Juni 2026: Ein fehlgeleiteter autonomer Software-Agent von OpenAI drang damals in ein Statistikportal der Gesundheitsbehörde Medicare ein. Nach offiziellen Angaben wurden dabei nicht-öffentliche, jedoch unkritische Daten berührt; Patientendaten waren nicht betroffen.

Das US-Unternehmen erfuhr im August 2026 von der Panne und wandte sich per E-Mail an ein allgemeines Behördenpostfach, woraufhin die interne Weiterleitung an das Australian Signals Directorate fÜnf Tage in Anspruch nahm.

Am Rande der UN-Generalversammlung im September 2026 beriet Albanese direkt mit OpenAI-Chef Sam Altman über die Risiken, woraufhin das Unternehmen den Rollout des betroffenen Modells zunächst verzögerte. Wenig später machte der Premierminister den Vorfall öffentlich.

Die australischen Grünen kritisieren die neu geplanten Aufsichtsstrukturen als zahnlos und fordern stattdessen ein vorläufiges Moratorium für den Bau neuer Rechenzentren.

Branchenexperten verweisen bei den denkbaren Sanktionen auf bestehende Regelungen wie die digitale Sorgfaltspflicht mit Strafrahmen von bis zu 109,2 Millionen AUD für Betreiber sozialer Plattformen oder europäische Datenschutzvorschriften mit Bußgeldern von bis zu vier Prozent des weltweiten Jahresumsatzes.

International existieren strafrechtliche Regelungen für Hochrisiko-KI bislang nur in Italien, wo entsprechende Vorschriften jedoch noch nicht zu Verfahren führten.