Australien sagt Social-Media-Algorithmen den Kampf an

Nachdem das Land Ende vergangenen Jahres als erstes weltweit Social-Media-Konten für Kinder und Jugendliche unter 16 Jahren verboten hatte, sollen nun auch ältere Nutzer mehr Kontrolle darüber bekommen, welche Inhalte ihnen die Plattformen anzeigen. In der Europäischen Union und damit auch in Deutschland existieren für große Online-Plattformen bereits vergleichbare Vorgaben.

In Australien sollen Nutzer ab 16 Jahren künftig wählen können, ob sie einen von Algorithmen zusammengestellten Feed in ihren sozialen Netzwerken sehen wollen oder lediglich Beiträge von Freunden und Content Creators, denen sie selbst folgen. Die Regierung stellte jetzt einen entsprechenden Gesetzesentwurf vor, der Plattformen verpflichten soll, ihren Usern diese Wahlmöglichkeit anzubieten.

"Technologie zum Guten verändern"

"Es geht nicht darum, der Regierung Kontrolle zu geben, sondern den Menschen", sagte Premierminister Anthony Albanese. "Wir haben die Chance, die Technologie zum Guten zu verändern, statt uns von ihr verändern zu lassen." Das Motto laute dementsprechend: "My feed, my way" (mein Feed, meine Wahl).

Das Vorhaben ist Teil eines neuen Gesetzes zur digitalen Sorgfaltspflicht ("Digital Duty of Care"). Gemeint ist damit eine gesetzliche Verpflichtung für Anbieter digitaler Dienste, ihre Angebote so zu gestalten, dass insbesondere junge Nutzer besser vor schädlichen Inhalten und Funktionen geschützt werden. Neue Regeln sind deshalb nicht nur für soziale Netzwerke geplant, sondern auch für Online-Spiele, Apps und KI-Chatbots.

Auch lebensgefährliche Mutproben im Visier

Für unter 18-Jährige sollen Plattformen unter anderem gegen Inhalte vorgehen müssen, die Essstörungen fördern, frauenfeindliche Einstellungen verbreiten oder Pornografie, Verbrechen und lebensgefährliche Mutproben verherrlichen. Auch Funktionen, die süchtig machen oder das Selbstwertgefühl junger Menschen beeinträchtigen können, sollen stärker reguliert werden.

Bei Verstößen gegen die neue Sorgfaltspflicht sollen hohe Geldstrafen möglich sein. Die Regierung hat den Gesetzentwurf zunächst zur Beratung mit Plattformbetreibern, Branchenverbänden und Organisationen vorgelegt. Noch in diesem Jahr soll er ins Parlament eingebracht werden.

Das sind die Regeln in Europa

In der EU verpflichtet das europäische Digitalgesetz (Digital Services Act, DSA) "sehr große Dienste" wie TikTok, Instagram, YouTube und X schon heute dazu, ihren Nutzern mindestens eine Option für Empfehlungssysteme anzubieten, die nicht auf sogenanntem Profiling basiert. Nutzer können dort theoretisch auf rein chronologische Feeds umschalten, auch wenn Kritiker bemängeln, dass diese Funktionen von den Konzernen oft tief in den Einstellungen versteckt werden.

Weiterhin nimmt das EU-Recht die Tech-Konzerne bei den Risiken ihrer Algorithmen in die Pflicht. Plattformen müssen systematisch prüfen und nachweisen, dass ihre Empfehlungsmechanismen keine Verhaltenssüchte bei Jugendlichen fördern oder sogenannte Kaninchenbau-Effekte auslösen, die Nutzer immer tiefer in potenziell schädliche Inhalte ziehen. Bei systematischen Verstößen gegen diese Sorgfaltspflichten drohen den Anbietern empfindliche Strafen von bis zu sechs Prozent ihres weltweiten Jahresumsatzes.

In Deutschland wird die Einhaltung dieser Vorgaben vor allem durch die Bundesnetzagentur als nationale Koordinierungsstelle sowie durch das novellierte Jugendschutzgesetz flankiert. Ein pauschales Zugangsverbot für jüngere Jugendliche zu sozialen Netzwerken, wie es Australien Ende vergangenen Jahres beschlossen hat, gibt es in der Bundesrepublik und auf europäischer Ebene allerdings nicht. Hier setzt die Politik bislang vorrangig auf strengere Vorgaben für die Plattformbetreiber statt auf pauschale Altersgrenzen.