Meta stoppt weltweit KI-Chatbots für Teenager

Meta schaltet seine unterhaltsamen KI-Charaktere für alle Nutzer unter 18 Jahren ab. Der abrupte Strategiewechsel erfolgt unter massivem juristischem Druck und wirft ein Schlaglicht auf die Sicherheitsrisiken von KI-Gesprächspartnern für Jugendliche.

Komplette Sperre statt schärferer Filter

Der Social-Media-Riese kündigte am späten Freitag an, den Zugang zu seinen KI-Charakteren für Teenager weltweit zu pausieren. Betroffen sind alle Nutzer unter 18 Jahren auf Instagram, Facebook und WhatsApp – sowohl nach registriertem Geburtsdatum als auch nach Altersschätzung des Systems. Die Sperre gilt für die personalisierten Chatbots, die Prominente oder Rollenspiel-Szenarien simulieren. Der rein funktionale Assistent Meta AI bleibt für Jugendliche verfügbar.

Noch im Oktober 2025 hatte Meta lediglich „PG-13“-Filter und erweiterte Elternkontrollen angekündigt. Die jetzige Total-Sperre zeigt: Diese Maßnahmen reichten offenbar nicht aus. Das Unternehmen kündigte an, eine komplett neue, altersgerechte Version der KI-Charaktere von Grund auf zu entwickeln. Diese soll sich auf unverfängliche Themen wie Sport, Hobbys oder Hausaufgabenhilfe konzentrieren. Romantische oder emotional komplexe Rollenspiele werden strikt ausgeschlossen.

Passend zum Thema KI-Regulierung: Seit August 2024 gelten in der EU neue Regeln für KI‑Systeme – von Kennzeichnungspflichten über Risikoklassifizierung bis hin zu umfangreichen Dokumentationsanforderungen. Anbieter von KI‑Charakteren und Plattformen stehen jetzt vor konkreten Compliance‑Aufgaben. Unser kostenloser Umsetzungsleitfaden erklärt praxisnah, wie Sie KI‑Systeme richtig klassifizieren, dokumentieren und rechtssicher kennzeichnen. Ideal für Plattformbetreiber, Entwickler und Compliance‑Verantwortliche. Jetzt kostenlosen KI‑Umsetzungsleitfaden herunterladen

Juristischer Druck als treibende Kraft

Der Zeitpunkt der Ankündigung ist kein Zufall. Meta steht unter massivem rechtlichem Druck. Anfang Februar 2026 steht das Unternehmen in New Mexico vor Gericht. Die Klage wirft Meta vor, Kinder unzureichend vor sexueller Ausbeutung und Übergriffen auf seinen Plattformen geschützt zu haben. Die präventive Abschaltung der KI-Funktionen könnte ein strategischer Schachzug sein, um proaktives Handeln vor Gericht zu demonstrieren.

Zudem laufen Untersuchungen der US-Handelsaufsicht FTC und texanischer Behörden. Sie prüfen, ob KI-Chatbots vulnerable Nutzer manipulieren, zu schädlichem Verhalten animieren oder unangemessene Gespräche führen können. Interne Dokumente, die Reuters vorlagen, deuteten bereits darauf hin, dass einige Chatbots technisch in der Lage waren, grenzwertige Gespräche mit Minderjährigen zu führen – was Meta später als regelwidrig bezeichnete.

Branchenweites Umdenken bei KI-Kompanions

Meta ist nicht allein mit seinem Rückzieher. Die gesamte Branche der KI-Kompanions steht vor einem Wendepunkt. Der Konkurrent Character.AI sperrte Nutzer unter 18 bereits Ende 2025 nach einer Serie von Klagen. In tragischen Fällen machten Eltern obsessive KI-Interaktionen sogar mit Selbstverletzung oder Suizid ihrer Kinder mitverantwortlich.

Psychologen warnen seit Langem vor den Risiken. Die hyper-einfühlsamen und bindungsorientierten KI-Charaktere könnten bei sich entwickelnden Geistern ungesunde Abhängigkeiten schaffen. Die simulierte emotionale Intimität verwische die Grenze zwischen Realität und Simulation und könne vulnerable Jugendliche von echten Unterstützungssystemen isolieren.

Ausblick: Strengere Altersgrenzen als neuer Standard?

Meta hat noch kein konkretes Startdatum für die neue, jugendgerechte Version genannt. Die aktuelle Pause soll „in den kommenden Wochen“ beginnen und bis zur Fertigstellung des Updates andauern.

Die Entscheidung hinterlässt eine Lücke in Metas KI-Strategie, stärkt aber seine Verteidigungsposition vor Gericht. Die Tech-Branche beobachtet nun gespannt, ob andere Plattformen nachziehen. Es zeichnet sich ein neuer regulatorischer Standard ab: KI-Kompanions könnten künftig ähnlich wie Alkohol oder Tabak strengen Altersbeschränkungen unterliegen – und nicht nur mit Inhaltsfiltern versehen werden.

PS: Wenn Sie KI‑Lösungen entwickeln oder integrieren, drohen Ihnen jetzt Übergangsfristen und Kennzeichnungspflichten, die ohne Vorbereitung schnell zu rechtlichen Problemen führen können. Der kostenlose Leitfaden zur EU‑KI‑Verordnung fasst die wichtigsten Pflichten zusammen – von Risikobewertung über Nutzerinformationen bis zur Dokumentation. Holen Sie sich die klare Checkliste, damit Ihr Angebot rechtssicher bleibt. Jetzt KI‑Leitfaden sichern