Macron zu KI: Verbote, wenn Systeme die psychische Gesundheit von Kindern gefährden

Frankreichs Staatspräsident Emmanuel Macron drängt auf strikte Regulierungen und gezielte Verbote beim Einsatz von Systemen auf Basis künstlicher Intelligenz.

In einem Interview mit der Wirtschaftszeitung Les Échos betonte er, dass die Technologie überall dort untersagt werden müsse, wo sie eine Gefahr für Kinder darstelle. Dies gelte in erster Linie für Risiken, die die psychische Gesundheit sowie die Gehirnentwicklung von Heranwachsenden betreffen.

Der Bereich dürfe kein gesetzloser Raum werden, nur weil es sich um moderne Technologien handle, und das bisherige System sei schlicht nicht mehr tragfähig.

Neben dem Schutz von Kindern definierte Macron zwei weitere zentrale Gefahrenbereiche für künftige Vorgaben: die demokratische Sicherheit sowie die nationale Sicherheit.

Bereits am 9. November 2026 stellte Frankreichs Staatschef klar, dass vor konkreten Anwendungsverboten zunächst wissenschaftliche Untersuchungen die Risiken bestimmter Interaktionen von Minderjährigen mit generativen Modellen präzise bestimmen müssten. Flankierend dazu sprach er sich für ein Verbot bestimmter soziale Netzwerke für Jugendliche unter 15 Jahren aus.

Internationale Konsultationen und Vorab-Prüfungen

Um diese Vorgaben international zu verankern, berief Macron eine hochrangige Videokonferenz ein. An dem Austausch beteiligten sich rund 50 Staats- und Regierungschefs, Vertreter internationaler Organisationen, Forscher sowie Führungskräfte führender Technologiekonzerne.

Wer sich mit der zunehmenden Regulierung von KI-Systemen befasst, benötigt einen klaren Überblick über die neuen gesetzlichen Rahmenbedingungen. Dieser kostenlose Leitfaden erläutert kompakt die wichtigsten Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen

Unter den Teilnehmern waren unter anderem die Regierungschefs von Großbritannien, Kanada, den Niederlanden, Norwegen und Japan. Aus der Digitalwirtschaft nahmen unter anderem die Vorstandschefs von OpenAI, Sam Altman, und Anthropic, Dario Amodei, sowie Spitzenvertreter von Mistral AI und Microsoft teil.

Nach Angaben des Élysée-Palastes sicherten OpenAI und Anthropic zu, ihre Modelle vor der Freigabe für Minderjährige künftig unabhängigen Prüfungen und Vorab-Audits zu unterziehen. Wie Macron darlegte, hätten die Unternehmen dem Grundsatz zugestimmt, dass Modelle zertifiziert und geprüft werden müssen, bevor junge Nutzer darauf zugreifen können.

Frankreich beabsichtigt zudem, diese Bewertungskriterien auf europäischer Ebene in verbindliche Regulierungen zu überführen und Partnerländer wie die USA und Kanada zu einem vergleichbaren Vorgehen zu bewegen.

Pariser Aufruf und Initiativen für Minderjährige

Parallel zu den politischen Konsultationen schlossen sich rund 50 Akteure dem Pariser Aufruf für KI-Sicherheit an. Das Dokument wurde von sechs Staaten – Frankreich, Finnland, den Niederlanden, Norwegen, Kanada und Bahrain – sowie zehn Branchenunternehmen unterzeichnet, darunter OpenAI, Anthropic, Microsoft und Mistral AI.

Die neuen Vorschriften zur Künstlichen Intelligenz stellen Unternehmen vor komplexe Herausforderungen bei der Compliance und Dokumentation. Erfahren Sie in diesem kostenlosen Umsetzungsleitfaden, welche konkreten Anforderungen jetzt auf Entwickler und Anwender zukommen. Kostenlosen KI-Compliance-Report herunterladen

Ebenfalls beteiligt sind zivilgesellschaftliche und wissenschaftliche Organisationen wie LawZero, SaferAI, AI Safety Connect und das französische Institut Ifri. Die Erklärung konzentriert sich auf drei Prioritäten: unabhängige öffentliche Evaluierungen, ein koordinierter Informationsaustausch über schwerwiegende Störfälle und klar definierte Verantwortlichkeiten aufseiten der Entwickler.

Auf dem Paris Peace Forum stand am 10. November 2026 die Annahme einer nicht bindenden Charta auf der Agenda. Darin sagen Technologieanbieter unabhängige Kontrollen und den Zugang zu internen Modelldaten zu, bevor Produkte Minderjährigen zugänglich gemacht werden.

Ergänzt wird die Initiative durch die Erklärung Kinder zuerst. Zudem sollte am selben Tag ein spezialisierter Expertenausschuss Macron eigene Empfehlungen zu zentralen Feldern wie kognitiver Entwicklung, Bildung, psychischer Gesundheit und Abhängigkeitsrisiken übergeben.