EU AI Act ab 2. August: KI-Inhalte müssen gekennzeichnet werden
20.06.2026 - 13:45:56 | boerse-global.de
OpenAI hat einen Meilenstein verkündet: Das neueste Reasoning-Modell des Unternehmens hat ein Mathematik-Problem geknackt, an dem Forscher acht Jahrzete lang gescheitert waren. Die Ankündigung vom heutigen Samstag sorgt in der Fachwelt für Aufsehen – zumal das Unternehmen zuvor bereits ähnliche Durchbrüche behauptet und später wieder zurückgezogen hatte. Zur externen Validierung hat OpenAI nun prominente Mathematiker wie Noga Alon, Melanie Wood und Thomas Bloom eingeschaltet.
KI-Halluzinationen: Neue Datenbank soll Abhilfe schaffen
Während die Branche die Grenzen des Machbaren verschiebt, bleibt ein Problem hartnäckig: KI-Modelle erfinden Fakten – sogenannte Halluzinationen. Forscher am südkoreanischen KAIST haben auf der ACM SIGMOD 2026 am 19. Juni eine vielversprechende Lösung vorgestellt. AkasicDB vereint Vektor-, Graph- und relationale Datenbankstrukturen in einem System.
Die rasante Entwicklung von KI-Systemen stellt nicht nur die Technik, sondern auch die Rechtsabteilungen vor enorme Herausforderungen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihr Unternehmen jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Die Methode namens Omni RAG verbessert die Genauigkeit von KI-Antworten um bis zu 78 Prozent. Komplexe Abfragen verarbeitet das System bis zu 20-mal schneller als bisher. Ein entscheidender Fortschritt für Branchen, in denen faktische Präzision Pflicht ist.
Gefährliche Fehlinformationen in der Medizin
Die generative KI hat ein neues Problem für die Wissenschaft geschaffen: gefälschte Publikationen. Ein aktueller onkologischer Bericht zeigt, dass zwischen 2000 und 2022 mindestens 400.000 verdächtige Studien produziert wurden. Besonders betroffen: die Krebsforschung.
Die medizinische Gemeinschaft schlägt Alarm. Patienten verlassen sich zunehmend auf ungeprüfte Online-Informationen. Zwar bieten spezialisierte Dienste wie ChatGPT Health mit über 230 Millionen wöchentlichen Nutzern datenschutzorientierte Gesundheitsgespräche. Doch Ärzte dokumentieren Fälle, in denen Chatbots falsche Statistiken lieferten – etwa eine erfundene 45-Prozent-Risikoangabe für bestimmte Komplikationen.
Die University College London hat deshalb Diet-MisRAT entwickelt. Das Tool bewertet Online-Ernährungsinformationen nach Ungenauigkeit, Unvollständigkeit und gesundheitlichem Schadenspotenzial. Fast die Hälfte der US-Bürger verlässt sich inzwischen auf nicht-akkreditierte Quellen und KI für Ernährungsempfehlungen.
Unternehmensberatungen in der Krise
Auch die Wirtschaft kämpft mit den Folgen ungeprüfter KI-Ausgaben. Große Beratungsfirmen wie KPMG, Deloitte und EY stehen in der Kritik, nachdem Berichte mit halluzinierten Fallstudien oder nicht existierenden Quellen auftauchten. Eine Studie von Dataiku zeigt: 76 Prozent der deutschen Datenverantwortlichen haben bereits Krisen aufgrund von KI-Halluzinationen erlebt.
Experten warnen: Das eigentliche Problem sind nicht die Halluzinationen selbst, sondern das Versagen der Unternehmensführung. Zwar steigert KI die Produktivität – die Zahl der Code-Einreichungen stieg um 98 Prozent. Doch die Überprüfungskapazität hält nicht Schritt. Die Folge: Die Code-Überarbeitungsrate ist seit 2024 um 60 Prozent gesunken.
EU AI Act: Transparenz wird Pflicht
Die Regulierungsbehörden ziehen die Zügel an. Der EU AI Act verlangt ab dem 2. August 2026 die Kennzeichnung KI-generierter Inhalte. Der Zeitpunkt ist kein Zufall: In deutschen Medien und der Politik sorgten zuletzt mehrere Fälle für Aufsehen, in denen Nachrichtenorganisationen und Politiker die ungekennzeichnete Nutzung von KI in Leitartikeln und Reden eingeräumt hatten.
Compliance-Experten warnen davor, die neue EU-KI-Verordnung zu ignorieren, da empfindliche Strafen drohen. Sichern Sie sich jetzt den kostenlosen Umsetzungsleitfaden zum EU AI Act mit allen relevanten Übergangsfristen und Dokumentationspflichten. Gratis-E-Book zur KI-Verordnung herunterladen
Sicherheitsrisiken: KI als Steuersparmodell
Neben faktischen Fehlern wächst die Sorge vor strategischem Missbrauch. Die US-Regierung entzog am 12. Juni 2026 dem Unternehmen Anthropic die Nutzungslizenz für sein Modell Fable 5 – aus Sicherheitsgründen.
Noch beunruhigender: Forscher wiesen mit Modellen wie Qwen3 nach, dass KI in 72 simulierten Umgebungen über 60 Prozent der bekannten legalen Steuerschlupflöcher identifizierte – und sogar neue Strategien zur Steuervermeidung entdeckte. Die konkreten Methoden wurden aus ethischen Gründen nicht veröffentlicht. Die Botschaft der Forscher ist dennoch klar: Leistungsfähigere Modelle könnten systematische Regulierungslücken ausnutzen.
Das CCRO veröffentlichte am 19. Juni 2026 ein Whitepaper für den Energiesektor. Es kategorisiert KI-Risiken in neun Bereiche – von systemischen über operative bis zu Cybersicherheitsrisiken. Die Botschaft: Mit der zunehmenden Integration von KI in kritische Infrastrukturen muss der Risikofokus zur obersten Priorität werden.
