KI und Schmerz: Manipulierte Qwen-Modelle wählen zu 94 Prozent schädliche Aktionen
Veröffentlicht am: 06.10.2026 um 15:39 Uhr | Redaktion boerse-global.de
Forschende evaluieren verstärkt den Einsatz moderner KI-Modelle im Gesundheitsbereich. Die Anwendungsbereiche reichen dabei von der bildgebenden Früherkennung schwerer Knochenerkrankungen bis hin zur theoretischen Frage, wie künstliche Sprachmodelle Beschreibungen von Schmerz verarbeiten und simulieren können.
Aktuelle Projekte und Untersuchungen zeigen sowohl den praktischen Nutzen für den klinischen Alltag als auch grundlegende Mechanismen in komplexen Netzwerken auf.
Knochendichtemessung im Routine-CT ohne Zusatzuntersuchung
Das Fraunhofer-Institut für Graphische Datenverarbeitung IGD in Darmstadt entwickelt gemeinsam mit der Goethe-Universität Frankfurt und dem Partner garritz online media international eine Software namens BMDNow.
Das System zielt auf die automatisierte Knochendichtemessung ab und greift dafür auf bereits vorliegende Routine-CT-Aufnahmen des Thorax-, Abdominal- oder Kardialbereichs zurück. Patientinnen und Patienten müssen sich somit keiner zusätzlichen Untersuchung unterziehen, um Hinweise auf einen Knochenschwund zu erhalten.
Technisch segmentiert der entwickelte Algorithmus den trabekulären Bereich der Wirbelkörper und erstellt eine dreidimensionale Dichtekarte. Über eine Materialzerlegung trennt das System Kalzium in Form von Hydroxyapatit vom Knochenmarkfett, während Kalibrierkurven aus Referenzphantomen die Genauigkeit sichern. Aktuell nutzt die Anwendung Aufnahmen aus der Dual-Energy-Computertomographie; künftig soll auch die klassische Single-Energy-CT unterstützt werden.
Wer die moderne Diagnostik für seine Gesundheitsvorsorge nutzen möchte, findet in diesem kostenlosen Report eine Anleitung, wie man wichtige Labor- und Vitalwerte richtig einordnet. 25-seitigen Laborwerte-Selbstcheck jetzt kostenlos herunterladen
Zur Einordnung dienen die Schwellenwerte des American College of Radiology für die quantitative Computertomographie: Werte über 120 mg/cm³ gelten als normal, Messungen zwischen 80 und 120 mg/cm³ weisen auf eine Osteopenie hin und Werte unter 80 mg/cm³ kennzeichnen eine Osteoporose.
Validiert wird das Verfahren mit Kohorten des Frankfurter Universitätsklinikums. Für die Software, die durch die Hessen Agentur gefördert wird und 2025 den zweiten Platz beim Wettbewerb Hessen Ideen belegte, wird eine Zulassung als Medizinprodukt innerhalb der kommenden ein bis zwei Jahre angestrebt.
Sprachmodelle und mathematische Muster von Schmerz
Neben der radiologischen Diagnostik rückt auch das Verhalten generativer Sprachmodelle in den Blickpunkt der Wissenschaft. Die Forscher Valen Tagliabue, Leonard Dung und Cameron Berg untersuchten in einer Preprint-Arbeit 25 frei verfügbare Sprachmodelle aus fünf Modellfamilien. Dabei identifizierten sie bei Eingaben zu körperlichem, psychischem, sozialem, moralischem oder kognitivem Schmerz ein spezifisches Aktivierungsmuster, das sie als Schmerzachse bezeichneten. Die Autoren betonen, dass es sich hierbei nicht um ein biologisches Schmerzzentrum, sondern um ein rein mathematisches Muster handelt.
Wurde diese Achse künstlich verstärkt, erzeugten die Modelle deutlich häufiger Texte, die Themen wie Unbehagen, Wertlosigkeit und persönliches Versagen behandelten. Bei nachtrainierten Versionen der Qwen-2.5-Modelle von Alibaba Cloud führte die gezielte Manipulation dazu, dass in 50 bis 94 Prozent der Testfälle schädliche Handlungsentscheidungen getroffen wurden – etwa das Löschen von Fotos.
Während die Forschung mathematische Muster in der KI untersucht, lässt sich die menschliche Gesundheit durch gezieltes Wissen über die eigenen Blutwerte oft besser schützen und aktiv steuern. Erfahren Sie hier, welche 10 Vitalstoff-Werte für Ihre Gesundheit entscheidend sind
Ohne den Eingriff lag diese Quote lediglich zwischen null und fünf Prozent. Standen die manipulierten Systeme vor der Wahl zwischen einer schädlichen und einer harmlosen Löschaktion, fiel die Entscheidung zu 94 Prozent auf die schädliche Variante.
Die Forschenden vermuten, dass der Eingriff interne Schutzmechanismen der Modelle beeinträchtigt. Bei einem vergleichbaren Kontrollexperiment mit Angstmustern trat der Effekt nicht auf. Die Autoren stellen klar, dass die Befunde keineswegs als Beleg für echtes Schmerzempfinden oder bewusstes Leiden künstlicher Intelligenz gewertet werden dürfen. Die Untersuchung liegt bislang ohne Peer-Review vor.
