KI-Optimierung: Unsloth erreicht 2,5-fache Geschwindigkeit mit W4A4
Veröffentlicht: 12.07.2026 um 10:55 Uhr, Redaktion boerse-global.de
Energiehunger und Hardware-Grenzen zwingen die KI-Industrie zu radikalen Optimierungen. Neue Techniken versprechen drastische Leistungssprünge bei geringerem Ressourcenverbrauch.
Die Künstliche Intelligenz steht vor einem fundamentalen Wandel. Während die Modelle immer größer werden, stoßen herkömmliche Rechenzentren an ihre Grenzen – sowohl bei der Rechenleistung als auch beim Energieverbrauch. Führende Technologiekonzerne und Forschungseinrichtungen haben in dieser Woche neue Ansätze vorgestellt, die das Problem an der Wurzel packen: Sie optimieren nicht länger nur die Software, sondern das gesamte System aus Hardware und Algorithmen.
NVIDIA gibt Takt vor: Hardwarefreundliches Design wird zum Standard
Der Chipriese NVIDIA veröffentlichte am 10. Juli aktualisierte Richtlinien für das Design großer Sprachmodelle (LLMs). Die Botschaft ist klar: Wer auf modernen Grafikprozessoren Höchstleistungen erzielen will, muss die Hardware von Anfang an mitdenken. Konkret empfiehlt NVIDIA nahezu quadratische Layer-Dimensionen, die sich an den GPU-Kachelgrößen orientieren – idealerweise Vielfache von 128, besser noch 256 oder 512. Auch das Verhältnis von Breite zu Tiefe spielt eine Rolle: Breitere statt tiefere Architekturen verbessern die Parallelisierung.
Für die praktische Umsetzung liefert NVIDIA gleich die passenden Werkzeuge mit. Die NVFP4-Quantisierung im TensorRT Model Optimizer und LLM Compressor ermöglicht es, Modelle massiv zu verkleinern, ohne die Qualität nennenswert zu beeinträchtigen. Bei sogenannten Mixture-of-Experts-Modellen setzt der Konzern auf Expert Parallelism und Helix Parallelism innerhalb des TensorRT-LLM-Frameworks.
Quantisierungs-Durchbruch: 2,5-mal schneller bei gleicher Genauigkeit
Doch NVIDIA ist nicht allein. Das Startup Unsloth meldete am 11. Juli einen beachtlichen Erfolg: Seine dynamische NVFP4-Quantisierung (W4A4) treibt das Qwen3.6-27B-Modell auf eine 2,5-fach höhere Geschwindigkeit als NVIDIAs Standardimplementierung. Das Modell passt damit in gerade einmal 24 Gigabyte VRAM – und das bei einer Genauigkeit, die nahe am ursprünglichen BF16-Format liegt. Noch beeindruckender: Die Variante Qwen3.6-35B-A3B erreichte auf B200-Hardware 17.561 Token pro Sekunde.
NVIDIA selbst legte am 12. Juli mit der Nemotron-3-Puzzle-Pipeline nach. Das Verfahren komprimiert ein 120-Milliarden-Parameter-Modell auf 75 Milliarden Parameter – und verdoppelt damit den Durchsatz auf 8xB200-Knoten. Möglich wird das durch iteratives Pruning, Destillation und Multi-Token-Vorhersage. Die aktiven Parameter sinken von 12,8 auf 9,3 Milliarden, die Leistung bleibt erhalten.
CompactifAI: Speicherbedarf drastisch reduziert
Einen anderen Ansatz verfolgt Multiverse Computing. Das Unternehmen stellte am 10. Juli seine CompactifAI-Technologie vor, die den Speicherbedarf des HyperNova60B-Modells auf 32 Gigabyte senkt – ohne Leistungseinbußen. Die Investoren honorieren den Fortschritt: Erst kürzlich sicherte sich Multiverse Computing 215 Millionen Euro in einer Series-B-Finanzierungsrunde, an der sich unter anderem Bosch und die Bank of Canada beteiligten.
Cerebras und SambaNova fordern die Platzhirsche heraus
Während NVIDIA den Markt dominiert, arbeiten Alternativanbieter mit Hochdruck an eigenen Lösungen. Cerebras gab am 11. Juli bekannt, dass sein WSE-3-Prozessor OpenAI's GPT-5.6 Sol auf 750 Token pro Sekunde beschleunigt – das ist zehnmal schneller als aktuelle H100-Cluster. Ein 20-Milliarden-Dollar-Vertrag zwischen OpenAI und Cerebras über 750 Megawatt Leistung bis 2028 untermauert die Ambitionen.
Während die Hardware immer effizienter wird, rücken auch die rechtlichen Leitplanken für den Einsatz solcher Systeme in den Fokus von Unternehmen. Dieser kostenlose Report klärt auf, welche neuen Regeln der EU AI Act aufstellt und was Verantwortliche jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko? Jetzt Gratis-Leitfaden sichern
SambaNova setzt auf einen hybriden Ansatz. Das Unternehmen kombiniert seine SN50 Reconfigurable Dataflow Unit (RDU) mit NVIDIAs H200-GPUs. Die GPU übernimmt die Vorbereitung (Prefill), die RDU die eigentliche Dekodierung. In Szenarien mit langen Kontexten erreicht das System über 450 Token pro Sekunde.
Fast Gemma Challenge: Fünffache Beschleunigung auf einer einzigen GPU
Die im Juli zu Ende gegangene Fast Gemma Challenge zeigt, was mit clevere Optimierung möglich ist. Auf einer einzigen NVIDIA A10G-GPU erreichten die Teilnehmer eine fünffache Beschleunigung von Gemma 4. Techniken wie spekulative Dekodierung und vLLM brachten das Modell auf Spitzenwerte von 491,8 Token pro Sekunde.
Extrem-Fall: 1,5 Terabyte KI-Modell auf 25 Gigabyte RAM
Die Effizienzbemühungen gehen bis an die Grenzen des Machbaren. Das Colibrì-Projekt demonstrierte am 11. und 12. Juli ein Proof-of-Concept-System, bei dem ein 1,5 Terabyte großes KI-Modell auf nur 25 Gigabyte RAM lief. Noch extremer: Ein 347-Milliarden-Parameter-Modell operierte auf einem 8-Gigabyte-Laptop mit bloßer CPU.
Gehirn-inspirierte Hardware: Memtransistor erkennt Herzrhythmusstörungen
Einen völlig neuen Weg beschreitet die Northwestern University. In der Fachzeitschrift Nature Communications stellten die Forscher am 10. Juli einen Memtransistor aus Molybdändisulfid vor. Das bauteil, das biologischen Synapsen nachempfunden ist, erkennt Herzrhythmusstörungen mit über 98 Prozent Genauigkeit – und benötigt dafür 10.000-mal weniger Rechenoperationen als herkömmliche KI-Systeme.
Neben der technischen Optimierung ist die rechtssichere Anwendung von KI-Modellen die größte Herausforderung für moderne Fachabteilungen. Ein kostenloser Download verschafft Ihnen jetzt den nötigen Überblick über Fristen, Pflichten und Risikoklassen der aktuellen EU-Verordnung. EU AI Act in 5 Schritten verstehen – Zum kostenlosen E-Book
Energie bleibt die Achillesferse
Trotz aller Fortschritte bleibt ein Problem bestehen: Der Energiehunger. Auf den Leti Innovation Days 2026 warnte das französische Forschungsinstitut CEA-Leti am 10. Juli, dass die reine Rechenarbeit nur zehn Prozent des Energieverbrauchs großer Sprachmodelle ausmacht. Der Löwenanteil entfällt auf den Datentransport: 40 Prozent für die Datenbewegung, 30 Prozent für die Verbindungstechnik.
Die Lösung liegt laut den Experten in einer Effizienzsteigerung der Stromversorgung auf 96 Prozent bei hohen Leistungsdichten. Mögliche Ansätze sind 3D-Integration, Silizium-Photonik und Compute-in-Memory-Architekturen – Technologien, die die physischen Distanzen minimieren, die Daten während der Verarbeitung zurücklegen müssen. Die Weichen für die nächste Generation der KI sind gestellt. Ob sie halten, was sie versprechen, wird sich in den kommenden Monaten zeigen.
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
