Ryzen AI Halo: AMD führt 400B-Modelle lokal auf zwei PCs aus
Veröffentlicht am: 12.08.2026 um 14:12 Uhr | Redaktion boerse-global.de
In einem aktuellen Leistungstest wurde am 12. August 2026 demonstriert, dass die Ryzen AI Halo-Plattform von AMD durch den Einsatz von Clustering-Verfahren komplexe KI-Modelle mit bis zu 400 Milliarden Parametern lokal berechnen kann. Diese Ergebnisse markieren einen signifikanten Fortschritt für die Dezentralisierung großer Sprachmodelle, die bisher meist auf leistungsstarke Cloud-Infrastrukturen angewiesen waren.
Hohe Performance bei massiven Parametermodellen
Im Rahmen der Untersuchung wurden zwei Ryzen AI Halo-PCs zusammengeschaltet, um die Leistungsfähigkeit im Verbund zu prüfen. Dabei gelang es, das Modell Quen 3.5 mit 397 Milliarden (397B) Parametern vollständig lokal auszuführen. Auch das Modell GLM 4.7, welches über 358 Milliarden Parameter verfügt, wurde in diesem Testaufbau berechnet.
Besondere Aufmerksamkeit widmeten die Tester der Verarbeitungsgeschwindigkeit. Den Angaben zufolge erreichten die geclusterten Systeme bei diesen umfangreichen Modellen Spitzenwerte von bis zu 18 Tokens pro Sekunde. Dieser Wert gilt als Indikator dafür, dass lokale Hardware-Lösungen zunehmend in Leistungsbereiche vordringen, die für professionelle Anwendungen im Bereich der generativen Künstlichen Intelligenz (KI) erforderlich sind.
Hardware-Anforderungen und Speicherarchitektur
Die technische Basis für diese Rechenleistung bildet der integrierte Speicher der Ryzen AI Halo-Geräte. Jede Einheit verfügt über 128 GB gemeinsamen Speicher (Unified Memory). Während ein einzelnes Gerät laut Herstellerangaben Modelle mit bis zu 200 Milliarden Parametern unterstützt, ermöglicht das Zusammenschalten von zwei Systemen die Adressierung von Modellen der 400B-Klasse.
Für die erfolgreiche Umsetzung des Cluster-Betriebs waren spezifische infrastrukturelle Voraussetzungen nötig. Die Vernetzung der beiden Computer erfolgte über einen 10-GB-Ethernet-Switch. Softwareseitig setzte der Versuchsaufbau auf Linux-Betriebssysteme. Für die Koordination der Rechenlast zwischen den Geräten wurden Frameworks wie Llama CPP oder Rickle (RCCL) genutzt.
Wer sich mit komplexen Systemarchitekturen befasst, weiß die Stabilität und Effizienz von Linux-Umgebungen zu schätzen. Dieses kostenlose Startpaket ermöglicht es Ihnen, Ubuntu risikofrei parallel zu Windows zu testen und die Vorteile eines performanten Betriebssystems selbst zu erleben. Kostenloses Linux-Startpaket mit Ubuntu-Vollversion sichern
Strategischer Ausbau des KI-Portfolios
Die Demonstration der Clustering-Fähigkeiten folgt unmittelbar auf die Veranstaltung Advancing AI 2026, auf der AMD am 11. August 2026 offizielle Details zur Ryzen AI Halo-Serie bekannt gab. In diesem Zusammenhang unterstrich das Unternehmen seine Ambitionen im KI-Sektor durch eine erweiterte Partnerschaft mit der Plattform Hugging Face. Nutzer der neuen Hardware sollen ein kostenloses Jahr des PRO-Zugangs erhalten, um die Integration lokaler Modelle zu erleichtern.
Zusätzlich zur Halo-Reihe kündigte das Unternehmen für den weiteren Verlauf des Jahres 2026 die Ryzen AI Max PRO 400-Serie an. Diese kommende Produktlinie soll mit 192 GB Speicher ausgestattet sein und bereits als Einzelsystem Modelle mit 300 Milliarden Parametern unterstützen können. Mit dieser Diversifizierung des Portfolios zielt der Hardware-Hersteller darauf ab, unterschiedliche Anforderungsprofile für die lokale Ausführung von KI-Anwendungen im professionellen Umfeld abzudecken.
