Google Cloud macht KI-Inferenz mit Nvidia-Blackwell-GPUs serverlos

Google Cloud integriert Nvidias leistungsstarke RTX PRO 6000 Blackwell-GPUs in seinen serverlosen Dienst Cloud Run. Die in der Vorschau verfügbare Erweiterung soll Entwicklern den einfachen Einsatz rechenintensiver KI-Modelle wie Gemma 3 ermöglichen – ohne eigene Server-Infrastruktur zu verwalten.

Serverlose KI bekommt Grafikpower

Der Schritt adressiert eine zentrale Hürde in der KI-Entwicklung: Bislang war der Betrieb großer Modelle auf pay-per-use-Plattformen wie Cloud Run kaum praktikabel. Mit der Integration der Nvidia RTX PRO 6000 ändert sich das. Entwickler können nun containerisierte Anwendungen bereitstellen, die automatisch skalieren. Die zugrundeliegende Hardware – in diesem Fall die High-End-GPUs – bleibt komplett abstrahiert.

„Das ist ein strategischer Schachzug im Cloud-Kampf“, analysiert ein Branchenkenner. „Google macht damit die Tür auf für eine neue Generation von Echtzeit-KI-Anwendungen.“ Die GPUs waren bereits seit Oktober 2025 in den speziellen G4 Virtual Machines von Google Cloud allgemein verfügbar. Die Cloud-Run-Integration demokratisiert diesen Zugang nun für ein flexibleres, ereignisgesteuertes Rechenmodell.

Seit August 2024 gelten neue Regeln für KI-Systeme — viele Unternehmen riskieren unwissentlich Bußgelder. Wenn Sie KI-Modelle wie Gemma 3 in Cloud-Diensten betreiben, sind Kennzeichnungspflichten, Risikoklassen und umfangreiche Dokumentationspflichten zu beachten. Der kostenlose Umsetzungsleitfaden erklärt praxisnah, welche Pflichten Entwickler und Anbieter jetzt erfüllen müssen, welche Fristen gelten und wie Sie rechtliche Risiken minimieren. Er enthält Checklisten und Vorlagen, mit denen Sie Compliance-Schritte direkt umsetzen können. Jetzt kostenlosen KI-Verordnungs-Leitfaden herunterladen

Perfektes Paar: Gemma 3 und Blackwell-Architektur

Die neue Hardware-Unterstützung kommt zur rechten Zeit für Googles eigene KI-Modelle. Gemma 3, eine im März 2025 vorgestellte Familie offener Modelle, profitiert besonders von der Rechenkraft. Die Modelle sind multimodal – verarbeiten also Text, Bilder und kurze Videos – und besitzen einen Kontextfenster von 128.000 Tokens. Für Echtzeit-Anwendungen sind diese Fähigkeiten äußerst rechenhungrig.

Die Architektur der Blackwell-GPUs ist genau für solche KI-Inferenz- und Visual-Workloads optimiert. Die Kombination aus Gemma 3 und serverloser Skalierbarkeit schafft ein leistungsfähiges Ökosystem. Entwickler können damit etwa komplexe Inhaltsgenerierung oder Echtzeit-Datenanalyse als Dienst bereitstellen.

Wettbewerbsvorteil durch integriertes Angebot

Die Erweiterung ist ein klares Signal im Wettbewerb mit anderen Cloud-Giganten wie AWS und Microsoft Azure. Google bindet Entwickler enger an seine eigene Plattform, indem es den Einsatz seiner Spitzenmodelle radikal vereinfacht. Ein weiterer Vorteil: Die Multi-Instance GPU (MIG)-Technologie von Nvidia. Sie erlaubt es, eine einzelne RTX 6000 GPU in bis zu vier vollständig isolierte Instanzen aufzuteilen. Das optimiert die Ressourcennutzung und senkt die Kosten, wenn mehrere Modelle parallel laufen.

Für Unternehmen verkürzt sich der Weg von der KI-Entwicklung zum produktiven Einsatz. Die hohen Investitionen in eigene GPU-Cluster entfallen. Stattdessen zahlen sie nur für die tatsächlich genutzte Rechenzeit. Diese Agilität ist in dynamischen Märkten ein entscheidender Faktor.

Ausblick: KI-Deployment wird so einfach wie Webhosting

Die Vorschauphase legt den Grundstein für eine künftige allgemeine Verfügbarkeit. Die Vision ist klar: Der Deployment-Prozess für hochsophistische KI-Anwendungen soll so einfach werden wie das Bereitstellen einer Webseite. Googles Fokus auf serverlose Inferenz für Modelle wie Gemma 3 unterstreicht den strategischen Push, Spitzen-KI für Geschäftsprozesse und Consumer-Apps alltagstauglich zu machen.

Experten erwarten, dass dieser Service eine neue Innovationswelle auslösen wird. Echtzeitfähige, KI-gesteuerte Erlebnisse – von personalisierten Assistenten bis hin zu komplexen Analysetools – werden in einem Maßstab und mit einer Effizienz möglich, die bisher schwer zu erreichen war. Der Cloud-Markt für KI wird damit noch dynamischer.

PS: Sie planen, Gemma 3 oder andere große Modelle produktiv einzusetzen? Dann lohnt sich ein Blick in das kompakte E‑Book zur EU-KI-Verordnung: Es fasst Kennzeichnungspflichten, Risikoklassifizierung sowie Dokumentationsanforderungen verständlich zusammen und nennt konkrete Aufgaben für Entwickler und Betreiber. Ideal für CTOs, DevOps-Teams und Compliance-Verantwortliche, die Serverless-Deployments rechtskonform gestalten wollen. Kostenfreies EU-KI-Umsetzungs-E‑Book sichern