NVIDIA H100 NVL

Die H100 NVL beginnt bei 2,08 € pro GPU-Stunde, mit einem Median von 2,85 € über 7 verfügbare Konfigurationen. Der tatsächliche Preis hängt von Anbieter, Region und Mietart (On-Demand, Spot oder Reserved) ab.

5 Anbieter führen derzeit die H100 NVL: Runpod, Sesterce Cloud, Oblivus, Vast.ai, EmpirioLabs AI. Vergleichen Sie Stundenpreise, Regionen und Spezifikationen in der Tabelle oben.

Die H100 NVL verfügt über 94 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.

Mit 94 GB VRAM kann eine einzelne H100 NVL Modelle wie Laguna-S 2.1, gpt-oss-120b, Qwen3.6 35B-A3B, Qwen3 32B bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.

Die größten von uns erfassten Modelle, die auf mehrere H100 NVL passen, sind DeepSeek V4 Flash auf 4 GPUs mit 4 Bit, Solar Open2 250B auf 4 GPUs mit 8 Bit, Qwen3 235B-A22B auf 2 GPUs mit 4 Bit. Bei einer Multi-GPU-Konfiguration mieten und bezahlen Sie jede Karte für die gesamte Laufzeit, und die Aufteilung eines Modells über mehrere Karten kostet zusätzlich Durchsatz: Die GPUs tauschen bei jedem Token Aktivierungen aus, die Leistung hängt also davon ab, wie schnell sie miteinander verbunden sind. Wir erfassen den Interconnect nicht — prüfen Sie die Knoten-Spezifikation des Anbieters. Die Tabelle oben nennt die kleinste Konfiguration jedes Modells bei 16 Bit, 8 Bit und 4 Bit.

Der niedrigste On-Demand-Preis, den wir derzeit für die H100 NVL erfassen, liegt bei 2,08 € pro GPU-Stunde bei Vast.ai. Da Anbieter Preise und Verfügbarkeit häufig ändern, prüfen Sie die Live-Tabelle oben vor dem Start.