NVIDIA H100

Die H100 beginnt bei 1,16 € pro GPU-Stunde, mit einem Median von 3,01 € über 64 verfügbare Konfigurationen. Der tatsächliche Preis hängt von Anbieter, Region und Mietart (On-Demand, Spot oder Reserved) ab.

22 Anbieter führen derzeit die H100: Runpod, Daytona, Impossible Cloud, Sesterce Cloud, Hyperstack, Theta EdgeCloud und 16 weitere. Vergleichen Sie Stundenpreise, Regionen und Spezifikationen in der Tabelle oben.

Die H100 verfügt über 80 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.

Mit 80 GB VRAM kann eine einzelne H100 Modelle wie gpt-oss-120b, Qwen3.6 35B-A3B, Qwen3 32B, Gemma 4 31B bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.

Die größten von uns erfassten Modelle, die auf mehrere H100 passen, sind GLM-5.2 auf 8 GPUs mit 4 Bit, DeepSeek R1 auf 8 GPUs mit 4 Bit, DeepSeek V4 Flash auf 4 GPUs mit 4 Bit. Bei einer Multi-GPU-Konfiguration mieten und bezahlen Sie jede Karte für die gesamte Laufzeit, und die Aufteilung eines Modells über mehrere Karten kostet zusätzlich Durchsatz: Die GPUs tauschen bei jedem Token Aktivierungen aus, die Leistung hängt also davon ab, wie schnell sie miteinander verbunden sind. Wir erfassen den Interconnect nicht — prüfen Sie die Knoten-Spezifikation des Anbieters. Die Tabelle oben nennt die kleinste Konfiguration jedes Modells bei 16 Bit, 8 Bit und 4 Bit.

Der niedrigste On-Demand-Preis, den wir derzeit für die H100 erfassen, liegt bei 1,16 € pro GPU-Stunde bei Lium. Da Anbieter Preise und Verfügbarkeit häufig ändern, prüfen Sie die Live-Tabelle oben vor dem Start.