NVIDIA H100 NVL

94 GB VRAM2 Anbieter3 Angebote2 Regionen

Die NVIDIA H100 NVL ist eine Enterprise- GPU, basiert auf der Hopper-Architektur und verfügt über 94 GB Speicher. Derzeit bei 2 Anbieter verfügbar, ab 2,28 €/GPU/Stunde, mit einem Marktmedian von 2,29 €/GPU/Stunde über 3 Konfigurationen.

Günstigster

2,284 €/Std.

Vast.ai

Median

2,293 €/Std.

über 3 Angebote

Teuerster

2,739 €/Std.

Runpod

90-Tage-Trend

+10.3%

Medianpreis

Hardware-Spezifikationen

Gleich bei allen Anbietern

Speicher

94 GB

HBM3

Welche LLMs passen? ↓

Architektur

Hopper

Marke

NVIDIA

Serie

H100

Marktpreis-Verlauf

Medianpreis über alle Anbieter

Preise aktualisiert vor 3 Stunden

4 Angebote von 2 Anbietern

Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.

Anbieter	Anzahl	vCPU	RAM	Region	Pro GPU/Std.	Gesamt/Std.	Aktion
RunpodBeworben Bis zu429 €GuthabenAffiliate-Werbung — wir erhalten möglicherweise eine Provision.	×1	16	180 GB		2,739 €	2,74 €	Starten
Vast.aiEmpfehlungslinkIm TrendGünstigster	×1	40	315 GB		Ab2,284 € +0.4% 30T	Ab2,28 €	Starten
RunpodEmpfehlungslinkIm Trend Bis zu429 €Guthaben	×1	16	180 GB		2,739 €	2,74 €	Starten
Sesterce CloudEmpfehlungslink	×2	40	256 GB	--	2,985 €	Ab5,97 €
OblivusEmpfehlungslink	×8	252	1,41 TB		3,126 €	25,01 €

LLMs, die auf die NVIDIA H100 NVL passen

Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 94 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.

Modell	Parameter	16 Bit	8 Bit	4 Bit
Laguna-S 2.1 Poolside	118 Mrd. 8 Mrd. aktiv	282 GB Zu groß	155 GB Zu groß	90 GB 1× · 3,7 GB frei
gpt-oss-120b OpenAI	117 Mrd. 5,1 Mrd. aktiv	— Nicht veröffentlicht	— Nicht veröffentlicht	78 GB 1× · 16 GB frei
Qwen3.6 35B-A3B Alibaba	35 Mrd. 3 Mrd. aktiv	86 GB 1× · 7,7 GB frei	47 GB 1× · 47 GB frei	28 GB 1× · 66 GB frei
Qwen3 32B Alibaba	32,8 Mrd.	79 GB 1× · 15 GB frei	43 GB 1× · 51 GB frei	25 GB 1× · 69 GB frei
Gemma 4 31B Google	31,3 Mrd.	75 GB 1× · 19 GB frei	41 GB 1× · 53 GB frei	24 GB 1× · 70 GB frei
GLM-4.7 Flash Z.ai	31,2 Mrd.	75 GB 1× · 19 GB frei	41 GB 1× · 53 GB frei	24 GB 1× · 70 GB frei
Qwen3.6 27B Alibaba	27,8 Mrd.	67 GB 1× · 27 GB frei	37 GB 1× · 57 GB frei	21 GB 1× · 73 GB frei
Mistral Small 3.2 24B Mistral AI	24 Mrd.	58 GB 1× · 36 GB frei	32 GB 1× · 62 GB frei	18 GB 1× · 76 GB frei
gpt-oss-20b OpenAI	21 Mrd. 3,6 Mrd. aktiv	— Nicht veröffentlicht	— Nicht veröffentlicht	17 GB 1× · 77 GB frei
Gemma 3 12B Google	12,2 Mrd.	29 GB 1× · 65 GB frei	16 GB 1× · 78 GB frei	9,4 GB 1× · 85 GB frei
Granite 4.1 8B IBM	8,8 Mrd.	21 GB 1× · 73 GB frei	12 GB 1× · 82 GB frei	6,8 GB 1× · 87 GB frei
Qwen3 8B Alibaba	8,2 Mrd.	20 GB 1× · 74 GB frei	11 GB 1× · 83 GB frei	6,3 GB 1× · 88 GB frei

Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten

Mehr ähnliche GPUs in

Höchste Leistung

Mehr von dieser Seite?

Falsche Daten?

Häufig gestellte Fragen

Wie viel kostet die H100 NVL pro Stunde?

Die H100 NVL beginnt bei 2,28 € pro GPU-Stunde, mit einem Median von 2,29 € über 3 verfügbare Konfigurationen. Der tatsächliche Preis hängt von Anbieter, Region und Mietart (On-Demand, Spot oder Reserved) ab.

Welche Cloud-Anbieter bieten die H100 NVL an?

4 Anbieter führen derzeit die H100 NVL: Sesterce Cloud, Oblivus, Vast.ai, Runpod. Vergleichen Sie Stundenpreise, Regionen und Spezifikationen in der Tabelle oben.

Wie viel VRAM hat die H100 NVL?

Die H100 NVL verfügt über 94 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.

Welche LLMs kann ich auf der H100 NVL betreiben?

Mit 94 GB VRAM kann eine einzelne H100 NVL Modelle wie Laguna-S 2.1, gpt-oss-120b, Qwen3.6 35B-A3B, Qwen3 32B bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.

Wo ist die H100 NVL am günstigsten?

Der niedrigste On-Demand-Preis, den wir derzeit für die H100 NVL erfassen, liegt bei 2,28 € pro GPU-Stunde bei Vast.ai. Da Anbieter Preise und Verfügbarkeit häufig ändern, prüfen Sie die Live-Tabelle oben vor dem Start.