RTXPRO600096GB

96 GB VRAM0 Anbieter0 Angebote0 Regionen

Die RTXPRO600096GB verfügt über 96 GB Speicher.

Günstigster

—

Keine aktuellen Angebote

Median

—

über 0 Angebote

Teuerster

—

90-Tage-Trend

—

Nicht genug Daten

Hardware-Spezifikationen

Gleich bei allen Anbietern

Speicher

96 GB

Welche LLMs passen? ↓

RTXPRO600096GB Preisverlauf

Kein Preisverlauf verfügbar

Preisverfolgungsdaten werden hier angezeigt, sobald sie verfügbar sind

Preise aktualisiert vor 2 Stunden

0 Angebote von 0 Anbietern

Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.

Anbieter	Anzahl	vCPU	RAM	Region	Pro GPU/Std.	Gesamt/Std.	Aktion
Erweitern Sie Ihre Filter oder setzen Sie alle Filter zurück.

LLMs, die auf die RTXPRO600096GB passen

Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 96 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.

Modell	Parameter	16 Bit	8 Bit	4 Bit
Laguna-S 2.1 Poolside	118 Mrd. 8 Mrd. aktiv	282 GB Zu groß	155 GB Zu groß	90 GB 1× · 5,7 GB frei
gpt-oss-120b OpenAI	117 Mrd. 5,1 Mrd. aktiv	— Nicht veröffentlicht	— Nicht veröffentlicht	78 GB 1× · 18 GB frei
Qwen3.6 35B-A3B Alibaba	35 Mrd. 3 Mrd. aktiv	86 GB 1× · 9,7 GB frei	47 GB 1× · 49 GB frei	28 GB 1× · 68 GB frei
Qwen3 32B Alibaba	32,8 Mrd.	79 GB 1× · 17 GB frei	43 GB 1× · 53 GB frei	25 GB 1× · 71 GB frei
Gemma 4 31B Google	31,3 Mrd.	75 GB 1× · 21 GB frei	41 GB 1× · 55 GB frei	24 GB 1× · 72 GB frei
GLM-4.7 Flash Z.ai	31,2 Mrd.	75 GB 1× · 21 GB frei	41 GB 1× · 55 GB frei	24 GB 1× · 72 GB frei
Qwen3.6 27B Alibaba	27,8 Mrd.	67 GB 1× · 29 GB frei	37 GB 1× · 59 GB frei	21 GB 1× · 75 GB frei
Mistral Small 3.2 24B Mistral AI	24 Mrd.	58 GB 1× · 38 GB frei	32 GB 1× · 64 GB frei	18 GB 1× · 78 GB frei
gpt-oss-20b OpenAI	21 Mrd. 3,6 Mrd. aktiv	— Nicht veröffentlicht	— Nicht veröffentlicht	17 GB 1× · 79 GB frei
Gemma 3 12B Google	12,2 Mrd.	29 GB 1× · 67 GB frei	16 GB 1× · 80 GB frei	9,4 GB 1× · 87 GB frei
Granite 4.1 8B IBM	8,8 Mrd.	21 GB 1× · 75 GB frei	12 GB 1× · 84 GB frei	6,8 GB 1× · 89 GB frei
Qwen3 8B Alibaba	8,2 Mrd.	20 GB 1× · 76 GB frei	11 GB 1× · 85 GB frei	6,3 GB 1× · 90 GB frei

Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen

Mehr von dieser Seite?

Falsche Daten?

Häufig gestellte Fragen

Wie viel VRAM hat die RTXPRO600096GB?

Die RTXPRO600096GB verfügt über 96 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.

Welche LLMs kann ich auf der RTXPRO600096GB betreiben?

Mit 96 GB VRAM kann eine einzelne RTXPRO600096GB Modelle wie Laguna-S 2.1, gpt-oss-120b, Qwen3.6 35B-A3B, Qwen3 32B bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.