Die V100 SXM2 verfügt über 16 GB Speicher.
Günstigster
—
Keine aktuellen Angebote
Median
—
über 0 Angebote
Teuerster
—
90-Tage-Trend
0.0%
Medianpreis
Hardware-Spezifikationen
Gleich bei allen Anbietern
Marktpreis-Verlauf
Medianpreis über alle Anbieter
Preise aktualisiert vor 5 Stunden
0 Angebote von 0 Anbietern
Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.
| Anbieter | Anzahl | vCPU | RAM | Region | Pro GPU/Std. | Gesamt/Std. | Aktion |
|---|---|---|---|---|---|---|---|
| Erweitern Sie Ihre Filter oder setzen Sie alle Filter zurück. | |||||||
LLMs, die auf die V100 SXM2 passen
Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 16 GB pro GPU.
| Modell | Parameter | 16 Bit | 8 Bit | 4 Bit |
|---|---|---|---|---|
| Mistral Small 3.2 24B Mistral AI | 24 Mrd. | 58 GB Zu groß | 32 GB Zu groß | 18 GB Knapp auf 1× · 4 % übrig |
| gpt-oss-20b OpenAI | 21 Mrd. 3,6 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 17 GB Knapp auf 1× · 16 % übrig |
| Gemma 3 12B Google | 12,2 Mrd. | 29 GB Zu groß | 16 GB Knapp auf 1× · 19 % übrig | 9,4 GB 1× · 6,6 GB frei |
| Granite 4.1 8B IBM | 8,8 Mrd. | 21 GB Zu groß | 12 GB 1× · 4,4 GB frei | 6,8 GB 1× · 9,2 GB frei |
| Qwen3 8B Alibaba | 8,2 Mrd. | 20 GB Zu groß | 11 GB 1× · 5,2 GB frei | 6,3 GB 1× · 9,7 GB frei |
| Llama 3.1 8B Instruct Meta | 8 Mrd. | 19 GB Zu groß | 11 GB 1× · 5,4 GB frei | 6,2 GB 1× · 9,8 GB frei |
| Mistral 7B Instruct v0.3 Mistral AI | 7,2 Mrd. | 17 GB Knapp auf 1× · 10 % übrig | 9,6 GB 1× · 6,4 GB frei | 5,6 GB 1× · 10 GB frei |
| Qwen3 4B Alibaba | 4 Mrd. | 9,7 GB 1× · 6,3 GB frei | 5,3 GB 1× · 11 GB frei | 3,1 GB 1× · 13 GB frei |
Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen
Mehr von dieser Seite?
Falsche Daten?
Häufig gestellte Fragen
Wie viel VRAM hat die V100 SXM2?
Die V100 SXM2 verfügt über 16 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.
Welche LLMs kann ich auf der V100 SXM2 betreiben?
Mit 16 GB VRAM kann eine einzelne V100 SXM2 Modelle wie Gemma 3 12B, Granite 4.1 8B, Qwen3 8B, Llama 3.1 8B Instruct bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.