NVIDIA RTX PRO 6000 MIG 24GB
24 GB · Blackwell
Aktuelle Cloud-Preise für die NVIDIA RTX PRO 6000 MIG 24GB von einem Anbieter, aktualisiert .
1 Angebot von 1 Anbietern
* Wir erhalten möglicherweise eine Vermittlungsgebühr oder Provision von einigen Anbietern, wenn Sie sich über unsere Links anmelden. Dies hat keinen Einfluss auf Ranking oder Reihenfolge.
Preisverlauf der NVIDIA RTX PRO 6000 MIG 24GB
Der Medianpreis der NVIDIA RTX PRO 6000 MIG 24GB ist seit 20. Juli 2026 um 41 % gestiegen.
LLMs, die auf die NVIDIA RTX PRO 6000 MIG 24GB passen
Beliebte Open-Weight-LLMs bei 24 GB pro GPU: Gewichte plus Platz für den KV-Cache, in der besten Präzision, die passt. Gezeigt werden die 12 größten passenden Modelle.
Läuft auf einer NVIDIA RTX PRO 6000 MIG 24GB
- Qwen3.6 35B-A3B4 Bit · knapp, 4 % übrig
- Qwen3 32B4 Bit · knapp, 14 % übrig
- Gemma 4 31B4 Bit · knapp, 19 % übrig
- GLM-4.7 Flash4 Bit · 24 GB
- Qwen3.6 27B4 Bit · 21 GB
- Mistral Small 3.2 24B4 Bit · 18 GB
- gpt-oss-20b4 Bit · 17 GB
- Gemma 3 12B8 Bit · 16 GB
- Granite 4.1 8B16 Bit · 21 GB
- Qwen3 8B16 Bit · 20 GB
- Llama 3.1 8B Instruct16 Bit · 19 GB
- Mistral 7B Instruct v0.316 Bit · 17 GB
Vollständige Tabelle mit allen Präzisionen
Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 24 GB pro GPU.
| Modell | Parameter | 16 Bit | 8 Bit | 4 Bit |
|---|---|---|---|---|
| Qwen3.6 35B-A3B Alibaba | 35 Mrd. 3 Mrd. aktiv | 86 GB Zu groß | 47 GB Zu groß | 28 GB Knapp auf 1× · 4 % übrig |
| Qwen3 32B Alibaba | 32,8 Mrd. | 79 GB Zu groß | 43 GB Zu groß | 25 GB Knapp auf 1× · 14 % übrig |
| Gemma 4 31B Google | 31,3 Mrd. | 75 GB Zu groß | 41 GB Zu groß | 24 GB Knapp auf 1× · 19 % übrig |
| GLM-4.7 Flash Z.ai | 31,2 Mrd. | 75 GB Zu groß | 41 GB Zu groß | 24 GB Passt knapp auf 1× |
| Qwen3.6 27B Alibaba | 27,8 Mrd. | 67 GB Zu groß | 37 GB Zu groß | 21 GB 1× · 2,7 GB frei |
| Mistral Small 3.2 24B Mistral AI | 24 Mrd. | 58 GB Zu groß | 32 GB Zu groß | 18 GB 1× · 5,6 GB frei |
| gpt-oss-20b OpenAI | 21 Mrd. 3,6 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 17 GB 1× · 7,5 GB frei |
| Gemma 3 12B Google | 12,2 Mrd. | 29 GB Zu groß | 16 GB 1× · 7,9 GB frei | 9,4 GB 1× · 15 GB frei |
| Granite 4.1 8B IBM | 8,8 Mrd. | 21 GB 1× · 2,9 GB frei | 12 GB 1× · 12 GB frei | 6,8 GB 1× · 17 GB frei |
| Qwen3 8B Alibaba | 8,2 Mrd. | 20 GB 1× · 4,3 GB frei | 11 GB 1× · 13 GB frei | 6,3 GB 1× · 18 GB frei |
| Llama 3.1 8B Instruct Meta | 8 Mrd. | 19 GB 1× · 4,7 GB frei | 11 GB 1× · 13 GB frei | 6,2 GB 1× · 18 GB frei |
| Mistral 7B Instruct v0.3 Mistral AI | 7,2 Mrd. | 17 GB 1× · 6,6 GB frei | 9,6 GB 1× · 14 GB frei | 5,6 GB 1× · 18 GB frei |
Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten
Spezifikationen der NVIDIA RTX PRO 6000 MIG 24GB
Die NVIDIA RTX PRO 6000 MIG 24GB ist eine Enterprise-GPU, basiert auf der Blackwell-Architektur und verfügt über 24 GB Speicher.
- Architektur
- Blackwell
- Marke
- NVIDIA
- Serie
- RTX PRO