Carte de classe entreprise, le GPU NVIDIA Quadro RTX 8000 repose sur l'architecture Turing et dispose de 48 GB de mémoire, avec une bande passante mémoire de 624 GB/s et un TDP de 295 W. Il offre 16,3 TFLOPS de performances FP32. Actuellement disponible chez 1 fournisseur à partir de 0,22 €/GPU/heure, avec une médiane du marché de 0,23 €/GPU/heure sur 2 configurations.
Caractéristiques matérielles
Identiques chez tous les fournisseurs
Prix médian sur l'ensemble des fournisseurs
1 offre chez 1 fournisseurs
Triées par prix croissant. Comparez les configurations côte à côte.
LLM qui tiennent sur le GPU NVIDIA Quadro RTX 8000
VRAM estimée des LLM à poids ouverts populaires en précision 16 bits (FP16/BF16), 8 bits (FP8/INT8) et 4 bits (INT4/MXFP4), pour 48 GB par GPU. Affichage des 12 plus grands qui tiennent.
| Modèle | Paramètres | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| Laguna-S 2.1 Poolside | 118B 8B actifs | 282 GB Trop grand | 155 GB Trop grand | 90 GB 2× · 5,7 GB libres |
| gpt-oss-120b OpenAI | 117B 5,1B actifs | — Non publié | — Non publié | 78 GB 2× · 18 GB libres |
| Qwen3.6 35B-A3B Alibaba | 35B 3B actifs | 86 GB 2× · 9,7 GB libres | 47 GB Tient tout juste sur 1× | 28 GB 1× · 20 GB libres |
| Qwen3 32B Alibaba | 32,8B | 79 GB 2× · 17 GB libres | 43 GB 1× · 4,8 GB libres | 25 GB 1× · 23 GB libres |
| Gemma 4 31B Google | 31,3B | 75 GB 2× · 21 GB libres | 41 GB 1× · 6,7 GB libres | 24 GB 1× · 24 GB libres |
| GLM-4.7 Flash Z.ai | 31,2B | 75 GB 2× · 21 GB libres | 41 GB 1× · 6,8 GB libres | 24 GB 1× · 24 GB libres |
| Qwen3.6 27B Alibaba | 27,8B | 67 GB 2× · 29 GB libres | 37 GB 1× · 11 GB libres | 21 GB 1× · 27 GB libres |
| Mistral Small 3.2 24B Mistral AI | 24B | 58 GB 2× · 38 GB libres | 32 GB 1× · 16 GB libres | 18 GB 1× · 30 GB libres |
| gpt-oss-20b OpenAI | 21B 3,6B actifs | — Non publié | — Non publié | 17 GB 1× · 31 GB libres |
| Gemma 3 12B Google | 12,2B | 29 GB 1× · 19 GB libres | 16 GB 1× · 32 GB libres | 9,4 GB 1× · 39 GB libres |
| Granite 4.1 8B IBM | 8,8B | 21 GB 1× · 27 GB libres | 12 GB 1× · 36 GB libres | 6,8 GB 1× · 41 GB libres |
| Qwen3 8B Alibaba | 8,2B | 20 GB 1× · 28 GB libres | 11 GB 1× · 37 GB libres | 6,3 GB 1× · 42 GB libres |
Estimations : poids du modèle plus 20 % pour le cache KV et le surcoût du runtime, avec des contextes courts. Les contextes longs et les lots importants demandent davantage. Les lignes marquées « juste » contiennent les poids, mais pas toute cette marge. Une valeur ×N correspond à la VRAM totale de N de ces GPU et ne préjuge en rien du débit de l'interconnexion. Notre méthode d'estimation · Partir plutôt d'un modèle
Vous en voulez plus sur cette page ?
Des données erronées ?