RTXPRO600096GB
96 GB
Prix mis à jour .
Aucune offre actuellement
0 offres chez 0 fournisseurs
| Fournisseur | Par GPU / heure | Action | |
|---|---|---|---|
| Essayez d'élargir vos filtres ou effacez-les tous pour recommencer. | |||
Aucun historique des prix disponible
Les données de suivi des prix apparaîtront ici dès qu'elles seront disponibles
LLM qui tiennent sur le GPU RTXPRO600096GB
LLM populaires à poids ouverts face à 96 GB par GPU : poids plus la place pour le cache KV, dans la meilleure précision qui tient. Affichage des 12 plus grands qui tiennent.
Tient sur un seul GPU RTXPRO600096GB
- Laguna-S 2.14 bits · 90 GB
- gpt-oss-120b4 bits · 78 GB
- Qwen3.6 35B-A3B16 bits · 86 GB
- Qwen3 32B16 bits · 79 GB
- Gemma 4 31B16 bits · 75 GB
- GLM-4.7 Flash16 bits · 75 GB
- Qwen3.6 27B16 bits · 67 GB
- Mistral Small 3.2 24B16 bits · 58 GB
- gpt-oss-20b4 bits · 17 GB
- Gemma 3 12B16 bits · 29 GB
- Granite 4.1 8B16 bits · 21 GB
- Qwen3 8B16 bits · 20 GB
Tableau complet avec toutes les précisions
VRAM estimée des LLM à poids ouverts populaires en précision 16 bits (FP16/BF16), 8 bits (FP8/INT8) et 4 bits (INT4/MXFP4), pour 96 GB par GPU.
| Modèle | Paramètres | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| Laguna-S 2.1 Poolside | 118B 8B actifs | 282 GB Trop grand | 155 GB Trop grand | 90 GB 1× · 5,7 GB libres |
| gpt-oss-120b OpenAI | 117B 5,1B actifs | — Non publié | — Non publié | 78 GB 1× · 18 GB libres |
| Qwen3.6 35B-A3B Alibaba | 35B 3B actifs | 86 GB 1× · 9,7 GB libres | 47 GB 1× · 49 GB libres | 28 GB 1× · 68 GB libres |
| Qwen3 32B Alibaba | 32,8B | 79 GB 1× · 17 GB libres | 43 GB 1× · 53 GB libres | 25 GB 1× · 71 GB libres |
| Gemma 4 31B Google | 31,3B | 75 GB 1× · 21 GB libres | 41 GB 1× · 55 GB libres | 24 GB 1× · 72 GB libres |
| GLM-4.7 Flash Z.ai | 31,2B | 75 GB 1× · 21 GB libres | 41 GB 1× · 55 GB libres | 24 GB 1× · 72 GB libres |
| Qwen3.6 27B Alibaba | 27,8B | 67 GB 1× · 29 GB libres | 37 GB 1× · 59 GB libres | 21 GB 1× · 75 GB libres |
| Mistral Small 3.2 24B Mistral AI | 24B | 58 GB 1× · 38 GB libres | 32 GB 1× · 64 GB libres | 18 GB 1× · 78 GB libres |
| gpt-oss-20b OpenAI | 21B 3,6B actifs | — Non publié | — Non publié | 17 GB 1× · 79 GB libres |
| Gemma 3 12B Google | 12,2B | 29 GB 1× · 67 GB libres | 16 GB 1× · 80 GB libres | 9,4 GB 1× · 87 GB libres |
| Granite 4.1 8B IBM | 8,8B | 21 GB 1× · 75 GB libres | 12 GB 1× · 84 GB libres | 6,8 GB 1× · 89 GB libres |
| Qwen3 8B Alibaba | 8,2B | 20 GB 1× · 76 GB libres | 11 GB 1× · 85 GB libres | 6,3 GB 1× · 90 GB libres |
Estimations : poids du modèle plus 20 % pour le cache KV et le surcoût du runtime, avec des contextes courts. Les contextes longs et les lots importants demandent davantage. Les lignes marquées « juste » contiennent les poids, mais pas toute cette marge. Une valeur ×N correspond à la VRAM totale de N de ces GPU et ne préjuge en rien du débit de l'interconnexion. Notre méthode d'estimation · Partir plutôt d'un modèle
Caractéristiques du GPU RTXPRO600096GB
Le GPU RTXPRO600096GB dispose de 96 GB de mémoire.