NVIDIA A100X
80 GB · Ampere · 312 TFLOPS FP16
Prix mis à jour .
Aucune offre actuellement
0 offres chez 0 fournisseurs
| Fournisseur | Par GPU / heure | Action | |
|---|---|---|---|
| Essayez d'élargir vos filtres ou effacez-les tous pour recommencer. | |||
Historique des prix du GPU NVIDIA A100X
LLM qui tiennent sur le GPU NVIDIA A100X
LLM populaires à poids ouverts face à 80 GB par GPU : poids plus la place pour le cache KV, dans la meilleure précision qui tient. Affichage des 12 plus grands qui tiennent.
Tient sur un seul GPU NVIDIA A100X
- Laguna-S 2.14 bits · juste, 6 % de marge
- gpt-oss-120b4 bits · 78 GB
- Qwen3.6 35B-A3B8 bits · 47 GB
- Qwen3 32B16 bits · 79 GB
- Gemma 4 31B16 bits · 75 GB
- GLM-4.7 Flash16 bits · 75 GB
- Qwen3.6 27B16 bits · 67 GB
- Mistral Small 3.2 24B16 bits · 58 GB
- gpt-oss-20b4 bits · 17 GB
- Gemma 3 12B16 bits · 29 GB
- Granite 4.1 8B16 bits · 21 GB
- Qwen3 8B16 bits · 20 GB
Tableau complet avec toutes les précisions
VRAM estimée des LLM à poids ouverts populaires en précision 16 bits (FP16/BF16), 8 bits (FP8/INT8) et 4 bits (INT4/MXFP4), pour 80 GB par GPU.
| Modèle | Paramètres | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| Laguna-S 2.1 Poolside | 118B 8B actifs | 282 GB Trop grand | 155 GB Trop grand | 90 GB Juste sur 1× · 6 % de marge |
| gpt-oss-120b OpenAI | 117B 5,1B actifs | — Non publié | — Non publié | 78 GB 1× · 1,7 GB libres |
| Qwen3.6 35B-A3B Alibaba | 35B 3B actifs | 86 GB Juste sur 1× · 11 % de marge | 47 GB 1× · 33 GB libres | 28 GB 1× · 52 GB libres |
| Qwen3 32B Alibaba | 32,8B | 79 GB 1× · 1,4 GB libres | 43 GB 1× · 37 GB libres | 25 GB 1× · 55 GB libres |
| Gemma 4 31B Google | 31,3B | 75 GB 1× · 4,9 GB libres | 41 GB 1× · 39 GB libres | 24 GB 1× · 56 GB libres |
| GLM-4.7 Flash Z.ai | 31,2B | 75 GB 1× · 5,1 GB libres | 41 GB 1× · 39 GB libres | 24 GB 1× · 56 GB libres |
| Qwen3.6 27B Alibaba | 27,8B | 67 GB 1× · 13 GB libres | 37 GB 1× · 43 GB libres | 21 GB 1× · 59 GB libres |
| Mistral Small 3.2 24B Mistral AI | 24B | 58 GB 1× · 22 GB libres | 32 GB 1× · 48 GB libres | 18 GB 1× · 62 GB libres |
| gpt-oss-20b OpenAI | 21B 3,6B actifs | — Non publié | — Non publié | 17 GB 1× · 63 GB libres |
| Gemma 3 12B Google | 12,2B | 29 GB 1× · 51 GB libres | 16 GB 1× · 64 GB libres | 9,4 GB 1× · 71 GB libres |
| Granite 4.1 8B IBM | 8,8B | 21 GB 1× · 59 GB libres | 12 GB 1× · 68 GB libres | 6,8 GB 1× · 73 GB libres |
| Qwen3 8B Alibaba | 8,2B | 20 GB 1× · 60 GB libres | 11 GB 1× · 69 GB libres | 6,3 GB 1× · 74 GB libres |
Estimations : poids du modèle plus 20 % pour le cache KV et le surcoût du runtime, avec des contextes courts. Les contextes longs et les lots importants demandent davantage. Les lignes marquées « juste » contiennent les poids, mais pas toute cette marge. Une valeur ×N correspond à la VRAM totale de N de ces GPU et ne préjuge en rien du débit de l'interconnexion. Notre méthode d'estimation · Partir plutôt d'un modèle
Caractéristiques du GPU NVIDIA A100X
Carte de classe entreprise, le GPU NVIDIA A100X repose sur l'architecture Ampere et dispose de 80 GB de mémoire, avec une bande passante mémoire de 1 935 GB/s et un TDP de 300 W. Il offre 19,5 TFLOPS de performances FP32 et 312 TFLOPS de performances tensorielles FP16.
- Bande passante mémoire
- 1 935 GB/s
- Performances FP16
- 312 TFLOPS
- crête
- Performances FP32
- 19,5 TFLOPS
- Architecture
- Ampere
- TDP
- 300 W
- Marque
- NVIDIA
- Série
- A100