NVIDIA A100 40GB
Carte de classe entreprise, le GPU NVIDIA A100 40GB repose sur l'architecture Ampere et dispose de 40 GB de mémoire, avec une bande passante mémoire de 1 555 GB/s et un TDP de 250 W. Il offre 19,5 TFLOPS de performances FP32 et 312 TFLOPS de performances tensorielles FP16. Actuellement disponible chez 3 fournisseurs à partir de 1,12 €/GPU/heure, avec une médiane du marché de 1,35 €/GPU/heure sur 7 configurations.
Caractéristiques matérielles
Identiques chez tous les fournisseurs
Prix médian sur l'ensemble des fournisseurs
4 offres chez 3 fournisseurs
Triées par prix croissant. Comparez les configurations côte à côte.
LLM qui tiennent sur le GPU NVIDIA A100 40GB
VRAM estimée des LLM à poids ouverts populaires en précision 16 bits (FP16/BF16), 8 bits (FP8/INT8) et 4 bits (INT4/MXFP4), pour 40 GB par GPU. Affichage des 12 plus grands qui tiennent.
| Modèle | Paramètres | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| DeepSeek V4 Flash DeepSeek | 284B | — Non publié | — Non publié | 192 GB 8× · 128 GB libres |
| Solar Open2 250B Upstage | 250B 15B actifs | 601 GB Trop grand | 330 GB Juste sur 8× · 16 % de marge | 192 GB 8× · 128 GB libres |
| Qwen3 235B-A22B Alibaba | 235B 22B actifs | 564 GB Trop grand | 310 GB 8× · 9,7 GB libres | 181 GB 8× · 139 GB libres |
| Laguna-S 2.1 Poolside | 118B 8B actifs | 282 GB 8× · 38 GB libres | 155 GB 8× · 165 GB libres | 90 GB 8× · 230 GB libres |
| gpt-oss-120b OpenAI | 117B 5,1B actifs | — Non publié | — Non publié | 78 GB 8× · 242 GB libres |
| Qwen3.6 35B-A3B Alibaba | 35B 3B actifs | 86 GB 8× · 234 GB libres | 47 GB 8× · 273 GB libres ou 1× · 1 % de marge | 28 GB 1× · 12 GB libres |
| Qwen3 32B Alibaba | 32,8B | 79 GB 8× · 241 GB libres | 43 GB 8× · 277 GB libres ou 1× · 10 % de marge | 25 GB 1× · 15 GB libres |
| Gemma 4 31B Google | 31,3B | 75 GB 8× · 245 GB libres | 41 GB 8× · 279 GB libres ou 1× · 16 % de marge | 24 GB 1× · 16 GB libres |
| GLM-4.7 Flash Z.ai | 31,2B | 75 GB 8× · 245 GB libres | 41 GB 8× · 279 GB libres ou 1× · 16 % de marge | 24 GB 1× · 16 GB libres |
| Qwen3.6 27B Alibaba | 27,8B | 67 GB 8× · 253 GB libres | 37 GB 1× · 3,3 GB libres | 21 GB 1× · 19 GB libres |
| Mistral Small 3.2 24B Mistral AI | 24B | 58 GB 8× · 262 GB libres | 32 GB 1× · 8,3 GB libres | 18 GB 1× · 22 GB libres |
| gpt-oss-20b OpenAI | 21B 3,6B actifs | — Non publié | — Non publié | 17 GB 1× · 23 GB libres |
Estimations : poids du modèle plus 20 % pour le cache KV et le surcoût du runtime, avec des contextes courts. Les contextes longs et les lots importants demandent davantage. Les lignes marquées « juste » contiennent les poids, mais pas toute cette marge. Une valeur ×N correspond à la VRAM totale de N de ces GPU et ne préjuge en rien du débit de l'interconnexion. Notre méthode d'estimation · Partir plutôt d'un modèle
GPU similaires
Voir d'autres GPU similaires dans
Vous en voulez plus sur cette page ?
Des données erronées ?


