AMD Instinct MI350X
288 GB · CDNA 4 · 2 300 TFLOPS FP16
Prix mis à jour .
Aucune offre actuellement
0 offres chez 0 fournisseurs
| Fournisseur | Par GPU / heure | Action | |
|---|---|---|---|
| Essayez d'élargir vos filtres ou effacez-les tous pour recommencer. | |||
Historique des prix du GPU AMD Instinct MI350X
Le prix médian du GPU AMD Instinct MI350X a augmenté de 42 % depuis le 17 août 2026.
LLM qui tiennent sur le GPU AMD Instinct MI350X
LLM populaires à poids ouverts face à 288 GB par GPU : poids plus la place pour le cache KV, dans la meilleure précision qui tient. Affichage des 12 plus grands qui tiennent.
Tient sur un seul GPU AMD Instinct MI350X
- DeepSeek V4 Flash4 bits · 192 GB
- Solar Open2 250B4 bits · 192 GB
- Qwen3 235B-A22B4 bits · 181 GB
- Laguna-S 2.116 bits · 282 GB
- gpt-oss-120b4 bits · 78 GB
- Qwen3.6 35B-A3B16 bits · 86 GB
- Qwen3 32B16 bits · 79 GB
- Gemma 4 31B16 bits · 75 GB
- GLM-4.7 Flash16 bits · 75 GB
- Qwen3.6 27B16 bits · 67 GB
- Mistral Small 3.2 24B16 bits · 58 GB
- gpt-oss-20b4 bits · 17 GB
Tableau complet avec toutes les précisions
VRAM estimée des LLM à poids ouverts populaires en précision 16 bits (FP16/BF16), 8 bits (FP8/INT8) et 4 bits (INT4/MXFP4), pour 288 GB par GPU.
| Modèle | Paramètres | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| DeepSeek V4 Flash DeepSeek | 284B | — Non publié | — Non publié | 192 GB 1× · 96 GB libres |
| Solar Open2 250B Upstage | 250B 15B actifs | 601 GB Trop grand | 330 GB Juste sur 1× · 4 % de marge | 192 GB 1× · 96 GB libres |
| Qwen3 235B-A22B Alibaba | 235B 22B actifs | 564 GB Trop grand | 310 GB Juste sur 1× · 11 % de marge | 181 GB 1× · 107 GB libres |
| Laguna-S 2.1 Poolside | 118B 8B actifs | 282 GB 1× · 5,8 GB libres | 155 GB 1× · 133 GB libres | 90 GB 1× · 198 GB libres |
| gpt-oss-120b OpenAI | 117B 5,1B actifs | — Non publié | — Non publié | 78 GB 1× · 210 GB libres |
| Qwen3.6 35B-A3B Alibaba | 35B 3B actifs | 86 GB 1× · 202 GB libres | 47 GB 1× · 241 GB libres | 28 GB 1× · 260 GB libres |
| Qwen3 32B Alibaba | 32,8B | 79 GB 1× · 209 GB libres | 43 GB 1× · 245 GB libres | 25 GB 1× · 263 GB libres |
| Gemma 4 31B Google | 31,3B | 75 GB 1× · 213 GB libres | 41 GB 1× · 247 GB libres | 24 GB 1× · 264 GB libres |
| GLM-4.7 Flash Z.ai | 31,2B | 75 GB 1× · 213 GB libres | 41 GB 1× · 247 GB libres | 24 GB 1× · 264 GB libres |
| Qwen3.6 27B Alibaba | 27,8B | 67 GB 1× · 221 GB libres | 37 GB 1× · 251 GB libres | 21 GB 1× · 267 GB libres |
| Mistral Small 3.2 24B Mistral AI | 24B | 58 GB 1× · 230 GB libres | 32 GB 1× · 256 GB libres | 18 GB 1× · 270 GB libres |
| gpt-oss-20b OpenAI | 21B 3,6B actifs | — Non publié | — Non publié | 17 GB 1× · 271 GB libres |
Estimations : poids du modèle plus 20 % pour le cache KV et le surcoût du runtime, avec des contextes courts. Les contextes longs et les lots importants demandent davantage. Les lignes marquées « juste » contiennent les poids, mais pas toute cette marge. Une valeur ×N correspond à la VRAM totale de N de ces GPU et ne préjuge en rien du débit de l'interconnexion. Notre méthode d'estimation · Partir plutôt d'un modèle
Caractéristiques du GPU AMD Instinct MI350X
Carte de classe entreprise, le GPU AMD Instinct MI350X repose sur l'architecture CDNA 4 et dispose de 288 GB de mémoire, avec une bande passante mémoire de 8 000 GB/s et un TDP de 1 000 W. Il offre 144,2 TFLOPS de performances FP32 et 2 300 TFLOPS de performances tensorielles FP16.
- Bande passante mémoire
- 8 000 GB/s
- Performances FP16
- 2 300 TFLOPS
- crête
- Performances FP32
- 144,2 TFLOPS
- Architecture
- CDNA 4
- TDP
- 1 000 W
- Marque
- AMD
- Série
- Instinct MI