AMD Instinct MI350X
288 GB · CDNA 4 · 2.300 FP16-TFLOPS
Preise aktualisiert .
Keine aktuellen Angebote
0 Angebote von 0 Anbietern
| Anbieter | Pro GPU / Stunde | Aktion | |
|---|---|---|---|
| Erweitern Sie Ihre Filter oder setzen Sie alle Filter zurück. | |||
Preisverlauf der AMD Instinct MI350X
Der Medianpreis der AMD Instinct MI350X ist seit 17. August 2026 um 42 % gestiegen.
LLMs, die auf die AMD Instinct MI350X passen
Beliebte Open-Weight-LLMs bei 288 GB pro GPU: Gewichte plus Platz für den KV-Cache, in der besten Präzision, die passt. Gezeigt werden die 12 größten passenden Modelle.
Läuft auf einer AMD Instinct MI350X
- DeepSeek V4 Flash4 Bit · 192 GB
- Solar Open2 250B4 Bit · 192 GB
- Qwen3 235B-A22B4 Bit · 181 GB
- Laguna-S 2.116 Bit · 282 GB
- gpt-oss-120b4 Bit · 78 GB
- Qwen3.6 35B-A3B16 Bit · 86 GB
- Qwen3 32B16 Bit · 79 GB
- Gemma 4 31B16 Bit · 75 GB
- GLM-4.7 Flash16 Bit · 75 GB
- Qwen3.6 27B16 Bit · 67 GB
- Mistral Small 3.2 24B16 Bit · 58 GB
- gpt-oss-20b4 Bit · 17 GB
Vollständige Tabelle mit allen Präzisionen
Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 288 GB pro GPU.
| Modell | Parameter | 16 Bit | 8 Bit | 4 Bit |
|---|---|---|---|---|
| DeepSeek V4 Flash DeepSeek | 284 Mrd. | — Nicht veröffentlicht | — Nicht veröffentlicht | 192 GB 1× · 96 GB frei |
| Solar Open2 250B Upstage | 250 Mrd. 15 Mrd. aktiv | 601 GB Zu groß | 330 GB Knapp auf 1× · 4 % übrig | 192 GB 1× · 96 GB frei |
| Qwen3 235B-A22B Alibaba | 235 Mrd. 22 Mrd. aktiv | 564 GB Zu groß | 310 GB Knapp auf 1× · 11 % übrig | 181 GB 1× · 107 GB frei |
| Laguna-S 2.1 Poolside | 118 Mrd. 8 Mrd. aktiv | 282 GB 1× · 5,8 GB frei | 155 GB 1× · 133 GB frei | 90 GB 1× · 198 GB frei |
| gpt-oss-120b OpenAI | 117 Mrd. 5,1 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 78 GB 1× · 210 GB frei |
| Qwen3.6 35B-A3B Alibaba | 35 Mrd. 3 Mrd. aktiv | 86 GB 1× · 202 GB frei | 47 GB 1× · 241 GB frei | 28 GB 1× · 260 GB frei |
| Qwen3 32B Alibaba | 32,8 Mrd. | 79 GB 1× · 209 GB frei | 43 GB 1× · 245 GB frei | 25 GB 1× · 263 GB frei |
| Gemma 4 31B Google | 31,3 Mrd. | 75 GB 1× · 213 GB frei | 41 GB 1× · 247 GB frei | 24 GB 1× · 264 GB frei |
| GLM-4.7 Flash Z.ai | 31,2 Mrd. | 75 GB 1× · 213 GB frei | 41 GB 1× · 247 GB frei | 24 GB 1× · 264 GB frei |
| Qwen3.6 27B Alibaba | 27,8 Mrd. | 67 GB 1× · 221 GB frei | 37 GB 1× · 251 GB frei | 21 GB 1× · 267 GB frei |
| Mistral Small 3.2 24B Mistral AI | 24 Mrd. | 58 GB 1× · 230 GB frei | 32 GB 1× · 256 GB frei | 18 GB 1× · 270 GB frei |
| gpt-oss-20b OpenAI | 21 Mrd. 3,6 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 17 GB 1× · 271 GB frei |
Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten
Spezifikationen der AMD Instinct MI350X
Die AMD Instinct MI350X ist eine Enterprise-GPU, basiert auf der CDNA 4-Architektur und verfügt über 288 GB Speicher mit 8.000 GB/s Speicherbandbreite und einer TDP von 1.000 W. Sie liefert 144,2 TFLOPS FP32-Rechenleistung und 2.300 TFLOPS FP16-Tensor-Leistung.
- Speicherbandbreite
- 8.000 GB/s
- FP16-Leistung
- 2.300 TFLOPS
- Spitze
- FP32-Leistung
- 144,2 TFLOPS
- Architektur
- CDNA 4
- TDP
- 1.000 W
- Marke
- AMD
- Serie
- Instinct MI