AMD Instinct MI300X
Die AMD Instinct MI300X ist eine Enterprise- GPU, basiert auf der CDNA 3-Architektur und verfügt über 192 GB Speicher mit 5.200 GB/s Speicherbandbreite und einer TDP von 750 W. Sie liefert 163,4 TFLOPS FP32-Rechenleistung und 1.307 TFLOPS FP16-Tensor-Leistung. Derzeit bei 3 Anbieter verfügbar, ab 1,47 €/GPU/Stunde, mit einem Marktmedian von 2,40 €/GPU/Stunde über 6 Konfigurationen.
Hardware-Spezifikationen
Gleich bei allen Anbietern
Medianpreis über alle Anbieter
3 Angebote von 3 Anbietern
Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.
| Anbieter | Anzahl | vCPU | RAM | Region | Pro GPU/Std. | Gesamt/Std. | Aktion |
|---|---|---|---|---|---|---|---|
| ×1 | — | — | -- | 2,052 € | 2,05 € | Starten | |
TensorWaveGünstigster | ×1 | — | — | 1,468 € | 1,47 € | Starten | |
Bis zu429 €Guthaben | ×1 | — | — | -- | 2,052 € | 2,05 € | Starten |
Bis zu1 €Guthaben | ×8 | 128 | 1,5 TB | Ab2,391 € +0.3% 30T | Ab19,12 € | Starten |
LLMs, die auf die AMD Instinct MI300X passen
Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 192 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.
| Modell | Parameter | 16 Bit | 8 Bit | 4 Bit |
|---|---|---|---|---|
| DeepSeek V4 Pro DeepSeek | 1,6 Bio. 49 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 1.038 GB 8× · 498 GB frei |
| Kimi K2.5 Moonshot AI | 1 Bio. 32 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 714 GB 4× · 54 GB frei |
| GLM-5.2 Z.ai | 753 Mrd. | 1.808 GB Knapp auf 8× · 1 % übrig | 994 GB 8× · 542 GB frei | 579 GB 4× · 189 GB frei |
| DeepSeek R1 DeepSeek | 671 Mrd. 37 Mrd. aktiv | — Nicht veröffentlicht | 826 GB 8× · 710 GB frei oder 4× · 11 % übrig | 481 GB 4× · 287 GB frei |
| DeepSeek V4 Flash DeepSeek | 284 Mrd. | — Nicht veröffentlicht | — Nicht veröffentlicht | 192 GB Passt knapp auf 1× |
| Solar Open2 250B Upstage | 250 Mrd. 15 Mrd. aktiv | 601 GB 4× · 167 GB frei | 330 GB 2× · 54 GB frei | 192 GB 2× · 192 GB frei oder 1× · 19 % übrig |
| Qwen3 235B-A22B Alibaba | 235 Mrd. 22 Mrd. aktiv | 564 GB 4× · 204 GB frei | 310 GB 2× · 74 GB frei | 181 GB 1× · 11 GB frei |
| Laguna-S 2.1 Poolside | 118 Mrd. 8 Mrd. aktiv | 282 GB 2× · 102 GB frei | 155 GB 1× · 37 GB frei | 90 GB 1× · 102 GB frei |
| gpt-oss-120b OpenAI | 117 Mrd. 5,1 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 78 GB 1× · 114 GB frei |
| Qwen3.6 35B-A3B Alibaba | 35 Mrd. 3 Mrd. aktiv | 86 GB 1× · 106 GB frei | 47 GB 1× · 145 GB frei | 28 GB 1× · 164 GB frei |
| Qwen3 32B Alibaba | 32,8 Mrd. | 79 GB 1× · 113 GB frei | 43 GB 1× · 149 GB frei | 25 GB 1× · 167 GB frei |
| Gemma 4 31B Google | 31,3 Mrd. | 75 GB 1× · 117 GB frei | 41 GB 1× · 151 GB frei | 24 GB 1× · 168 GB frei |
Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten
Mehr ähnliche GPUs in
Mehr von dieser Seite?
Falsche Daten?

