Zurück zu allen Angeboten

AMD Instinct MI300X

192 GB VRAM1.307 FP16 TFLOPS750 W TDP3 Anbieter6 Angebote2 Regionen

Die AMD Instinct MI300X ist eine Enterprise- GPU, basiert auf der CDNA 3-Architektur und verfügt über 192 GB Speicher mit 5.200 GB/s Speicherbandbreite und einer TDP von 750 W. Sie liefert 163,4 TFLOPS FP32-Rechenleistung und 1.307 TFLOPS FP16-Tensor-Leistung. Derzeit bei 3 Anbieter verfügbar, ab 1,47 €/GPU/Stunde, mit einem Marktmedian von 2,40 €/GPU/Stunde über 6 Konfigurationen.

Günstigster
1,468 €/Std.
TensorWave
Median
2,403 €/Std.
über 6 Angebote
Teuerster
2,466 €/Std.
Cyfuture AI
90-Tage-Trend
+63.7%
Medianpreis

Hardware-Spezifikationen

Gleich bei allen Anbietern

Speicher
192 GB
HBM3
Welche LLMs passen? ↓
FP16-Leistung
1.307 TFLOPS
peak
TDP
750 W
Speicherbandbreite
5.200 GB/s
Architektur
CDNA 3
FP32-Leistung
163,4 TFLOPS
Marke
AMD
Serie
Instinct MI
Marktpreis-Verlauf

Medianpreis über alle Anbieter

Preise aktualisiert vor 2 Stunden

3 Angebote von 3 Anbietern

Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.

AnbieterAnzahlvCPURAMRegionPro GPU/Std.Gesamt/Std.Aktion
Runpod logoRunpodBeworben
Bis zu429 €GuthabenAffiliate-Werbung — wir erhalten möglicherweise eine Provision.
×1--2,052 €2,05 €Starten
TensorWave logoTensorWaveGünstigster
×1
United States
1,468 €
1,47 €
Starten
Runpod logoRunpodEmpfehlungslinkIm Trend
Bis zu429 €Guthaben
×1--
2,052 €
2,05 €
Starten
Bis zu1 €Guthaben
×81281,5 TB
India
Ab2,391 €
+0.3% 30T
Ab19,12 €
Starten

LLMs, die auf die AMD Instinct MI300X passen

Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 192 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.

ModellParameter16 Bit8 Bit4 Bit
DeepSeek V4 Pro
DeepSeek
1,6 Bio.
49 Mrd. aktiv
Nicht veröffentlicht
Nicht veröffentlicht
1.038 GB
8× · 498 GB frei
Kimi K2.5
Moonshot AI
1 Bio.
32 Mrd. aktiv
Nicht veröffentlicht
Nicht veröffentlicht
714 GB
4× · 54 GB frei
GLM-5.2
Z.ai
753 Mrd.
1.808 GB
Knapp auf 8× · 1 % übrig
994 GB
8× · 542 GB frei
579 GB
4× · 189 GB frei
DeepSeek R1
DeepSeek
671 Mrd.
37 Mrd. aktiv
Nicht veröffentlicht
826 GB
8× · 710 GB frei
oder 4× · 11 % übrig
481 GB
4× · 287 GB frei
DeepSeek V4 Flash
DeepSeek
284 Mrd.
Nicht veröffentlicht
Nicht veröffentlicht
192 GB
Passt knapp auf 1×
Solar Open2 250B
Upstage
250 Mrd.
15 Mrd. aktiv
601 GB
4× · 167 GB frei
330 GB
2× · 54 GB frei
192 GB
2× · 192 GB frei
oder 1× · 19 % übrig
Qwen3 235B-A22B
Alibaba
235 Mrd.
22 Mrd. aktiv
564 GB
4× · 204 GB frei
310 GB
2× · 74 GB frei
181 GB
1× · 11 GB frei
Laguna-S 2.1
Poolside
118 Mrd.
8 Mrd. aktiv
282 GB
2× · 102 GB frei
155 GB
1× · 37 GB frei
90 GB
1× · 102 GB frei
gpt-oss-120b
OpenAI
117 Mrd.
5,1 Mrd. aktiv
Nicht veröffentlicht
Nicht veröffentlicht
78 GB
1× · 114 GB frei
Qwen3.6 35B-A3B
Alibaba
35 Mrd.
3 Mrd. aktiv
86 GB
1× · 106 GB frei
47 GB
1× · 145 GB frei
28 GB
1× · 164 GB frei
Qwen3 32B
Alibaba
32,8 Mrd.
79 GB
1× · 113 GB frei
43 GB
1× · 149 GB frei
25 GB
1× · 167 GB frei
Gemma 4 31B
Google
31,3 Mrd.
75 GB
1× · 117 GB frei
41 GB
1× · 151 GB frei
24 GB
1× · 168 GB frei

Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten

Mehr von dieser Seite?

Falsche Daten?

Häufig gestellte Fragen

Wie viel kostet die Instinct MI300X pro Stunde?
Die Instinct MI300X beginnt bei 1,47 € pro GPU-Stunde, mit einem Median von 2,40 € über 6 verfügbare Konfigurationen. Der tatsächliche Preis hängt von Anbieter, Region und Mietart (On-Demand, Spot oder Reserved) ab.
Welche Cloud-Anbieter bieten die Instinct MI300X an?
3 Anbieter führen derzeit die Instinct MI300X: TensorWave, Runpod, Cyfuture AI. Vergleichen Sie Stundenpreise, Regionen und Spezifikationen in der Tabelle oben.
Wie viel VRAM hat die Instinct MI300X?
Die Instinct MI300X verfügt über 192 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.
Welche LLMs kann ich auf der Instinct MI300X betreiben?
Mit 192 GB VRAM kann eine einzelne Instinct MI300X Modelle wie DeepSeek V4 Flash, Qwen3 235B-A22B, Laguna-S 2.1, gpt-oss-120b bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.
Welches ist das größte LLM, das ich auf mehreren Instinct MI300X betreiben kann?
Die größten von uns erfassten Modelle, die auf mehrere Instinct MI300X passen, sind DeepSeek V4 Pro auf 8 GPUs mit 4 Bit, Kimi K2.5 auf 4 GPUs mit 4 Bit, GLM-5.2 auf 4 GPUs mit 4 Bit. Bei einer Multi-GPU-Konfiguration mieten und bezahlen Sie jede Karte für die gesamte Laufzeit, und die Aufteilung eines Modells über mehrere Karten kostet zusätzlich Durchsatz: Die GPUs tauschen bei jedem Token Aktivierungen aus, die Leistung hängt also davon ab, wie schnell sie miteinander verbunden sind. Wir erfassen den Interconnect nicht — prüfen Sie die Knoten-Spezifikation des Anbieters. Die Tabelle oben nennt die kleinste Konfiguration jedes Modells bei 16 Bit, 8 Bit und 4 Bit.
Wo ist die Instinct MI300X am günstigsten?
Der niedrigste On-Demand-Preis, den wir derzeit für die Instinct MI300X erfassen, liegt bei 1,47 € pro GPU-Stunde bei TensorWave. Da Anbieter Preise und Verfügbarkeit häufig ändern, prüfen Sie die Live-Tabelle oben vor dem Start.