NVIDIA RTX A4000

16 GB VRAM140 W TDP6 Anbieter31 Angebote8 Regionen

Die NVIDIA RTX A4000 ist eine Enterprise- GPU, basiert auf der Ampere-Architektur und verfügt über 16 GB Speicher mit 448 GB/s Speicherbandbreite und einer TDP von 140 W. Sie liefert 19,2 TFLOPS FP32-Rechenleistung. Derzeit bei 6 Anbieter verfügbar, ab 0,06 €/GPU/Stunde, mit einem Marktmedian von 0,14 €/GPU/Stunde über 31 Konfigurationen.

Günstigster

0,060 €/Std.

Vast.ai

Median

0,137 €/Std.

über 31 Angebote

Teuerster

0,756 €/Std.

Sesterce Cloud

90-Tage-Trend

-5.9%

Medianpreis

Hardware-Spezifikationen

Gleich bei allen Anbietern

Speicher

16 GB

Welche LLMs passen? ↓

TDP

140 W

Speicherbandbreite

448 GB/s

Architektur

Ampere

FP32-Leistung

19,2 TFLOPS

Marke

NVIDIA

Serie

RTX A

Marktpreis-Verlauf

Medianpreis über alle Anbieter

Preise aktualisiert vor 1 Stunde

7 Angebote von 6 Anbietern

Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.

Anbieter	Anzahl	vCPU	RAM	Region	Pro GPU/Std.	Gesamt/Std.	Aktion
RunpodBeworben Bis zu429 €GuthabenAffiliate-Werbung — wir erhalten möglicherweise eine Provision.	×1	25	50 GB		0,215 €	0,21 €	Starten
Vast.aiEmpfehlungslinkIm TrendGünstigster	×1	0	8 GB	+5	Ab0,060 € +13.6% 30T	Ab0,06 €	Starten
Hyperstack	×1	4	21 GB		0,129 €	Ab0,13 €
Bluelobster AI	×1	4	16 GB		0,172 € 0.0% 30T	0,17 €	Starten
RunpodEmpfehlungslinkIm Trend Bis zu429 €Guthaben	×1	25	50 GB		0,215 €	0,21 €	Starten
Omega Gradient	×1	8	45 GB		0,721 € 0.0% 30T	Ab0,72 €	Starten
Runcrate	×1	8	45 GB		0,756 € 0.0% 30T	Ab0,76 €	Starten
Sesterce CloudEmpfehlungslink	×1	8	45 GB		Ab0,756 € 0.0% 30T	Ab0,76 €	Starten

LLMs, die auf die NVIDIA RTX A4000 passen

Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 16 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.

Modell	Parameter	16 Bit	8 Bit	4 Bit
DeepSeek V4 Flash DeepSeek	284 Mrd.	— Nicht veröffentlicht	— Nicht veröffentlicht	192 GB Knapp auf 10× · 0 % übrig
Solar Open2 250B Upstage	250 Mrd. 15 Mrd. aktiv	— Nicht veröffentlicht	— Nicht veröffentlicht	192 GB Knapp auf 11× · 9 % übrig
Qwen3 235B-A22B Alibaba	235 Mrd. 22 Mrd. aktiv	— Nicht veröffentlicht	— Nicht veröffentlicht	181 GB Knapp auf 10× · 6 % übrig
Laguna-S 2.1 Poolside	118 Mrd. 8 Mrd. aktiv	282 GB Zu groß	155 GB 10× · 4,8 GB frei	90 GB 6× · 5,7 GB frei
gpt-oss-120b OpenAI	117 Mrd. 5,1 Mrd. aktiv	— Nicht veröffentlicht	— Nicht veröffentlicht	78 GB 6× · 18 GB frei
Qwen3.6 35B-A3B Alibaba	35 Mrd. 3 Mrd. aktiv	86 GB 6× · 9,7 GB frei	47 GB Passt knapp auf 3×	28 GB 2× · 4,4 GB frei
Qwen3 32B Alibaba	32,8 Mrd.	79 GB 6× · 17 GB frei	43 GB 3× · 4,8 GB frei	25 GB 2× · 6,8 GB frei
Gemma 4 31B Google	31,3 Mrd.	75 GB 6× · 21 GB frei oder 4× · 2 % übrig	41 GB 3× · 6,7 GB frei	24 GB 2× · 8 GB frei
GLM-4.7 Flash Z.ai	31,2 Mrd.	75 GB 6× · 21 GB frei oder 4× · 2 % übrig	41 GB 3× · 6,8 GB frei	24 GB 2× · 8 GB frei
Qwen3.6 27B Alibaba	27,8 Mrd.	67 GB 6× · 29 GB frei oder 4× · 15 % übrig	37 GB 3× · 11 GB frei oder 2× · 4 % übrig	21 GB 2× · 11 GB frei
Mistral Small 3.2 24B Mistral AI	24 Mrd.	58 GB 4× · 6,4 GB frei	32 GB Passt knapp auf 2×	18 GB 2× · 14 GB frei oder 1× · 4 % übrig
gpt-oss-20b OpenAI	21 Mrd. 3,6 Mrd. aktiv	— Nicht veröffentlicht	— Nicht veröffentlicht	17 GB 2× · 15 GB frei oder 1× · 16 % übrig

Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten

Mehr von dieser Seite?

Falsche Daten?

Häufig gestellte Fragen

Wie viel kostet die RTX A4000 pro Stunde?

Die RTX A4000 beginnt bei 0,06 € pro GPU-Stunde, mit einem Median von 0,14 € über 31 verfügbare Konfigurationen. Der tatsächliche Preis hängt von Anbieter, Region und Mietart (On-Demand, Spot oder Reserved) ab.

Welche Cloud-Anbieter bieten die RTX A4000 an?

7 Anbieter führen derzeit die RTX A4000: Bluelobster AI, Runpod, Sesterce Cloud, Hyperstack, Runcrate, Omega Gradient und 1 weitere. Vergleichen Sie Stundenpreise, Regionen und Spezifikationen in der Tabelle oben.

Wie viel VRAM hat die RTX A4000?

Die RTX A4000 verfügt über 16 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.

Welches ist das größte LLM, das ich auf mehreren RTX A4000 betreiben kann?

Die größten von uns erfassten Modelle, die auf mehrere RTX A4000 passen, sind Laguna-S 2.1 auf 6 GPUs mit 4 Bit, gpt-oss-120b auf 6 GPUs mit 4 Bit, Qwen3.6 35B-A3B auf 2 GPUs mit 4 Bit. Bei einer Multi-GPU-Konfiguration mieten und bezahlen Sie jede Karte für die gesamte Laufzeit, und die Aufteilung eines Modells über mehrere Karten kostet zusätzlich Durchsatz: Die GPUs tauschen bei jedem Token Aktivierungen aus, die Leistung hängt also davon ab, wie schnell sie miteinander verbunden sind. Wir erfassen den Interconnect nicht — prüfen Sie die Knoten-Spezifikation des Anbieters. Die Tabelle oben nennt die kleinste Konfiguration jedes Modells bei 16 Bit, 8 Bit und 4 Bit.

Wo ist die RTX A4000 am günstigsten?

Der niedrigste On-Demand-Preis, den wir derzeit für die RTX A4000 erfassen, liegt bei 0,06 € pro GPU-Stunde bei Vast.ai. Da Anbieter Preise und Verfügbarkeit häufig ändern, prüfen Sie die Live-Tabelle oben vor dem Start.