Zurück zu allen Angeboten

NVIDIA RTX A5000

24 GB VRAM230 W TDP6 Anbieter15 Angebote2 Regionen

Die NVIDIA RTX A5000 ist eine Enterprise- GPU, basiert auf der Ampere-Architektur und verfügt über 24 GB Speicher mit 768 GB/s Speicherbandbreite und einer TDP von 230 W. Sie liefert 27,8 TFLOPS FP32-Rechenleistung. Derzeit bei 6 Anbieter verfügbar, ab 0,18 €/GPU/Stunde, mit einem Marktmedian von 1,33 €/GPU/Stunde über 15 Konfigurationen.

Günstigster
0,178 €/Std.
Vast.ai
Median
1,334 €/Std.
über 15 Angebote
Teuerster
1,651 €/Std.
Runcrate
90-Tage-Trend
-4,2 %
Medianpreis

Hardware-Spezifikationen

Gleich bei allen Anbietern

TDP
230 W
Speicherbandbreite
768 GB/s
Architektur
Ampere
FP32-Leistung
27,8 TFLOPS
Marke
NVIDIA
Serie
RTX A
Marktpreis-Verlauf

Medianpreis über alle Anbieter

Preise aktualisiert

7 Angebote von 6 Anbietern

Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.

AnbieterAnzahlvCPURAMRegionPro GPU/Std.Gesamt/Std.Aktion
RunpodBeworben
Bis zu446 €GuthabenAffiliate-Werbung — wir erhalten möglicherweise eine Provision.
×1——--0,241 €0,24 €Starten
Vast.aiEmpfehlungslinkIm TrendGünstigster
×268 GB
Vereinigte StaatenIrland
Ab0,178 €
-7,0 % 30T
Ab0,36 €
Starten
RunpodEmpfehlungslinkIm Trend
Bis zu446 €Guthaben
×1——--
0,241 €
0,24 €
Starten
×1432 GB
Vereinigte Staaten
0,268 €
0,0 % 30T
Ab0,27 €
Starten
×1——--
0,625 €
0,62 €
×432180 GB
Vereinigte Staaten
Ab1,332 €
+433,9 % 30T
Ab5,33 €
Starten
Sesterce CloudEmpfehlungslink
×1845 GB
Vereinigte Staaten
Ab1,394 €
0,0 % 30T
Ab1,39 €
Starten
×1845 GB
Vereinigte Staaten
1,651 €
0,0 % 30T
Ab1,65 €
Starten

LLMs, die auf die NVIDIA RTX A5000 passen

Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 24 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.

ModellParameter16 Bit8 Bit4 Bit
Laguna-S 2.1
Poolside
118 Mrd.
8 Mrd. aktiv
282 GB
Zu groß
155 GB
Zu groß
90 GB
4× · 5,7 GB frei
gpt-oss-120b
OpenAI
117 Mrd.
5,1 Mrd. aktiv
—
Nicht veröffentlicht
—
Nicht veröffentlicht
78 GB
4× · 18 GB frei
Qwen3.6 35B-A3B
Alibaba
35 Mrd.
3 Mrd. aktiv
86 GB
4× · 9,7 GB frei
47 GB
Passt knapp auf 2×
28 GB
2× · 20 GB frei
oder 1× · 4 % übrig
Qwen3 32B
Alibaba
32,8 Mrd.
79 GB
4× · 17 GB frei
43 GB
2× · 4,8 GB frei
25 GB
2× · 23 GB frei
oder 1× · 14 % übrig
Gemma 4 31B
Google
31,3 Mrd.
75 GB
4× · 21 GB frei
41 GB
2× · 6,7 GB frei
24 GB
2× · 24 GB frei
oder 1× · 19 % übrig
GLM-4.7 Flash
Z.ai
31,2 Mrd.
75 GB
4× · 21 GB frei
41 GB
2× · 6,8 GB frei
24 GB
Passt knapp auf 1×
Qwen3.6 27B
Alibaba
27,8 Mrd.
67 GB
4× · 29 GB frei
37 GB
2× · 11 GB frei
21 GB
1× · 2,7 GB frei
Mistral Small 3.2 24B
Mistral AI
24 Mrd.
58 GB
4× · 38 GB frei
32 GB
2× · 16 GB frei
18 GB
1× · 5,6 GB frei
gpt-oss-20b
OpenAI
21 Mrd.
3,6 Mrd. aktiv
—
Nicht veröffentlicht
—
Nicht veröffentlicht
17 GB
1× · 7,5 GB frei
Gemma 3 12B
Google
12,2 Mrd.
29 GB
2× · 19 GB frei
16 GB
1× · 7,9 GB frei
9,4 GB
1× · 15 GB frei
Granite 4.1 8B
IBM
8,8 Mrd.
21 GB
1× · 2,9 GB frei
12 GB
1× · 12 GB frei
6,8 GB
1× · 17 GB frei
Qwen3 8B
Alibaba
8,2 Mrd.
20 GB
1× · 4,3 GB frei
11 GB
1× · 13 GB frei
6,3 GB
1× · 18 GB frei

Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten

Mehr von dieser Seite?

Falsche Daten?

Häufig gestellte Fragen

Wie viel kostet die RTX A5000 pro Stunde?
Die RTX A5000 beginnt bei 0,18 € pro GPU-Stunde, mit einem Median von 1,33 € über 15 verfügbare Konfigurationen. Der tatsächliche Preis hängt von Anbieter, Region und Mietart (On-Demand, Spot oder Reserved) ab.
Welche Cloud-Anbieter bieten die RTX A5000 an?
7 Anbieter führen derzeit die RTX A5000: Runpod, Sesterce Cloud, Bluelobster AI, Omega Gradient, Runcrate, Vast.ai und 1 weitere. Vergleichen Sie Stundenpreise, Regionen und Spezifikationen in der Tabelle oben.
Wie viel VRAM hat die RTX A5000?
Die RTX A5000 verfügt über 24 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.
Welche LLMs kann ich auf der RTX A5000 betreiben?
Mit 24 GB VRAM kann eine einzelne RTX A5000 Modelle wie GLM-4.7 Flash, Qwen3.6 27B, Mistral Small 3.2 24B, gpt-oss-20b bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.
Welches ist das größte LLM, das ich auf mehreren RTX A5000 betreiben kann?
Die größten von uns erfassten Modelle, die auf mehrere RTX A5000 passen, sind Laguna-S 2.1 auf 4 GPUs mit 4 Bit, gpt-oss-120b auf 4 GPUs mit 4 Bit, Qwen3.6 35B-A3B auf 2 GPUs mit 8 Bit. Bei einer Multi-GPU-Konfiguration mieten und bezahlen Sie jede Karte für die gesamte Laufzeit, und die Aufteilung eines Modells über mehrere Karten kostet zusätzlich Durchsatz: Die GPUs tauschen bei jedem Token Aktivierungen aus, die Leistung hängt also davon ab, wie schnell sie miteinander verbunden sind. Wir erfassen den Interconnect nicht — prüfen Sie die Knoten-Spezifikation des Anbieters. Die Tabelle oben nennt die kleinste Konfiguration jedes Modells bei 16 Bit, 8 Bit und 4 Bit.
Wo ist die RTX A5000 am günstigsten?
Der niedrigste On-Demand-Preis, den wir derzeit für die RTX A5000 erfassen, liegt bei 0,18 € pro GPU-Stunde bei Vast.ai. Da Anbieter Preise und Verfügbarkeit häufig ändern, prüfen Sie die Live-Tabelle oben vor dem Start.