NVIDIA RTX 4000 SFF Ada Generation
Die NVIDIA RTX 4000 SFF Ada Generation ist eine Enterprise- GPU, basiert auf der Ada Lovelace-Architektur und verfügt über 20 GB Speicher mit 360 GB/s Speicherbandbreite und einer TDP von 70 W. Sie liefert 19,8 TFLOPS FP32-Rechenleistung.
Hardware-Spezifikationen
Gleich bei allen Anbietern
Medianpreis über alle Anbieter
2 Angebote von 0 Anbietern
Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.
| Anbieter | Anzahl | vCPU | RAM | Region | Pro GPU/Std. | Gesamt/Std. | Aktion |
|---|---|---|---|---|---|---|---|
Bis zu90 €Guthaben | ×1 | — | — |  | 0,125 € | 0,13 € | |
Bis zu448 €Guthaben | ×1 | — | — | -- | 0,394 € 0,0 % 30T | 0,39 € |
LLMs, die auf die NVIDIA RTX 4000 SFF Ada Generation passen
Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 20 GB pro GPU.
| Modell | Parameter | 16 Bit | 8 Bit | 4 Bit |
|---|---|---|---|---|
| GLM-4.7 Flash Z.ai | 31,2 Mrd. | 75 GB Zu groß | 41 GB Zu groß | 24 GB Knapp auf 1× · 0 % übrig |
| Qwen3.6 27B Alibaba | 27,8 Mrd. | 67 GB Zu groß | 37 GB Zu groß | 21 GB Knapp auf 1× · 12 % übrig |
| Mistral Small 3.2 24B Mistral AI | 24 Mrd. | 58 GB Zu groß | 32 GB Zu groß | 18 GB 1× · 1,6 GB frei |
| gpt-oss-20b OpenAI | 21 Mrd. 3,6 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 17 GB 1× · 3,5 GB frei |
| Gemma 3 12B Google | 12,2 Mrd. | 29 GB Zu groß | 16 GB 1× · 3,9 GB frei | 9,4 GB 1× · 11 GB frei |
| Granite 4.1 8B IBM | 8,8 Mrd. | 21 GB Knapp auf 1× · 13 % übrig | 12 GB 1× · 8,4 GB frei | 6,8 GB 1× · 13 GB frei |
| Qwen3 8B Alibaba | 8,2 Mrd. | 20 GB Passt knapp auf 1× | 11 GB 1× · 9,2 GB frei | 6,3 GB 1× · 14 GB frei |
| Llama 3.1 8B Instruct Meta | 8 Mrd. | 19 GB Passt knapp auf 1× | 11 GB 1× · 9,4 GB frei | 6,2 GB 1× · 14 GB frei |
| Mistral 7B Instruct v0.3 Mistral AI | 7,2 Mrd. | 17 GB 1× · 2,6 GB frei | 9,6 GB 1× · 10 GB frei | 5,6 GB 1× · 14 GB frei |
| Qwen3 4B Alibaba | 4 Mrd. | 9,7 GB 1× · 10 GB frei | 5,3 GB 1× · 15 GB frei | 3,1 GB 1× · 17 GB frei |
Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten