NVIDIA L40S
Die NVIDIA L40S ist eine Enterprise- GPU, basiert auf der Ada Lovelace-Architektur und verfügt über 48 GB Speicher mit 864 GB/s Speicherbandbreite und einer TDP von 350 W. Sie liefert 91,6 TFLOPS FP32-Rechenleistung und 362 TFLOPS FP16-Tensor-Leistung. Derzeit bei 10 Anbieter verfügbar, ab 0,40 €/GPU/Stunde, mit einem Marktmedian von 1,08 €/GPU/Stunde über 45 Konfigurationen.
Hardware-Spezifikationen
Gleich bei allen Anbietern
Medianpreis über alle Anbieter
11 Angebote von 10 Anbietern
Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.
| Anbieter | Anzahl | vCPU | RAM | Region | Pro GPU/Std. | Gesamt/Std. | Aktion |
|---|---|---|---|---|---|---|---|
| ×1 | 16 | 94 GB | 0,850 € | 0,85 € | Starten | ||
| ×4 | 128 | 503 GB | Ab0,404 € +50.9% 30T | Ab1,61 € | Starten | ||
Novita AIEmpfehlungslink | ×1 | 22 | 125 GB | 0,472 € | 0,47 € | ||
| ×1 | 32 | 188 GB | Ab0,532 € -0.3% 30T | Ab0,53 € | Starten | ||
| ×1 | 12 | 72 GB | 0,833 € 0.0% 30T | Ab0,83 € | Starten | ||
Bis zu429 €Guthaben | ×1 | 16 | 94 GB | 0,850 € | 0,85 € | Starten | |
Thunder ComputeEmpfehlungslink | ×1 | 4 | 32 GB | -- | Ab0,850 € | Ab0,85 € | Starten |
Bis zu1 €Guthaben | ×8 | 64 | 1,5 TB | Ab1,079 € +0.2% 30T | Ab8,63 € | Starten | |
| ×1 | 20 | 60 GB | -- | 1,176 € | Ab1,18 € | Starten | |
| ×1 | 16 | 180 GB | -- | Ab1,339 € | Ab1,34 € | Starten | |
| ×1 | 8 | 96 GB | 1,470 € +1.5% 30T | Ab1,47 € | Starten | ||
Sesterce CloudEmpfehlungslink | ×1 | 8 | 96 GB | Ab1,606 € 0.0% 30T | Ab1,61 € | Starten |
LLMs, die auf die NVIDIA L40S passen
Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 48 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.
| Modell | Parameter | 16 Bit | 8 Bit | 4 Bit |
|---|---|---|---|---|
| DeepSeek V4 Flash DeepSeek | 284 Mrd. | — Nicht veröffentlicht | — Nicht veröffentlicht | 192 GB Passt knapp auf 4× |
| Solar Open2 250B Upstage | 250 Mrd. 15 Mrd. aktiv | 601 GB Zu groß | 330 GB 8× · 54 GB frei | 192 GB 8× · 192 GB frei oder 4× · 19 % übrig |
| Qwen3 235B-A22B Alibaba | 235 Mrd. 22 Mrd. aktiv | 564 GB Zu groß | 310 GB 8× · 74 GB frei | 181 GB 4× · 11 GB frei |
| Laguna-S 2.1 Poolside | 118 Mrd. 8 Mrd. aktiv | 282 GB 8× · 102 GB frei | 155 GB 4× · 37 GB frei | 90 GB 2× · 5,7 GB frei |
| gpt-oss-120b OpenAI | 117 Mrd. 5,1 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 78 GB 2× · 18 GB frei |
| Qwen3.6 35B-A3B Alibaba | 35 Mrd. 3 Mrd. aktiv | 86 GB 2× · 9,7 GB frei | 47 GB Passt knapp auf 1× | 28 GB 1× · 20 GB frei |
| Qwen3 32B Alibaba | 32,8 Mrd. | 79 GB 2× · 17 GB frei | 43 GB 1× · 4,8 GB frei | 25 GB 1× · 23 GB frei |
| Gemma 4 31B Google | 31,3 Mrd. | 75 GB 2× · 21 GB frei | 41 GB 1× · 6,7 GB frei | 24 GB 1× · 24 GB frei |
| GLM-4.7 Flash Z.ai | 31,2 Mrd. | 75 GB 2× · 21 GB frei | 41 GB 1× · 6,8 GB frei | 24 GB 1× · 24 GB frei |
| Qwen3.6 27B Alibaba | 27,8 Mrd. | 67 GB 2× · 29 GB frei | 37 GB 1× · 11 GB frei | 21 GB 1× · 27 GB frei |
| Mistral Small 3.2 24B Mistral AI | 24 Mrd. | 58 GB 2× · 38 GB frei | 32 GB 1× · 16 GB frei | 18 GB 1× · 30 GB frei |
| gpt-oss-20b OpenAI | 21 Mrd. 3,6 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 17 GB 1× · 31 GB frei |
Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten
Mehr von dieser Seite?
Falsche Daten?





