Zurück zu allen Angeboten

NVIDIA L40S

48 GB VRAM362 FP16 TFLOPS350 W TDP10 Anbieter45 Angebote11 Regionen

Die NVIDIA L40S ist eine Enterprise- GPU, basiert auf der Ada Lovelace-Architektur und verfügt über 48 GB Speicher mit 864 GB/s Speicherbandbreite und einer TDP von 350 W. Sie liefert 91,6 TFLOPS FP32-Rechenleistung und 362 TFLOPS FP16-Tensor-Leistung. Derzeit bei 10 Anbieter verfügbar, ab 0,40 €/GPU/Stunde, mit einem Marktmedian von 1,08 €/GPU/Stunde über 45 Konfigurationen.

Günstigster
0,404 €/Std.
Vast.ai
Median
1,079 €/Std.
über 45 Angebote
Teuerster
1,606 €/Std.
Sesterce Cloud
90-Tage-Trend
-15.7%
Medianpreis

Hardware-Spezifikationen

Gleich bei allen Anbietern

FP16-Leistung
362 TFLOPS
peak
TDP
350 W
Speicherbandbreite
864 GB/s
Architektur
Ada Lovelace
FP32-Leistung
91,6 TFLOPS
Marke
NVIDIA
Serie
L40
Marktpreis-Verlauf

Medianpreis über alle Anbieter

Preise aktualisiert vor 3 Stunden

11 Angebote von 10 Anbietern

Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.

AnbieterAnzahlvCPURAMRegionPro GPU/Std.Gesamt/Std.Aktion
Runpod logoRunpodBeworben
Bis zu429 €GuthabenAffiliate-Werbung — wir erhalten möglicherweise eine Provision.
×11694 GB
United StatesAustraliaNetherlands+1
0,850 €0,85 €Starten
Vast.ai logoVast.aiEmpfehlungslinkIm TrendGünstigster
×4128503 GB
JapanSpainFinland+2
Ab0,404 €
+50.9% 30T
Ab1,61 €
Starten
Novita AI logoNovita AIEmpfehlungslink
×122125 GB
South AfricaUnited Arab EmiratesIndia+7
0,472 €
0,47 €
×132188 GB
United States
Ab0,532 €
-0.3% 30T
Ab0,53 €
Starten
×11272 GB
PolandUnited States
0,833 €
0.0% 30T
Ab0,83 €
Starten
Runpod logoRunpodEmpfehlungslinkIm Trend
Bis zu429 €Guthaben
×11694 GB
United StatesAustraliaNetherlands+1
0,850 €
0,85 €
Starten
Thunder Compute logoThunder ComputeEmpfehlungslink
Bis zu17 €Studierenden-Guthaben
×1432 GB--
Ab0,850 €
Ab0,85 €
Starten
Bis zu1 €Guthaben
×8641,5 TB
India
Ab1,079 €
+0.2% 30T
Ab8,63 €
Starten
×12060 GB--
1,176 €
Ab1,18 €
Starten
×116180 GB--
Ab1,339 €
Ab1,34 €
Starten
×1896 GB
Poland
1,470 €
+1.5% 30T
Ab1,47 €
Starten
Sesterce Cloud logoSesterce CloudEmpfehlungslink
×1896 GB
Poland
Ab1,606 €
0.0% 30T
Ab1,61 €
Starten

LLMs, die auf die NVIDIA L40S passen

Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 48 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.

ModellParameter16 Bit8 Bit4 Bit
DeepSeek V4 Flash
DeepSeek
284 Mrd.
Nicht veröffentlicht
Nicht veröffentlicht
192 GB
Passt knapp auf 4×
Solar Open2 250B
Upstage
250 Mrd.
15 Mrd. aktiv
601 GB
Zu groß
330 GB
8× · 54 GB frei
192 GB
8× · 192 GB frei
oder 4× · 19 % übrig
Qwen3 235B-A22B
Alibaba
235 Mrd.
22 Mrd. aktiv
564 GB
Zu groß
310 GB
8× · 74 GB frei
181 GB
4× · 11 GB frei
Laguna-S 2.1
Poolside
118 Mrd.
8 Mrd. aktiv
282 GB
8× · 102 GB frei
155 GB
4× · 37 GB frei
90 GB
2× · 5,7 GB frei
gpt-oss-120b
OpenAI
117 Mrd.
5,1 Mrd. aktiv
Nicht veröffentlicht
Nicht veröffentlicht
78 GB
2× · 18 GB frei
Qwen3.6 35B-A3B
Alibaba
35 Mrd.
3 Mrd. aktiv
86 GB
2× · 9,7 GB frei
47 GB
Passt knapp auf 1×
28 GB
1× · 20 GB frei
Qwen3 32B
Alibaba
32,8 Mrd.
79 GB
2× · 17 GB frei
43 GB
1× · 4,8 GB frei
25 GB
1× · 23 GB frei
Gemma 4 31B
Google
31,3 Mrd.
75 GB
2× · 21 GB frei
41 GB
1× · 6,7 GB frei
24 GB
1× · 24 GB frei
GLM-4.7 Flash
Z.ai
31,2 Mrd.
75 GB
2× · 21 GB frei
41 GB
1× · 6,8 GB frei
24 GB
1× · 24 GB frei
Qwen3.6 27B
Alibaba
27,8 Mrd.
67 GB
2× · 29 GB frei
37 GB
1× · 11 GB frei
21 GB
1× · 27 GB frei
Mistral Small 3.2 24B
Mistral AI
24 Mrd.
58 GB
2× · 38 GB frei
32 GB
1× · 16 GB frei
18 GB
1× · 30 GB frei
gpt-oss-20b
OpenAI
21 Mrd.
3,6 Mrd. aktiv
Nicht veröffentlicht
Nicht veröffentlicht
17 GB
1× · 31 GB frei

Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten

Mehr von dieser Seite?

Falsche Daten?

Häufig gestellte Fragen

Wie viel kostet die L40S pro Stunde?
Die L40S beginnt bei 0,40 € pro GPU-Stunde, mit einem Median von 1,08 € über 45 verfügbare Konfigurationen. Der tatsächliche Preis hängt von Anbieter, Region und Mietart (On-Demand, Spot oder Reserved) ab.
Welche Cloud-Anbieter bieten die L40S an?
12 Anbieter führen derzeit die L40S: Cyfuture AI, Omega Gradient, Sesterce Cloud, Scaleway, Runcrate, AceCloud und 6 weitere. Vergleichen Sie Stundenpreise, Regionen und Spezifikationen in der Tabelle oben.
Wie viel VRAM hat die L40S?
Die L40S verfügt über 48 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.
Welche LLMs kann ich auf der L40S betreiben?
Mit 48 GB VRAM kann eine einzelne L40S Modelle wie Qwen3.6 35B-A3B, Qwen3 32B, Gemma 4 31B, GLM-4.7 Flash bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.
Welches ist das größte LLM, das ich auf mehreren L40S betreiben kann?
Die größten von uns erfassten Modelle, die auf mehrere L40S passen, sind DeepSeek V4 Flash auf 4 GPUs mit 4 Bit, Solar Open2 250B auf 8 GPUs mit 8 Bit, Qwen3 235B-A22B auf 4 GPUs mit 4 Bit. Bei einer Multi-GPU-Konfiguration mieten und bezahlen Sie jede Karte für die gesamte Laufzeit, und die Aufteilung eines Modells über mehrere Karten kostet zusätzlich Durchsatz: Die GPUs tauschen bei jedem Token Aktivierungen aus, die Leistung hängt also davon ab, wie schnell sie miteinander verbunden sind. Wir erfassen den Interconnect nicht — prüfen Sie die Knoten-Spezifikation des Anbieters. Die Tabelle oben nennt die kleinste Konfiguration jedes Modells bei 16 Bit, 8 Bit und 4 Bit.
Wo ist die L40S am günstigsten?
Der niedrigste On-Demand-Preis, den wir derzeit für die L40S erfassen, liegt bei 0,40 € pro GPU-Stunde bei Vast.ai. Da Anbieter Preise und Verfügbarkeit häufig ändern, prüfen Sie die Live-Tabelle oben vor dem Start.