Zurück zu allen Angeboten

NVIDIA RTX 4060 Ti

8 GB VRAM160 W TDP3 Anbieter14 Angebote7 Regionen

Die NVIDIA RTX 4060 Ti ist eine Consumer- GPU, basiert auf der Ada Lovelace-Architektur und verfügt über 8 GB Speicher mit 288 GB/s Speicherbandbreite und einer TDP von 160 W. Sie liefert 22,1 TFLOPS FP32-Rechenleistung. Derzeit bei 3 Anbieter verfügbar, ab 0,03 €/GPU/Stunde, mit einem Marktmedian von 0,09 €/GPU/Stunde über 14 Konfigurationen.

Günstigster
0,026 €/Std.
Theta EdgeCloud
Median
0,094 €/Std.
über 14 Angebote
Teuerster
0,369 €/Std.
Vast.ai
90-Tage-Trend
-45.0%
Medianpreis

Hardware-Spezifikationen

Gleich bei allen Anbietern

Speicher
8 GB
GDDR6X
Welche LLMs passen? ↓
TDP
160 W
Speicherbandbreite
288 GB/s
Architektur
Ada Lovelace
FP32-Leistung
22,1 TFLOPS
Marke
NVIDIA
Serie
GeForce RTX
Marktpreis-Verlauf

Medianpreis über alle Anbieter

Preise aktualisiert vor 3 Stunden

3 Angebote von 3 Anbietern

Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.

AnbieterAnzahlvCPURAMRegionPro GPU/Std.Gesamt/Std.Aktion
Vast.ai logoVast.aiBeworben
Affiliate-Werbung — wir erhalten möglicherweise eine Provision.
×1616 GB
United States
0,086 €0,09 €Starten
Theta EdgeCloud logoTheta EdgeCloudIm TrendGünstigster
×21626 GB
FinlandGermanyUnited States
Ab0,026 €
+4.3% 30T
Ab0,05 €
Starten
Vast.ai logoVast.aiEmpfehlungslinkIm Trend
×1616 GB
United StatesCanadaGermany+3
Ab0,086 €
+37.5% 30T
Ab0,09 €
Starten
×1863 GB
United States
0,094 €
0.0% 30T
0,09 €
Starten

LLMs, die auf die NVIDIA RTX 4060 Ti passen

Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 8 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.

ModellParameter16 Bit8 Bit4 Bit
Qwen3.6 35B-A3B
Alibaba
35 Mrd.
3 Mrd. aktiv
86 GB
Zu groß
47 GB
Zu groß
28 GB
4× · 4,4 GB frei
Qwen3 32B
Alibaba
32,8 Mrd.
79 GB
Zu groß
43 GB
Zu groß
25 GB
4× · 6,8 GB frei
Gemma 4 31B
Google
31,3 Mrd.
75 GB
Zu groß
41 GB
Zu groß
24 GB
4× · 8 GB frei
GLM-4.7 Flash
Z.ai
31,2 Mrd.
75 GB
Zu groß
41 GB
Zu groß
24 GB
4× · 8 GB frei
Qwen3.6 27B
Alibaba
27,8 Mrd.
67 GB
Zu groß
37 GB
Knapp auf 4× · 4 % übrig
21 GB
4× · 11 GB frei
Mistral Small 3.2 24B
Mistral AI
24 Mrd.
58 GB
Zu groß
32 GB
Passt knapp auf 4×
18 GB
4× · 14 GB frei
oder 2× · 4 % übrig
gpt-oss-20b
OpenAI
21 Mrd.
3,6 Mrd. aktiv
Nicht veröffentlicht
Nicht veröffentlicht
17 GB
4× · 15 GB frei
oder 2× · 16 % übrig
Gemma 3 12B
Google
12,2 Mrd.
29 GB
4× · 2,8 GB frei
16 GB
4× · 16 GB frei
oder 2× · 19 % übrig
9,4 GB
2× · 6,6 GB frei
oder 1× · 2 % übrig
Granite 4.1 8B
IBM
8,8 Mrd.
21 GB
4× · 11 GB frei
12 GB
2× · 4,4 GB frei
6,8 GB
1× · 1,2 GB frei
Qwen3 8B
Alibaba
8,2 Mrd.
20 GB
4× · 12 GB frei
11 GB
2× · 5,2 GB frei
6,3 GB
1× · 1,7 GB frei
Llama 3.1 8B Instruct
Meta
8 Mrd.
19 GB
4× · 13 GB frei
11 GB
2× · 5,4 GB frei
6,2 GB
1× · 1,8 GB frei
Mistral 7B Instruct v0.3
Mistral AI
7,2 Mrd.
17 GB
4× · 15 GB frei
oder 2× · 10 % übrig
9,6 GB
2× · 6,4 GB frei
oder 1× · 0 % übrig
5,6 GB
1× · 2,4 GB frei

Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten

Mehr von dieser Seite?

Falsche Daten?

Häufig gestellte Fragen

Wie viel kostet die RTX 4060 Ti pro Stunde?
Die RTX 4060 Ti beginnt bei 0,03 € pro GPU-Stunde, mit einem Median von 0,09 € über 14 verfügbare Konfigurationen. Der tatsächliche Preis hängt von Anbieter, Region und Mietart (On-Demand, Spot oder Reserved) ab.
Welche Cloud-Anbieter bieten die RTX 4060 Ti an?
3 Anbieter führen derzeit die RTX 4060 Ti: Omega Gradient, Vast.ai, Theta EdgeCloud. Vergleichen Sie Stundenpreise, Regionen und Spezifikationen in der Tabelle oben.
Wie viel VRAM hat die RTX 4060 Ti?
Die RTX 4060 Ti verfügt über 8 GB VRAM, was bestimmt, welche Modelle und Batch-Größen sie für Training und Inferenz im Speicher halten kann.
Welche LLMs kann ich auf der RTX 4060 Ti betreiben?
Mit 8 GB VRAM kann eine einzelne RTX 4060 Ti Modelle wie Granite 4.1 8B, Qwen3 8B, Llama 3.1 8B Instruct, Mistral 7B Instruct v0.3 bereitstellen. Die Tabelle oben zeigt den geschätzten VRAM-Bedarf jedes Modells bei 16 Bit, 8 Bit und 4 Bit — inklusive der Multi-GPU-Konfigurationen, die größere Modelle benötigen.
Welches ist das größte LLM, das ich auf mehreren RTX 4060 Ti betreiben kann?
Die größten von uns erfassten Modelle, die auf mehrere RTX 4060 Ti passen, sind Qwen3.6 35B-A3B auf 4 GPUs mit 4 Bit, Qwen3 32B auf 4 GPUs mit 4 Bit, Gemma 4 31B auf 4 GPUs mit 4 Bit. Bei einer Multi-GPU-Konfiguration mieten und bezahlen Sie jede Karte für die gesamte Laufzeit, und die Aufteilung eines Modells über mehrere Karten kostet zusätzlich Durchsatz: Die GPUs tauschen bei jedem Token Aktivierungen aus, die Leistung hängt also davon ab, wie schnell sie miteinander verbunden sind. Wir erfassen den Interconnect nicht — prüfen Sie die Knoten-Spezifikation des Anbieters. Die Tabelle oben nennt die kleinste Konfiguration jedes Modells bei 16 Bit, 8 Bit und 4 Bit.
Wo ist die RTX 4060 Ti am günstigsten?
Der niedrigste On-Demand-Preis, den wir derzeit für die RTX 4060 Ti erfassen, liegt bei 0,03 € pro GPU-Stunde bei Theta EdgeCloud. Da Anbieter Preise und Verfügbarkeit häufig ändern, prüfen Sie die Live-Tabelle oben vor dem Start.