Die NVIDIA RTX 3060 Ti ist eine Consumer- GPU, basiert auf der Ampere-Architektur und verfügt über 8 GB Speicher mit 448 GB/s Speicherbandbreite und einer TDP von 200 W. Sie liefert 16,2 TFLOPS FP32-Rechenleistung. Derzeit bei 3 Anbieter verfügbar, ab 0,05 €/GPU/Stunde, mit einem Marktmedian von 0,09 €/GPU/Stunde über 8 Konfigurationen.
Hardware-Spezifikationen
Gleich bei allen Anbietern
Medianpreis über alle Anbieter
3 Angebote von 3 Anbietern
Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.
| Anbieter | Anzahl | vCPU | RAM | Region | Pro GPU/Std. | Gesamt/Std. | Aktion |
|---|---|---|---|---|---|---|---|
| ×1 | 0 | 19 GB | Ab0,052 € -50.0% 30T | Ab0,05 € | Starten | ||
| ×1 | 24 | 16 GB | -- | 0,069 € +3.2% 30T | 0,07 € | Starten | |
Theta EdgeCloudIm Trend | ×1 | 8 | 14 GB | Ab0,086 € +33.3% 30T | Ab0,09 € | Starten |
LLMs, die auf die NVIDIA RTX 3060 Ti passen
Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 8 GB pro GPU.
| Modell | Parameter | 16 Bit | 8 Bit | 4 Bit |
|---|---|---|---|---|
| Gemma 3 12B Google | 12,2 Mrd. | 29 GB Zu groß | 16 GB Zu groß | 9,4 GB Knapp auf 1× · 2 % übrig |
| Granite 4.1 8B IBM | 8,8 Mrd. | 21 GB Zu groß | 12 GB Zu groß | 6,8 GB 1× · 1,2 GB frei |
| Qwen3 8B Alibaba | 8,2 Mrd. | 20 GB Zu groß | 11 GB Zu groß | 6,3 GB 1× · 1,7 GB frei |
| Llama 3.1 8B Instruct Meta | 8 Mrd. | 19 GB Zu groß | 11 GB Zu groß | 6,2 GB 1× · 1,8 GB frei |
| Mistral 7B Instruct v0.3 Mistral AI | 7,2 Mrd. | 17 GB Zu groß | 9,6 GB Knapp auf 1× · 0 % übrig | 5,6 GB 1× · 2,4 GB frei |
| Qwen3 4B Alibaba | 4 Mrd. | 9,7 GB Zu groß | 5,3 GB 1× · 2,7 GB frei | 3,1 GB 1× · 4,9 GB frei |
Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen · Stattdessen vom Modell aus starten
Mehr von dieser Seite?
Falsche Daten?

