Carte grand public, le GPU NVIDIA RTX 4070 Ti repose sur l'architecture Ada Lovelace et dispose de 12 GB de mémoire, avec une bande passante mémoire de 504 GB/s et un TDP de 285 W. Il offre 40,1 TFLOPS de performances FP32. Actuellement disponible chez 2 fournisseurs à partir de 0,21 €/GPU/heure, avec une médiane du marché de 0,32 €/GPU/heure sur 2 configurations.
Caractéristiques matérielles
Identiques chez tous les fournisseurs
Prix médian sur l'ensemble des fournisseurs
2 offres chez 2 fournisseurs
Triées par prix croissant. Comparez les configurations côte à côte.
LLM qui tiennent sur le GPU NVIDIA RTX 4070 Ti
VRAM estimée des LLM à poids ouverts populaires en précision 16 bits (FP16/BF16), 8 bits (FP8/INT8) et 4 bits (INT4/MXFP4), pour 12 GB par GPU.
| Modèle | Paramètres | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| Gemma 3 12B Google | 12,2B | 29 GB Trop grand | 16 GB Trop grand | 9,4 GB 1× · 2,6 GB libres |
| Granite 4.1 8B IBM | 8,8B | 21 GB Trop grand | 12 GB Tient tout juste sur 1× | 6,8 GB 1× · 5,2 GB libres |
| Qwen3 8B Alibaba | 8,2B | 20 GB Trop grand | 11 GB 1× · 1,2 GB libres | 6,3 GB 1× · 5,7 GB libres |
| Llama 3.1 8B Instruct Meta | 8B | 19 GB Trop grand | 11 GB 1× · 1,4 GB libres | 6,2 GB 1× · 5,8 GB libres |
| Mistral 7B Instruct v0.3 Mistral AI | 7,2B | 17 GB Trop grand | 9,6 GB 1× · 2,4 GB libres | 5,6 GB 1× · 6,4 GB libres |
| Qwen3 4B Alibaba | 4B | 9,7 GB 1× · 2,3 GB libres | 5,3 GB 1× · 6,7 GB libres | 3,1 GB 1× · 8,9 GB libres |
Estimations : poids du modèle plus 20 % pour le cache KV et le surcoût du runtime, avec des contextes courts. Les contextes longs et les lots importants demandent davantage. Les lignes marquées « juste » contiennent les poids, mais pas toute cette marge. Une valeur ×N correspond à la VRAM totale de N de ces GPU et ne préjuge en rien du débit de l'interconnexion. Notre méthode d'estimation · Partir plutôt d'un modèle
Vous en voulez plus sur cette page ?
Des données erronées ?