Carte grand public, le GPU NVIDIA RTX 4070 repose sur l'architecture Ada Lovelace et dispose de 12 GB de mémoire, avec une bande passante mémoire de 504 GB/s et un TDP de 200 W. Il offre 29,1 TFLOPS de performances FP32.
Caractéristiques matérielles
Identiques chez tous les fournisseurs
Prix médian sur l'ensemble des fournisseurs
0 offres chez 0 fournisseurs
Triées par prix croissant. Comparez les configurations côte à côte.
| Fournisseur | Nombre | vCPU | RAM | Région | Par heure de GPU | Total/h | Action |
|---|---|---|---|---|---|---|---|
| Essayez d'élargir vos filtres ou effacez-les tous pour recommencer. | |||||||
LLM qui tiennent sur le GPU NVIDIA RTX 4070
VRAM estimée des LLM à poids ouverts populaires en précision 16 bits (FP16/BF16), 8 bits (FP8/INT8) et 4 bits (INT4/MXFP4), pour 12 GB par GPU.
| Modèle | Paramètres | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| Gemma 3 12B Google | 12,2B | 29 GB Trop grand | 16 GB Trop grand | 9,4 GB 1× · 2,6 GB libres |
| Granite 4.1 8B IBM | 8,8B | 21 GB Trop grand | 12 GB Tient tout juste sur 1× | 6,8 GB 1× · 5,2 GB libres |
| Qwen3 8B Alibaba | 8,2B | 20 GB Trop grand | 11 GB 1× · 1,2 GB libres | 6,3 GB 1× · 5,7 GB libres |
| Llama 3.1 8B Instruct Meta | 8B | 19 GB Trop grand | 11 GB 1× · 1,4 GB libres | 6,2 GB 1× · 5,8 GB libres |
| Mistral 7B Instruct v0.3 Mistral AI | 7,2B | 17 GB Trop grand | 9,6 GB 1× · 2,4 GB libres | 5,6 GB 1× · 6,4 GB libres |
| Qwen3 4B Alibaba | 4B | 9,7 GB 1× · 2,3 GB libres | 5,3 GB 1× · 6,7 GB libres | 3,1 GB 1× · 8,9 GB libres |
Estimations : poids du modèle plus 20 % pour le cache KV et le surcoût du runtime, avec des contextes courts. Les contextes longs et les lots importants demandent davantage. Les lignes marquées « juste » contiennent les poids, mais pas toute cette marge. Une valeur ×N correspond à la VRAM totale de N de ces GPU et ne préjuge en rien du débit de l'interconnexion. Notre méthode d'estimation · Partir plutôt d'un modèle
Vous en voulez plus sur cette page ?
Des données erronées ?