NVIDIA RTX 5080 Ti
16 GB GDDR7 · Blackwell
Prix mis à jour .
Aucune offre actuellement
0 offres chez 0 fournisseurs
| Fournisseur | Par GPU / heure | Action | |
|---|---|---|---|
| Essayez d'élargir vos filtres ou effacez-les tous pour recommencer. | |||
Aucun historique des prix disponible
Les données de suivi des prix apparaîtront ici dès qu'elles seront disponibles
LLM qui tiennent sur le GPU NVIDIA RTX 5080 Ti
LLM populaires à poids ouverts face à 16 GB par GPU : poids plus la place pour le cache KV, dans la meilleure précision qui tient.
Tient sur un seul GPU NVIDIA RTX 5080 Ti
- Mistral Small 3.2 24B4 bits · juste, 4 % de marge
- gpt-oss-20b4 bits · juste, 16 % de marge
- Gemma 3 12B4 bits · 9,4 GB
- Granite 4.1 8B8 bits · 12 GB
- Qwen3 8B8 bits · 11 GB
- Llama 3.1 8B Instruct8 bits · 11 GB
- Mistral 7B Instruct v0.38 bits · 9,6 GB
- Qwen3 4B16 bits · 9,7 GB
Tableau complet avec toutes les précisions
VRAM estimée des LLM à poids ouverts populaires en précision 16 bits (FP16/BF16), 8 bits (FP8/INT8) et 4 bits (INT4/MXFP4), pour 16 GB par GPU.
| Modèle | Paramètres | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| Mistral Small 3.2 24B Mistral AI | 24B | 58 GB Trop grand | 32 GB Trop grand | 18 GB Juste sur 1× · 4 % de marge |
| gpt-oss-20b OpenAI | 21B 3,6B actifs | — Non publié | — Non publié | 17 GB Juste sur 1× · 16 % de marge |
| Gemma 3 12B Google | 12,2B | 29 GB Trop grand | 16 GB Juste sur 1× · 19 % de marge | 9,4 GB 1× · 6,6 GB libres |
| Granite 4.1 8B IBM | 8,8B | 21 GB Trop grand | 12 GB 1× · 4,4 GB libres | 6,8 GB 1× · 9,2 GB libres |
| Qwen3 8B Alibaba | 8,2B | 20 GB Trop grand | 11 GB 1× · 5,2 GB libres | 6,3 GB 1× · 9,7 GB libres |
| Llama 3.1 8B Instruct Meta | 8B | 19 GB Trop grand | 11 GB 1× · 5,4 GB libres | 6,2 GB 1× · 9,8 GB libres |
| Mistral 7B Instruct v0.3 Mistral AI | 7,2B | 17 GB Juste sur 1× · 10 % de marge | 9,6 GB 1× · 6,4 GB libres | 5,6 GB 1× · 10 GB libres |
| Qwen3 4B Alibaba | 4B | 9,7 GB 1× · 6,3 GB libres | 5,3 GB 1× · 11 GB libres | 3,1 GB 1× · 13 GB libres |
Estimations : poids du modèle plus 20 % pour le cache KV et le surcoût du runtime, avec des contextes courts. Les contextes longs et les lots importants demandent davantage. Les lignes marquées « juste » contiennent les poids, mais pas toute cette marge. Une valeur ×N correspond à la VRAM totale de N de ces GPU et ne préjuge en rien du débit de l'interconnexion. Notre méthode d'estimation · Partir plutôt d'un modèle
Caractéristiques du GPU NVIDIA RTX 5080 Ti
Carte grand public, le GPU NVIDIA RTX 5080 Ti repose sur l'architecture Blackwell et dispose de 16 GB de mémoire.
- Architecture
- Blackwell
- Marque
- NVIDIA
- Série
- GeForce RTX
GPU similaires
Voir d'autres GPU similaires dansGénération actuelle