NVIDIA RTX 2060

Le GPU RTX 2060 démarre à 0,06 € par GPU-heure, avec une médiane de 0,07 € sur 2 configurations disponibles. Le prix réel dépend du fournisseur, de la région et du mode de location : à la demande, Spot ou réservé.

1 fournisseurs proposent actuellement le GPU RTX 2060 : Vast.ai. Comparez leurs prix horaires, leurs régions et les caractéristiques des machines dans le tableau ci-dessus.

Le GPU RTX 2060 dispose de 6 GB de VRAM, ce qui détermine les plus grands modèles et tailles de batch qu'il peut garder en mémoire pour l'entraînement et l'inférence.

Avec 6 GB de VRAM, un seul GPU RTX 2060 peut servir des modèles comme Mistral 7B Instruct v0.3. Le tableau ci-dessus indique la VRAM estimée pour chaque modèle en précision 16 bits, 8 bits et 4 bits, y compris les configurations multi-GPU nécessaires aux plus grands modèles.

Les plus grands modèles que nous suivons et qui tiennent sur plusieurs cartes RTX 2060 sont GLM-4.7 Flash sur 4 GPU en 4 bits, Qwen3.6 27B sur 4 GPU en 4 bits, Mistral Small 3.2 24B sur 4 GPU en 4 bits. Une configuration multi-GPU signifie que vous louez et payez chaque carte pendant toute la durée d'utilisation, et répartir un modèle sur plusieurs cartes coûte aussi du débit : les GPU échangent des activations à chaque token, donc les performances dépendent de la rapidité de leur interconnexion. Nous ne suivons pas l'interconnexion : vérifiez les caractéristiques du nœud auprès du fournisseur. Le tableau ci-dessus donne la plus petite configuration pour chaque modèle en précision 16 bits, 8 bits et 4 bits.

Le prix à la demande le plus bas que nous suivons actuellement pour le GPU RTX 2060 est de 0,06 € par GPU-heure, chez Vast.ai. Les fournisseurs modifiant fréquemment leurs prix et leur disponibilité, vérifiez le tableau en direct ci-dessus avant de lancer une instance.