NVIDIA RTX 3070

Le GPU RTX 3070 démarre à 0,04 € par GPU-heure, avec une médiane de 0,09 € sur 10 configurations disponibles. Le prix réel dépend du fournisseur, de la région et du mode de location : à la demande, Spot ou réservé.

3 fournisseurs proposent actuellement le GPU RTX 3070 : Vast.ai, Theta EdgeCloud, Nosana. Comparez leurs prix horaires, leurs régions et les caractéristiques des machines dans le tableau ci-dessus.

Le GPU RTX 3070 dispose de 8 GB de VRAM, ce qui détermine les plus grands modèles et tailles de batch qu'il peut garder en mémoire pour l'entraînement et l'inférence.

Avec 8 GB de VRAM, un seul GPU RTX 3070 peut servir des modèles comme Granite 4.1 8B, Qwen3 8B, Llama 3.1 8B Instruct, Mistral 7B Instruct v0.3. Le tableau ci-dessus indique la VRAM estimée pour chaque modèle en précision 16 bits, 8 bits et 4 bits, y compris les configurations multi-GPU nécessaires aux plus grands modèles.

Les plus grands modèles que nous suivons et qui tiennent sur plusieurs cartes RTX 3070 sont GLM-4.7 Flash sur 3 GPU en 4 bits, Qwen3.6 27B sur 3 GPU en 4 bits, Mistral Small 3.2 24B sur 3 GPU en 4 bits. Une configuration multi-GPU signifie que vous louez et payez chaque carte pendant toute la durée d'utilisation, et répartir un modèle sur plusieurs cartes coûte aussi du débit : les GPU échangent des activations à chaque token, donc les performances dépendent de la rapidité de leur interconnexion. Nous ne suivons pas l'interconnexion : vérifiez les caractéristiques du nœud auprès du fournisseur. Le tableau ci-dessus donne la plus petite configuration pour chaque modèle en précision 16 bits, 8 bits et 4 bits.

Le prix à la demande le plus bas que nous suivons actuellement pour le GPU RTX 3070 est de 0,04 € par GPU-heure, chez Theta EdgeCloud. Les fournisseurs modifiant fréquemment leurs prix et leur disponibilité, vérifiez le tableau en direct ci-dessus avant de lancer une instance.