NVIDIA RTX 6000 Ada Generation

Le GPU RTX 6000 Ada Generation démarre à 0,56 € par GPU-heure, avec une médiane de 0,90 € sur 26 configurations disponibles. Le prix réel dépend du fournisseur, de la région et du mode de location : à la demande, Spot ou réservé.

11 fournisseurs proposent actuellement le GPU RTX 6000 Ada Generation : Sesterce Cloud, Runcrate, AceCloud, Novita AI, Verda, Vast.ai et 5 autres. Comparez leurs prix horaires, leurs régions et les caractéristiques des machines dans le tableau ci-dessus.

Le GPU RTX 6000 Ada Generation dispose de 48 GB de VRAM, ce qui détermine les plus grands modèles et tailles de batch qu'il peut garder en mémoire pour l'entraînement et l'inférence.

Avec 48 GB de VRAM, un seul GPU RTX 6000 Ada Generation peut servir des modèles comme Qwen3.6 35B-A3B, Qwen3 32B, Gemma 4 31B, GLM-4.7 Flash. Le tableau ci-dessus indique la VRAM estimée pour chaque modèle en précision 16 bits, 8 bits et 4 bits, y compris les configurations multi-GPU nécessaires aux plus grands modèles.

Les plus grands modèles que nous suivons et qui tiennent sur plusieurs cartes RTX 6000 Ada Generation sont DeepSeek V4 Flash sur 4 GPU en 4 bits, Solar Open2 250B sur 6 GPU en 4 bits, Qwen3 235B-A22B sur 4 GPU en 4 bits. Une configuration multi-GPU signifie que vous louez et payez chaque carte pendant toute la durée d'utilisation, et répartir un modèle sur plusieurs cartes coûte aussi du débit : les GPU échangent des activations à chaque token, donc les performances dépendent de la rapidité de leur interconnexion. Nous ne suivons pas l'interconnexion : vérifiez les caractéristiques du nœud auprès du fournisseur. Le tableau ci-dessus donne la plus petite configuration pour chaque modèle en précision 16 bits, 8 bits et 4 bits.

Le prix à la demande le plus bas que nous suivons actuellement pour le GPU RTX 6000 Ada Generation est de 0,56 € par GPU-heure, chez Vast.ai. Les fournisseurs modifiant fréquemment leurs prix et leur disponibilité, vérifiez le tableau en direct ci-dessus avant de lancer une instance.