NVIDIA A100 40GB
La NVIDIA A100 40GB es una GPU de nivel empresarial basada en la arquitectura Ampere y cuenta con 40 GB de memoria con 1555 GB/s de ancho de banda de memoria y un TDP de 250 W. Ofrece 19,5 TFLOPS de rendimiento FP32 y 312 TFLOPS de rendimiento tensorial FP16. Disponible actualmente en 3 proveedores desde 1,11 €/GPU/hora, con una mediana de mercado de 1,53 €/GPU/hora en 8 configuraciones.
Especificaciones de hardware
Iguales en todos los proveedores
Precio mediano entre todos los proveedores
3 ofertas de 3 proveedores
Ordenadas por precio ascendente. Compara configuraciones lado a lado.
LLM que caben en la NVIDIA A100 40GB
VRAM estimada para LLM populares de pesos abiertos con precisión de 16 bits (FP16/BF16), 8 bits (FP8/INT8) y 4 bits (INT4/MXFP4), con 40 GB por GPU. Se muestran los 12 modelos más grandes que caben.
| Modelo | Parámetros | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| DeepSeek V4 Flash DeepSeek | 284 mil M | — No publicado | — No publicado | 192 GB 8× · 128 GB libres |
| Solar Open2 250B Upstage | 250 mil M 15 mil M activos | 601 GB Demasiado grande | 330 GB Ajustado en 8× · 16 % libre | 192 GB 8× · 128 GB libres |
| Qwen3 235B-A22B Alibaba | 235 mil M 22 mil M activos | 564 GB Demasiado grande | 310 GB 8× · 9,7 GB libres | 181 GB 8× · 139 GB libres |
| Laguna-S 2.1 Poolside | 118 mil M 8 mil M activos | 282 GB 8× · 38 GB libres | 155 GB 8× · 165 GB libres | 90 GB 8× · 230 GB libres |
| gpt-oss-120b OpenAI | 117 mil M 5,1 mil M activos | — No publicado | — No publicado | 78 GB 8× · 242 GB libres |
| Qwen3.6 35B-A3B Alibaba | 35 mil M 3 mil M activos | 86 GB 8× · 234 GB libres | 47 GB 8× · 273 GB libres o 1× · 1 % libre | 28 GB 1× · 12 GB libres |
| Qwen3 32B Alibaba | 32,8 mil M | 79 GB 8× · 241 GB libres | 43 GB 8× · 277 GB libres o 1× · 10 % libre | 25 GB 1× · 15 GB libres |
| Gemma 4 31B Google | 31,3 mil M | 75 GB 8× · 245 GB libres | 41 GB 8× · 279 GB libres o 1× · 16 % libre | 24 GB 1× · 16 GB libres |
| GLM-4.7 Flash Z.ai | 31,2 mil M | 75 GB 8× · 245 GB libres | 41 GB 8× · 279 GB libres o 1× · 16 % libre | 24 GB 1× · 16 GB libres |
| Qwen3.6 27B Alibaba | 27,8 mil M | 67 GB 8× · 253 GB libres | 37 GB 1× · 3,3 GB libres | 21 GB 1× · 19 GB libres |
| Mistral Small 3.2 24B Mistral AI | 24 mil M | 58 GB 8× · 262 GB libres | 32 GB 1× · 8,3 GB libres | 18 GB 1× · 22 GB libres |
| gpt-oss-20b OpenAI | 21 mil M 3,6 mil M activos | — No publicado | — No publicado | 17 GB 1× · 23 GB libres |
Estimaciones: pesos del modelo más un 20 % para la caché KV y la sobrecarga de ejecución, con contextos cortos. Los contextos largos y los lotes grandes necesitan más. Las filas marcadas como «ajustadas» albergan los pesos, pero no ese margen completo. Una cifra ×N es la VRAM total de N de estas GPU y no afirma nada sobre el rendimiento de la interconexión. Cómo lo estimamos · Empezar por el modelo
GPUs similares
Ver más GPUs como esta en
¿Quieres más de esta página?
¿Datos incorrectos?

