NVIDIA A100X

80 GB VRAM312 FP16 TFLOPS300 W TDP0 proveedores0 ofertas0 regiones

La NVIDIA A100X es una GPU de nivel empresarial basada en la arquitectura Ampere y cuenta con 80 GB de memoria con 1935 GB/s de ancho de banda de memoria y un TDP de 300 W. Ofrece 19,5 TFLOPS de rendimiento FP32 y 312 TFLOPS de rendimiento tensorial FP16.

Más barato

—

Sin ofertas actuales

Mediana

—

en 0 ofertas

Más caro

—

Tendencia 90 días

+38.9%

tarifa mediana

Especificaciones de hardware

Iguales en todos los proveedores

Memoria

80 GB

HBM2e

¿Qué LLM caben? ↓

Rendimiento FP16

312 TFLOPS

peak

TDP

300 W

Ancho de banda de memoria

1935 GB/s

Arquitectura

Ampere

Rendimiento FP32

19,5 TFLOPS

Marca

NVIDIA

Serie

A100

Histórico de precios del mercado

Precio mediano entre todos los proveedores

Precios actualizados ahora

0 ofertas de 0 proveedores

Ordenadas por precio ascendente. Compara configuraciones lado a lado.

Proveedor	Cantidad	vCPU	RAM	Región	Por GPU/h	Total/h	Acción
Amplía tus filtros o limpia todos los filtros para volver a empezar.

LLM que caben en la NVIDIA A100X

VRAM estimada para LLM populares de pesos abiertos con precisión de 16 bits (FP16/BF16), 8 bits (FP8/INT8) y 4 bits (INT4/MXFP4), con 80 GB por GPU. Se muestran los 12 modelos más grandes que caben.

Modelo	Parámetros	16 bits	8 bits	4 bits
Laguna-S 2.1 Poolside	118 mil M 8 mil M activos	282 GB Demasiado grande	155 GB Demasiado grande	90 GB Ajustado en 1× · 6 % libre
gpt-oss-120b OpenAI	117 mil M 5,1 mil M activos	— No publicado	— No publicado	78 GB 1× · 1,7 GB libres
Qwen3.6 35B-A3B Alibaba	35 mil M 3 mil M activos	86 GB Ajustado en 1× · 11 % libre	47 GB 1× · 33 GB libres	28 GB 1× · 52 GB libres
Qwen3 32B Alibaba	32,8 mil M	79 GB 1× · 1,4 GB libres	43 GB 1× · 37 GB libres	25 GB 1× · 55 GB libres
Gemma 4 31B Google	31,3 mil M	75 GB 1× · 4,9 GB libres	41 GB 1× · 39 GB libres	24 GB 1× · 56 GB libres
GLM-4.7 Flash Z.ai	31,2 mil M	75 GB 1× · 5,1 GB libres	41 GB 1× · 39 GB libres	24 GB 1× · 56 GB libres
Qwen3.6 27B Alibaba	27,8 mil M	67 GB 1× · 13 GB libres	37 GB 1× · 43 GB libres	21 GB 1× · 59 GB libres
Mistral Small 3.2 24B Mistral AI	24 mil M	58 GB 1× · 22 GB libres	32 GB 1× · 48 GB libres	18 GB 1× · 62 GB libres
gpt-oss-20b OpenAI	21 mil M 3,6 mil M activos	— No publicado	— No publicado	17 GB 1× · 63 GB libres
Gemma 3 12B Google	12,2 mil M	29 GB 1× · 51 GB libres	16 GB 1× · 64 GB libres	9,4 GB 1× · 71 GB libres
Granite 4.1 8B IBM	8,8 mil M	21 GB 1× · 59 GB libres	12 GB 1× · 68 GB libres	6,8 GB 1× · 73 GB libres
Qwen3 8B Alibaba	8,2 mil M	20 GB 1× · 60 GB libres	11 GB 1× · 69 GB libres	6,3 GB 1× · 74 GB libres

Estimaciones: pesos del modelo más un 20 % para la caché KV y la sobrecarga de ejecución, con contextos cortos. Los contextos largos y los lotes grandes necesitan más. Las filas marcadas como «ajustadas» albergan los pesos, pero no ese margen completo. Una cifra ×N es la VRAM total de N de estas GPU y no afirma nada sobre el rendimiento de la interconexión. Cómo lo estimamos

¿Quieres más de esta página?

¿Datos incorrectos?

Preguntas frecuentes

¿Cuánta VRAM tiene la A100X?

La A100X cuenta con 80 GB de VRAM, lo que determina los modelos y tamaños de lote más grandes que puede mantener en memoria para entrenamiento e inferencia.

¿Qué LLM puedo ejecutar en la A100X?

Con 80 GB de VRAM, una sola A100X puede servir modelos como gpt-oss-120b, Qwen3.6 35B-A3B, Qwen3 32B, Gemma 4 31B. La tabla anterior indica la VRAM estimada de cada modelo con precisión de 16, 8 y 4 bits, incluidas las configuraciones multi-GPU que necesitan los modelos más grandes.