La NVIDIA A30 12GB vGPU es una GPU de nivel empresarial basada en la arquitectura Ampere y cuenta con 12 GB de memoria.
Especificaciones de hardware
Iguales en todos los proveedores
No hay historial de precios disponible
Los datos históricos aparecerán aquí cuando estén disponibles
1 oferta de 0 proveedores
Ordenadas por precio ascendente. Compara configuraciones lado a lado.
LLM que caben en la NVIDIA A30 12GB vGPU
VRAM estimada para LLM populares de pesos abiertos con precisión de 16 bits (FP16/BF16), 8 bits (FP8/INT8) y 4 bits (INT4/MXFP4), con 12 GB por GPU.
| Modelo | Parámetros | 16 bits | 8 bits | 4 bits |
|---|---|---|---|---|
| Gemma 3 12B Google | 12,2 mil M | 29 GB Demasiado grande | 16 GB Demasiado grande | 9,4 GB 1× · 2,6 GB libres |
| Granite 4.1 8B IBM | 8,8 mil M | 21 GB Demasiado grande | 12 GB Cabe justo en 1× | 6,8 GB 1× · 5,2 GB libres |
| Qwen3 8B Alibaba | 8,2 mil M | 20 GB Demasiado grande | 11 GB 1× · 1,2 GB libres | 6,3 GB 1× · 5,7 GB libres |
| Llama 3.1 8B Instruct Meta | 8 mil M | 19 GB Demasiado grande | 11 GB 1× · 1,4 GB libres | 6,2 GB 1× · 5,8 GB libres |
| Mistral 7B Instruct v0.3 Mistral AI | 7,2 mil M | 17 GB Demasiado grande | 9,6 GB 1× · 2,4 GB libres | 5,6 GB 1× · 6,4 GB libres |
| Qwen3 4B Alibaba | 4 mil M | 9,7 GB 1× · 2,3 GB libres | 5,3 GB 1× · 6,7 GB libres | 3,1 GB 1× · 8,9 GB libres |
Estimaciones: pesos del modelo más un 20 % para la caché KV y la sobrecarga de ejecución, con contextos cortos. Los contextos largos y los lotes grandes necesitan más. Las filas marcadas como «ajustadas» albergan los pesos, pero no ese margen completo. Una cifra ×N es la VRAM total de N de estas GPU y no afirma nada sobre el rendimiento de la interconexión. Cómo lo estimamos · Empezar por el modelo
¿Quieres más de esta página?
¿Datos incorrectos?