NVIDIA A100X
Die NVIDIA A100X ist eine Enterprise- GPU, basiert auf der Ampere-Architektur und verfügt über 80 GB Speicher mit 1.935 GB/s Speicherbandbreite und einer TDP von 300 W. Sie liefert 19,5 TFLOPS FP32-Rechenleistung und 312 TFLOPS FP16-Tensor-Leistung.
Hardware-Spezifikationen
Gleich bei allen Anbietern
Medianpreis über alle Anbieter
0 Angebote von 0 Anbietern
Sortiert nach aufsteigendem Preis. Konfigurationen direkt vergleichen.
| Anbieter | Anzahl | vCPU | RAM | Region | Pro GPU/Std. | Gesamt/Std. | Aktion |
|---|---|---|---|---|---|---|---|
| Erweitern Sie Ihre Filter oder setzen Sie alle Filter zurück. | |||||||
LLMs, die auf die NVIDIA A100X passen
Geschätzter VRAM-Bedarf beliebter Open-Weight-LLMs bei 16 Bit (FP16/BF16), 8 Bit (FP8/INT8) und 4 Bit (INT4/MXFP4), bei 80 GB pro GPU. Gezeigt werden die 12 größten passenden Modelle.
| Modell | Parameter | 16 Bit | 8 Bit | 4 Bit |
|---|---|---|---|---|
| Laguna-S 2.1 Poolside | 118 Mrd. 8 Mrd. aktiv | 282 GB Zu groß | 155 GB Zu groß | 90 GB Knapp auf 1× · 6 % übrig |
| gpt-oss-120b OpenAI | 117 Mrd. 5,1 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 78 GB 1× · 1,7 GB frei |
| Qwen3.6 35B-A3B Alibaba | 35 Mrd. 3 Mrd. aktiv | 86 GB Knapp auf 1× · 11 % übrig | 47 GB 1× · 33 GB frei | 28 GB 1× · 52 GB frei |
| Qwen3 32B Alibaba | 32,8 Mrd. | 79 GB 1× · 1,4 GB frei | 43 GB 1× · 37 GB frei | 25 GB 1× · 55 GB frei |
| Gemma 4 31B Google | 31,3 Mrd. | 75 GB 1× · 4,9 GB frei | 41 GB 1× · 39 GB frei | 24 GB 1× · 56 GB frei |
| GLM-4.7 Flash Z.ai | 31,2 Mrd. | 75 GB 1× · 5,1 GB frei | 41 GB 1× · 39 GB frei | 24 GB 1× · 56 GB frei |
| Qwen3.6 27B Alibaba | 27,8 Mrd. | 67 GB 1× · 13 GB frei | 37 GB 1× · 43 GB frei | 21 GB 1× · 59 GB frei |
| Mistral Small 3.2 24B Mistral AI | 24 Mrd. | 58 GB 1× · 22 GB frei | 32 GB 1× · 48 GB frei | 18 GB 1× · 62 GB frei |
| gpt-oss-20b OpenAI | 21 Mrd. 3,6 Mrd. aktiv | — Nicht veröffentlicht | — Nicht veröffentlicht | 17 GB 1× · 63 GB frei |
| Gemma 3 12B Google | 12,2 Mrd. | 29 GB 1× · 51 GB frei | 16 GB 1× · 64 GB frei | 9,4 GB 1× · 71 GB frei |
| Granite 4.1 8B IBM | 8,8 Mrd. | 21 GB 1× · 59 GB frei | 12 GB 1× · 68 GB frei | 6,8 GB 1× · 73 GB frei |
| Qwen3 8B Alibaba | 8,2 Mrd. | 20 GB 1× · 60 GB frei | 11 GB 1× · 69 GB frei | 6,3 GB 1× · 74 GB frei |
Schätzungen: Modellgewichte plus 20 % für KV-Cache und Laufzeit-Overhead, bei kurzen Kontextlängen. Lange Kontexte und große Batches benötigen mehr. Als „knapp“ markierte Zeilen fassen die Gewichte, aber nicht diesen vollen Puffer. Ein ×N-Wert ist der gesamte VRAM über N dieser GPUs und sagt nichts über den Durchsatz der Verbindung aus. Wie wir das schätzen
Mehr von dieser Seite?
Falsche Daten?