GPU con 96 GB de VRAM o más
En VRAMfarm, las tarjetas con al menos 96 GB de memoria de vídeo empiezan en 2,12 € la hora (RTX PRO 6000). En 96 GB cabe un modelo de lenguaje de unos 145B parámetros en 4 bits o de 43B en FP16. Para imágenes y vídeo: cualquier modelo abierto de imagen o vídeo, varios a la vez en memoria.
Los 96 GB de la RTX PRO 6000 Blackwell son la mayor memoria en una sola tarjeta de estación de trabajo: 70B con contexto muy largo, modelos de vídeo grandes y escenas 3D pesadas.
Tarjetas con 96 GB o más, de la más barata a la más cara
| GPU | Tipo | Memoria | TFLOPS FP32 | Dónde | Precio por hora | ≈ al mes | Acción |
|---|---|---|---|---|---|---|---|
| RTX PRO 6000 | estación de trabajo | 96 GB | ≈125 | +8 | 2,12 €/h | 1526 € al mes | Alquilar |
| H200 | centro de datos | 141 GB | ≈67 | +2 | 5,43 €/h | 3910 € al mes | Alquilar |
| B200 | centro de datos | 192 GB | ≈80 | 16,12 €/h | 11.606 € al mes | Alquilar |
Para lanzar, tu saldo debe cubrir una hora de la máquina. Se factura por minuto según el uso real.
Qué funciona con 96 GB
Modelos de lenguaje
Hasta unos 145B parámetros en 4 bits (AWQ, GPTQ, GGUF Q4) o 43B en FP16, con sitio para un contexto normal. El contexto largo y muchos usuarios en paralelo necesitan más. La calculadora de VRAM lo calcula para tu modelo.
Imágenes y vídeo
Cualquier modelo abierto de imagen o vídeo, varios a la vez en memoria.
Entrenamiento
QLoRA de 70B, LoRA de 32B con base de 16 bits, fine-tuning completo de 8B con optimizador de 8 bits.
Trabajos típicos con este tamaño
- Modelos de 70B con contexto largo
- Fine-tuning completo de modelos de 7–8B
- Inferencia con lotes grandes en vLLM
Preguntas frecuentes
¿Cuál es la GPU más barata con 96 GB o más?
La NVIDIA RTX PRO 6000 Blackwell, desde 2,12 € la hora en VRAMfarm, facturada por minuto.
¿Qué LLM puedo ejecutar con 96 GB?
Unos 145B parámetros en 4 bits o 43B en FP16, con sitio para un contexto normal. Por ejemplo: Qwen3 14B, Qwen3 32B, Llama 3.3 70B.
¿Puedo sumar la memoria de varias GPU?
Para modelos de lenguaje, sí: vLLM y llama.cpp reparten un modelo entre tarjetas, así que 2 × 24 GB pueden ejecutar lo que necesita unos 40 GB. En los modelos de imagen y vídeo la memoria no se suma: una sola tarjeta tiene que contener el modelo.
¿Cómo sé si 96 GB son suficientes?
Suma los pesos (2 GB por cada mil millones de parámetros en FP16, 0,6 GB en 4 bits), la caché del contexto y un 10–15 % para búferes, o usa nuestra calculadora de VRAM. Si el modelo no cabe, o falla con «CUDA out of memory» o funciona mucho más lento con offloading.
Alquila 96 GB de VRAM
Recarga desde 10 €, elige una tarjeta de la lista y arranca en pocos minutos.