GPU con 80 GB de VRAM o más
En VRAMfarm, las tarjetas con al menos 80 GB de memoria de vídeo empiezan en 1,46 € la hora (A100). En 80 GB cabe un modelo de lenguaje de unos 121B parámetros en 4 bits o de 36B en FP16. Para imágenes y vídeo: cualquier modelo abierto de imagen o vídeo, varios a la vez en memoria.
Los 80 GB de la A100 y la H100 son el estándar para el trabajo serio con LLM y el entrenamiento: 70B con contexto largo, QLoRA de 70B, fine-tuning completo de 8B.
Tarjetas con 80 GB o más, de la más barata a la más cara
| GPU | Tipo | Memoria | TFLOPS FP32 | Dónde | Precio por hora | ≈ al mes | Acción |
|---|---|---|---|---|---|---|---|
| A100 | centro de datos | 80 GB | ≈19,5 | +2 | 1,46 €/h | 1051 € al mes | Alquilar |
| RTX PRO 6000 | estación de trabajo | 96 GB | ≈125 | +8 | 2,12 €/h | 1526 € al mes | Alquilar |
| H100 | centro de datos | 80 GB | ≈67 | +1 | 3,90 €/h | 2808 € al mes | Alquilar |
| H200 | centro de datos | 141 GB | ≈67 | +2 | 5,43 €/h | 3910 € al mes | Alquilar |
| B200 | centro de datos | 192 GB | ≈80 | 16,12 €/h | 11.606 € al mes | Alquilar |
Para lanzar, tu saldo debe cubrir una hora de la máquina. Se factura por minuto según el uso real.
Qué funciona con 80 GB
Modelos de lenguaje
Hasta unos 121B parámetros en 4 bits (AWQ, GPTQ, GGUF Q4) o 36B en FP16, con sitio para un contexto normal. El contexto largo y muchos usuarios en paralelo necesitan más. La calculadora de VRAM lo calcula para tu modelo.
Imágenes y vídeo
Cualquier modelo abierto de imagen o vídeo, varios a la vez en memoria.
Entrenamiento
QLoRA de 70B, LoRA de 32B con base de 16 bits, fine-tuning completo de 8B con optimizador de 8 bits.
Trabajos típicos con este tamaño
- Modelos de 70B con contexto largo
- Fine-tuning completo de modelos de 7–8B
- Inferencia con lotes grandes en vLLM
Preguntas frecuentes
¿Cuál es la GPU más barata con 80 GB o más?
La NVIDIA A100 80GB, desde 1,46 € la hora en VRAMfarm, facturada por minuto.
¿Qué LLM puedo ejecutar con 80 GB?
Unos 121B parámetros en 4 bits o 36B en FP16, con sitio para un contexto normal. Por ejemplo: Qwen3 14B, Qwen3 32B, Llama 3.3 70B.
¿Puedo sumar la memoria de varias GPU?
Para modelos de lenguaje, sí: vLLM y llama.cpp reparten un modelo entre tarjetas, así que 2 × 24 GB pueden ejecutar lo que necesita unos 40 GB. En los modelos de imagen y vídeo la memoria no se suma: una sola tarjeta tiene que contener el modelo.
¿Cómo sé si 80 GB son suficientes?
Suma los pesos (2 GB por cada mil millones de parámetros en FP16, 0,6 GB en 4 bits), la caché del contexto y un 10–15 % para búferes, o usa nuestra calculadora de VRAM. Si el modelo no cabe, o falla con «CUDA out of memory» o funciona mucho más lento con offloading.
Alquila 80 GB de VRAM
Recarga desde 10 €, elige una tarjeta de la lista y arranca en pocos minutos.