Alquilar GPU para LLM: ejecuta tu propio modelo desde 0,30 € la hora
Si vas a alquilar una GPU para LLM, una tarjeta de 24 GB (RTX 3090 o 4090) ejecuta modelos de hasta unos 32B parámetros en 4 bits, una de 48 GB mueve 70B en 4 bits con un contexto normal, y las de 80 GB (A100, H100) aguantan 70B con contexto largo o muchos usuarios. En VRAMfarm empieza en 0,30 € la hora, facturado por minuto, y vLLM te da una API compatible con OpenAI en pocos minutos.
Qué modelo cabe y a qué velocidad responde
| GPU | Memoria | Modelo más grande, 4 bits | 8B, tokens/s | 32B, tokens/s | 70B, tokens/s | Precio |
|---|---|---|---|---|---|---|
| RTX 3090 | 24 GB | 36B | ~117 | ~29 | — | 0,30 €/h |
| RTX 4090 | 24 GB | 36B | ~126 | ~32 | — | 0,59 €/h |
| RTX 5090 | 32 GB | 48B | ~224 | ~56 | — | 0,76 €/h |
| RTX A6000 | 48 GB | 72B | ~96 | ~24 | ~11 | 0,72 €/h |
| L40S | 48 GB | 72B | ~108 | ~27 | ~12 | 1,06 €/h |
| RTX PRO 6000 | 96 GB | 145B | ~224 | ~56 | ~26 | 2,12 €/h |
| A100 | 80 GB | 121B | ~255 | ~64 | ~29 | 1,46 €/h |
| H100 | 80 GB | 121B | ~419 | ~105 | ~48 | 3,90 €/h |
| H200 | 141 GB | 213B | ~600 | ~150 | ~69 | 5,43 €/h |
| B200 | 192 GB | 290B | ~1000 | ~250 | ~114 | 16,12 €/h |
Tokens por segundo para una sola petición con un modelo en 4 bits: ancho de banda de memoria ÷ tamaño de los pesos, por 0,6 para las pérdidas reales. «—»: el modelo no cabe en una tarjeta dejando sitio para el contexto. Con peticiones en paralelo en vLLM, el rendimiento total es varias veces mayor. Los precios son por tarjeta y hora y cambian con el mercado; el precio queda fijado al lanzar el servidor. Se factura por minuto, con un mínimo de 15 minutos.
Para qué se usan los LLM
Una API para tu producto
vLLM sirve un endpoint compatible con OpenAI: cambia la URL base en tu código y deja el resto igual. El batching continuo atiende decenas de peticiones a la vez en una sola tarjeta.
Un ChatGPT privado para el equipo
Nuestro chat listo para usar ejecuta Qwen3 o MiMo en tu navegador. Los prompts y los archivos se quedan en tu servidor y nunca llegan a una API de terceros.
Trabajos por lotes
Etiqueta, resume o traduce un millón de textos en una noche. Arranca la tarjeta cuando se llene la cola, párala cuando se vacíe y paga solo esas horas.
Modelos grandes y nuevos
Cuando sale un modelo abierto nuevo, puedes probarlo el mismo día en 80–192 GB sin comprar hardware: 70B con contexto largo, modelos mixture-of-experts, varias tarjetas con tensor parallel.
Cuánta memoria necesita un modelo
Los pesos ocupan unos 2 GB por cada mil millones de parámetros en FP16, 1 GB en 8 bits y 0,6 GB en 4 bits (AWQ, GPTQ, GGUF Q4). Suma espacio para la caché KV, que crece con la longitud del contexto y el número de peticiones en paralelo, y un 10–15 % para búferes. Así, un modelo de 8B en 4 bits necesita unos 6 GB, uno de 32B unos 22 GB y uno de 70B unos 43 GB antes del contexto. La calculadora de VRAM hace la cuenta para tu modelo.
Velocidad: lo que más cuenta es el ancho de banda
Cuando chatea una sola persona, cada token lee el modelo entero de la memoria, así que la velocidad depende más del ancho de banda de memoria que de la potencia de cálculo. Por eso una RTX 3090 y una 4090 generan a una velocidad parecida con el mismo modelo, mientras que una H100 con HBM3 es unas tres veces más rápida. Con carga la cosa cambia: vLLM agrupa las peticiones y el cálculo empieza a pesar.
vLLM, Ollama o llama.cpp
vLLM está pensado para servir a muchos usuarios a través de una API. Ollama y llama.cpp son más sencillos para una sola persona y ejecutan archivos GGUF, también en tarjetas con menos memoria. Los tres están disponibles en un servidor limpio; Ollama y vLLM tienen sus propias páginas de configuración.
Cuánto cuesta un mes de API privada
Una API de Qwen3 32B en una RTX 4090 durante 8 horas laborables al día, 22 días al mes: 176 horas, unos 103,84 €. Las 24 horas del día, unos 424,80 € al mes. Compáralo con tu factura mensual de API para tu volumen de tokens: con unos cientos de peticiones al día, una API de pago suele salir más barata; con carga constante, tu propio modelo suele ganar.
Guías sobre el tema
12 de noviembre de 2026 Llama 70B en una sola GPU: 4 bits o FP8, 48 GB u 80 GB y velocidades reales
Llama 3.3 70B en 4 bits ocupa 40–43 GB: una tarjeta de 48 GB con 8000–16 000 tokens de contexto, 80 GB para documentos largos o varios usuarios. Formatos, comandos, tokens/s.
12 de noviembre de 2026 vLLM, Ollama o llama.cpp: con cuál ejecutar tu LLM, y los comandos
Ollama para una persona en cinco minutos, llama.cpp para tener el control, vLLM para una API con muchos usuarios: velocidad, formatos, memoria y comandos de arranque.
12 de noviembre de 2026 LLM propio o API: cuándo una GPU alquilada sale más barata que pagar por token
Cuatro escenarios mensuales en euros: un usuario, un equipo de diez, un bot de producto 24/7 y un trabajo por lotes de 440 M de tokens. Dónde gana la API y dónde tu GPU.
Preguntas frecuentes
¿Qué GPU necesito para Llama 3.3 70B?
En 4 bits los pesos ocupan unos 43 GB, así que una tarjeta de 48 GB (RTX A6000, L40S) sirve con un contexto normal. Para contexto largo o muchos usuarios en paralelo, elige una de 80 GB (A100, H100) o la RTX PRO 6000 de 96 GB. En FP16 el modelo necesita unos 140 GB: una H200 con 141 GB va justa; una B200 o dos tarjetas de 80 GB van holgadas.
¿Puedo repartir un modelo entre varias GPU?
Sí. vLLM y llama.cpp reparten un modelo entre varias tarjetas con paralelismo de tensor o de pipeline. Elige en la lista de servidores una máquina con 2, 4 u 8 tarjetas iguales.
¿Sale más barato que la API de OpenAI o Anthropic?
Depende del volumen. Una tarjeta alquilada cuesta lo mismo por hora tanto si responde diez peticiones como diez mil, así que con carga constante tu propio modelo abierto suele salir más barato, y los datos se quedan contigo. Para unas pocas peticiones al día, una API de pago es más barata y más sencilla.
¿Cuánto tarda en arrancar?
El servidor suele estar listo para SSH y Jupyter en 2–5 minutos. Después viene la descarga de los pesos del modelo, que depende del tamaño: un modelo de 32B en 4 bits ocupa unos 20 GB.
Ejecuta tu modelo hoy
Recarga desde 10 €, elige una tarjeta y arranca vLLM, Ollama o el chat listo para usar.