12 de noviembre de 2026 · Equipo de VRAMfarm
Tu propio ChatGPT privado: Open WebUI con Ollama o vLLM en una GPU alquilada
Quieres pegar en un chat un contrato, una lista de clientes o código sin publicar, y preferirías que no acabara en los servidores de una empresa de IA. La solución es un modelo abierto que funcione en una GPU que alquilas, detrás de Open WebUI, una interfaz de chat que se parece mucho a ChatGPT y funciona casi igual. Qwen3 8B necesita una tarjeta de 12 GB; Qwen3 32B, una de 24 GB, y un modelo de 70B, una de 48 GB. Nuestra app lista para usar ChatGPT privado configura sola los dos primeros, además de MiMo 9B; desde que pulsas Lanzar hasta la primera respuesta pasan unos 10 minutos.
La app lista para usar: lanzar, esperar y chatear
Elige ChatGPT privado en el panel y uno de los tres modelos:
- Qwen3 8B, desde una tarjeta de 12 GB. Rápido, bueno para borradores, reescribir textos y preguntas sobre textos cortos.
- MiMo 9B (Xiaomi, licencia MIT), desde una tarjeta de 12 GB. Tamaño y velocidad parecidos, y además entiende imágenes: suelta una captura de pantalla, la foto de un documento o un gráfico y pregúntale por ello.
- Qwen3 32B, desde una tarjeta de 24 GB. Bastante más listo: textos más largos, razonamiento, código. Es el que acaba usando casi todo el mundo.
El servidor está listo en 2–5 minutos, y esos minutos no se cobran. Después la app instala Open WebUI y descarga el modelo, unos 5 GB para el de 8B y 20 GB para el de 32B, lo que lleva otros 5–10 minutos y sí se factura; las descargas cuentan como tráfico. El panel muestra cuándo está listo el chat, y el botón Abrir chat lo abre en tu navegador. Si lo abres antes, verás una página de error, pero el servidor no está roto.
La app viene ajustada: 8000 tokens de contexto con una caché de 8 bits, de modo que el modelo de 32B cabe entero en una tarjeta de 24 GB y va a unos 30 tokens por segundo, y el modelo se carga en memoria en cuanto llega, para que la primera respuesta no tenga que esperarlo. El chat se abre sin inicio de sesión, porque el servidor es solo tuyo; lee la sección de privacidad antes de compartir el enlace.
Los modelos Qwen3 piensan antes de responder, y Open WebUI muestra ese razonamiento plegado encima de la respuesta. Para preguntas rápidas, añade /no_think a tu mensaje y la respuesta llegará varias veces antes. En la página de Qwen3 y en la página de MiMo tienes las cifras de memoria y las licencias.
Qué tarjeta para 8B, 32B y 70B
| Modelo | Descarga | Tarjeta mínima | Velocidad para un usuario | Precio por hora |
|---|---|---|---|---|
| Qwen3 8B, MiMo 9B | 5–6 GB | 12 GB: RTX 3060 | 40–55 tokens/s | desde 0,12 € |
| Qwen3 8B en una tarjeta más rápida | 5 GB | 16 GB: RTX 5070 Ti | 90–130 tokens/s | desde 0,24 € |
| Qwen3 14B (lo configuras tú) | 9 GB | 16 GB: RTX 4080, RTX 5070 Ti | 45–75 tokens/s | desde 0,31 € |
| Qwen3 32B | 20 GB | 24 GB: RTX 3090, RTX 4090 | 25–40 tokens/s | desde 0,30 € |
| Llama 3.3 70B (lo configuras tú) | 43 GB | 48 GB: RTX A6000, L40S | 12–18 tokens/s | desde 0,72 € |
Las velocidades son rangos orientativos para modelos de 4 bits, calculados a partir del ancho de banda de memoria y de lo que cuenta la comunidad. Por encima de 8 tokens por segundo, el texto sale tan rápido como puedes leerlo.
Para un modelo de 70B, lanza la app lista para usar en una tarjeta de 48 GB y cambia el modelo desde el terminal (Jupyter → Terminal):
ollama stop qwen3:8b
ollama pull llama3.3:70bLa descarga de 43 GB se factura como tráfico y tarda un rato. Recarga la página del chat y elige llama3.3:70b en el menú de modelos. Con los 8000 tokens de contexto de la app, un 70B cabe en 48 GB; para documentos largos te conviene una tarjeta de 80 GB, como explicamos en cómo ejecutar un modelo de 70B en una sola GPU.
Móntalo tú: Open WebUI con Ollama o vLLM
En un servidor vacío de PyTorch puedes montar lo mismo con unos pocos comandos y el modelo que quieras:
curl -fsSL https://ollama.com/install.sh | sh
OLLAMA_CONTEXT_LENGTH=8192 OLLAMA_FLASH_ATTENTION=1 OLLAMA_KV_CACHE_TYPE=q8_0 \
nohup ollama serve > /workspace/ollama.log 2>&1 &
ollama pull qwen3:14b
pip install open-webui
DATA_DIR=/workspace/open-webui OLLAMA_BASE_URL=http://127.0.0.1:11434 \
nohup open-webui serve --host 127.0.0.1 --port 3000 > /workspace/webui.log 2>&1 &Un servidor vacío solo publica SSH y Jupyter, así que abre el chat a través de un túnel SSH desde tu ordenador: ssh -p <port> -L 3000:localhost:3000 root@<address>, con el puerto y la dirección que aparecen en Mis servidores, y luego entra en http://localhost:3000. La guía de la clave SSH explica cómo configurar la clave. Open WebUI guarda los chats, los usuarios y los ajustes en DATA_DIR, y por eso apunta a /workspace.
Ollama es el motor adecuado para una persona o unas pocas. Si mucha gente va a escribir a la vez, pon vLLM detrás de Open WebUI. vLLM agrupa las peticiones en paralelo, así que si veinte personas preguntan a la vez, cada una recibe su respuesta casi a toda velocidad, mientras que Ollama responde a unas pocas y deja a las demás en cola. En una tarjeta de 48 GB, donde Qwen3 32B en 4 bits (unos 19 GB) deja sitio en la caché para unas diez conversaciones de 8000 tokens a la vez, descarga el modelo de Ollama (ollama stop <model>), arranca vLLM con una clave y añádelo en Open WebUI en Admin Panel → Settings → Connections como conexión de OpenAI API, con la dirección http://127.0.0.1:8000/v1 y la misma clave:
pip install "vllm==0.11.0" "transformers>=4.56,<5"
nohup vllm serve Qwen/Qwen3-32B-AWQ --max-model-len 8192 --port 8000 \
--api-key change-me > /workspace/vllm.log 2>&1 &La versión fijada está compilada para CUDA 12.8; un vLLM más reciente puede necesitar un driver más nuevo que el de la máquina. La comparativa de motores explica por qué y cuándo encaja cada uno.
Qué queda en privado y qué no
Lo que se queda en el servidor. El modelo funciona en la GPU que has alquilado. Tus prompts, los archivos que adjuntas y las respuestas se procesan ahí, sin pasar por la API de ninguna empresa de IA. La búsqueda en documentos de Open WebUI también es local, con un pequeño modelo de embeddings que se descarga en el servidor. Open WebUI tiene búsqueda web y conexiones con API de modelos externos, pero siguen desactivadas mientras no las añadas tú.
Dónde está el servidor. Es una máquina de uno de nuestros anfitriones verificados, no tu propio hardware. Su país se muestra antes de lanzar, así que puedes elegir uno que encaje con tus requisitos. «Privado» significa aquí que ningún proveedor de IA ve ni guarda tus conversaciones, que es lo que necesita la mayoría de la gente cuando deja un chatbot público.
El enlace. La dirección del chat de la app lista para usar es un enlace http normal en un puerto de nuestra dirección, y se abre sin inicio de sesión. Cualquiera que tenga el enlace, o que vaya probando puertos de nuestra dirección hasta que uno responda, puede usar el chat mientras el servidor esté en marcha. No lo publiques en ningún sitio, activa las cuentas antes de compartirlo (siguiente sección) y, para material confidencial, abre el chat por un túnel SSH como el de arriba, que cifra la conexión.
Después de detenerlo. El disco del servidor se elimina. Tu historial de chat está en /workspace/open-webui, así que elige guardar la carpeta al detenerlo si quieres recuperarlo la próxima vez; se restaura en el siguiente servidor, aunque sea otra tarjeta, por 0,03 € por GB al mes, y el historial de chat suele ocupar bastante menos de un giga. El modelo en sí no se conserva y vuelve a descargarse en el siguiente lanzamiento. Los detalles están en el artículo sobre los archivos tras detener un servidor.
Compartir el chat con un equipo
Para un equipo, activa las cuentas de Open WebUI. La carpeta de datos que creó la app se configuró sin cuentas reales, así que lo más limpio es arrancar Open WebUI con una nueva:
pkill -f "open-webui serve"
DATA_DIR=/workspace/open-webui-team WEBUI_AUTH=True OLLAMA_BASE_URL=http://127.0.0.1:11434 \
nohup open-webui serve --host 0.0.0.0 --port 3000 > /workspace/webui.log 2>&1 &La primera cuenta que crees será la de administrador. Los compañeros que se registren esperarán a que los apruebes, o puedes crearles tú las cuentas en Admin Panel → Users. Cada persona tiene su propio historial de chat; el administrador puede compartir con todos modelos, prompts de sistema y colecciones de documentos. Los chats de la carpeta antigua se quedan ahí y no se trasladan. Si este proceso llega a fallar, la reparación automática de la app vuelve a arrancar el chat original sin inicio de sesión, así que después de cualquier reinicio comprueba que el chat sigue pidiendo usuario y contraseña.
Cuánto aguanta un servidor: una tarjeta de 24 GB con Qwen3 32B a través de Ollama va sobrada para un puñado de personas que preguntan de vez en cuando. Con diez o más escribiendo a la vez, las respuestas empiezan a hacer cola; cambia el motor a vLLM y plantéate una tarjeta de 48 GB para que quepan más conversaciones a la vez en la caché.
El coste va por servidor, no por usuario. Una RTX 4090 de 24 GB durante 9 horas en 22 días laborables son 198 horas, 116,82 € al mes para todo el equipo. Una suscripción de pago a un chat cuesta unos 20–25 € por persona al mes (noviembre de 2026). Para una sola persona, la suscripción sale más barata, salvo que lo que busques sea precisamente la privacidad. A partir de unas seis personas, según el precio de la tarjeta ese día y tus horas, un servidor compartido cuesta menos que una suscripción para cada uno, con los datos en una máquina que controlas tú.
Aquí ayuda la protección por inactividad: si nadie usa el chat, te enviamos un correo tras 2 horas sin conexiones ni carga en la GPU, y una hora después se guarda la carpeta y se detiene el servidor. Para un horario de oficina fijo, un pequeño script por tu parte (con cron, por ejemplo) puede arrancar y detener el servidor a través de la API, con un token de Ajustes.