da 24 GBChat
ChatGPT privato · Qwen3 32B
Una chat nel browser per testi, codice e documenti. Niente abbonamenti e nessun limite di messaggi.
da 0,30 €/ora · RTX 3090, 24 GB
Modelli IA · Ollama
Ollama su una GPU a noleggio
In Ollama i modelli fino a 14B girano su una scheda da 12 GB, un 32B sta in 24 GB e un 70B richiede circa 50 GB. Un solo comando scarica un modello, che poi risponde nel terminale o tramite l’API sulla porta 11434. L’app pronta ChatGPT privato installa Ollama insieme alla finestra di chat Open WebUI.
- App
- PyTorch
- GPU
- RTX 3060, 12 GB
- Prezzo
- da 0,12 €/ora
Per avviare, il credito deve coprire un’ora di utilizzo della macchina. Paghi al minuto solo l’uso effettivo.
da 6 GBdi memoria video
2–5 minutiper avere il server pronto
Al minutoaddebitato sul tuo credito
SSH e Jupyteraccesso al server
Quanta memoria serve e quale GPU scegliere
Fino a 8B occupa circa 6 GB di memoria video a 4 bit; la scheda adatta più economica è la RTX 3060. I prezzi si aggiornano in base alle macchine disponibili nel catalogo quando apri la pagina.
| Versione | FP16 | 4 bit | GPU adattaGPU | Prezzo all’oraAll’ora |
|---|---|---|---|---|
| Fino a 8B | 18 GB | 6 GB | RTX 3060 | 0,12 € |
| Ollama 14B | 31 GB | 10 GB | RTX 3060 | 0,12 € |
| Ollama 32B | 71 GB | 22 GB | 2× RTX 3060 | 0,24 € |
| Ollama 70B | 154 GB | 47 GB | 4× RTX 4060 Ti | 0,64 € |
Stima: FP16 ≈ 2 GB per miliardo di parametri, 4 bit ≈ 0,6 GB, più il 10% per il contesto. Scelta: la configurazione più economica con memoria sufficiente; per i modelli grandi significa più schede identiche. Tutte le GPU e i prezzi
Come avviare Ollama in 3 passaggi
- Registrati e ricarica. Crea un account e ricarica da 10 €. Per avviare, il credito deve coprire almeno un’ora di utilizzo della macchina scelta; poi paghi al minuto.
- Scegli una GPU. La memoria per ogni versione è nella tabella qui sopra, e la più leggera gira già con 6 GB. Il pulsante in questa pagina seleziona l’opzione più economica con il template PyTorch.
- Avvia il modello. Il server è pronto in 2–5 minuti. Apri Jupyter nel browser o collegati via SSH ed esegui i comandi qui sotto.
Hai finito? Ferma il server dalla dashboard e la fatturazione si ferma. Salva e ferma conserva /workspace a 0,03 € per GB al mese, e la cartella torna in automatico sul tuo prossimo server.
Installa e avvia
curl -fsSL https://ollama.com/install.sh | sh
OLLAMA_HOST=0.0.0.0 ollama serve &
ollama run qwen2.5:14b
Per cosa si usa Ollama
01
Provare più modelli
ollama run scarica un modello per nome: confronta Qwen, Llama e DeepSeek sulle tue domande in una sola serata.
02
Un assistente personale
Ollama con Open WebUI ti dà una finestra di chat nel browser con lo storico delle conversazioni.
03
Un backend per un piccolo bot
L’API sulla porta 11434 si collega a un chatbot o a uno script senza ulteriori configurazioni.
Consigli prima dell’avvio
- Ollama installa per impostazione predefinita le versioni a 4 bit, quindi per la memoria guarda la colonna 4 bit.
- Per il carico di decine di utenti, vLLM è la scelta migliore.
Ti serve solo una chat? Un’app pronta, senza configurazione
Se il modello ti serve per conversare e non vuoi scrivere codice, avvia ChatGPT privato: il server arriva con Ollama, un modello Qwen3 e la chat Open WebUI nel browser.
da 12 GBChat
ChatGPT privato · Qwen3 8B
Una chat veloce su una scheda economica: bozze di email, traduzioni, risposte rapide.
da 0,12 €/ora · RTX 3060, 12 GB
Domande frequenti
Cosa posso far girare su una scheda da 24 GB?
Qwen 2.5 32B, DeepSeek R1 Distill 32B o Gemma 2 27B: stanno tutti a 4 bit.
Come ottengo una finestra di chat invece del terminale?
Avvia l’app pronta ChatGPT privato: il server arriva con Ollama, un modello Qwen3 e Open WebUI, che si apre nel browser.
Quanto ci vuole per l’avvio?
Di solito il server è pronto in 2–5 minuti, poi sono disponibili SSH e Jupyter. Il download del modello dipende dalle sue dimensioni e viene fatturato come normale tempo di server.
Cosa succede ai miei modelli e ai risultati quando fermo il server?
Quando lo fermi, clicca Salva e ferma: la cartella /workspace con modelli, LoRA e risultati va in archivio a 0,03 € per GB al mese e torna in automatico sul tuo prossimo server. Se fermi senza salvare, il disco viene eliminato.
Come funziona la fatturazione?
Al minuto, dal tuo credito in euro. Ricarica da 10 €; per avviare, il credito deve coprire almeno un’ora di utilizzo della macchina scelta. Fermi il server e la fatturazione si ferma.
Di solito un server è pronto in 2–5 minuti
Registrati in un minuto, ricarica da 10 € e paga al minuto. Fermi il server e la fatturazione si ferma.