Ollama vs LM Studio: quale strumento per LLM locali?

Ollama vs LM Studio in una riga: scegli LM Studio se vuoi una GUI desktop per sfogliare e chattare con i modelli; scegli Ollama se vuoi un server API locale leggero e scriptabile. Sono gratuiti entrambi, eseguono modelli GGUF sulla tua GPU o CPU, ed entrambi sanno servire un endpoint compatibile OpenAI — tanti sviluppatori li installano entrambi e li usano per lavori diversi. Questa guida confronta installazione, gestione della GPU, velocità e API con comandi veri pronti da lanciare, così smetti di leggere thread su Reddit e inizi a generare token in locale.

Qual è la differenza tra Ollama e LM Studio?

La differenza di fondo sta nell’interfaccia e nell’intento:

• Ollama è un runtime CLI-first. Tiri giù un modello con un solo comando e gira come servizio in background su localhost:11434, con una REST API esposta. Nessuna finestra di chat integrata — è costruito per essere il «Docker for LLMs» a cui gli altri strumenti si agganciano.
• LM Studio è un’applicazione desktop completa (Electron) con un browser per cercare i modelli, una chat UI, impostazioni per singolo modello (context length, layer da offloadare in GPU, temperature) e una modalità server locale che attivi con un clic.

Entrambi capiscono il formato GGUF e pilotano la stessa famiglia di motori sottostanti — Ollama incorpora llama.cpp, LM Studio usa runtime basati su llama.cpp che scarica e aggiorna per te. La qualità di generazione grezza con lo stesso file di modello è quindi di fatto identica; gli strumenti differiscono in tutto ciò che sta attorno al modello.

Ollama è gratuito per uso commerciale?

Sì. Ollama è open source (MIT) e gratuito per uso commerciale — devi solo rispettare la licenza del modello, non quella di Ollama. Llama, Mistral, Qwen e Gemma portano ciascuno i propri termini, quindi controlla la model card se ci costruisci sopra un prodotto.

LM Studio è gratuito per uso personale ma arriva con una licenza closed source: l’uso lavorativo richiede una flag gratuita per l’uso «work», e le aziende oltre una soglia di fatturato lo pagano. Se l’ufficio acquisti del tuo datore di lavoro fa domande insistenti, questa differenza da sola può chiudere la partita Ollama vs LM Studio.

Ollama usa la GPU in automatico?

Sì — Ollama rileva CUDA (NVIDIA), Metal (Apple Silicon) e ROCm (AMD) al lancio e manda in offload quanti più layer entrano in VRAM. Due controlli che conviene conoscere:

# Cosa ha caricato davvero Ollama — GPU o CPU?
ollama ps

# Se è scivolato silenziosamente sulla CPU, forzalo:
OLLAMA_NUM_GPU=999 ollama run qwen2.5-coder:7b

Se ollama ps mostra 100% GPU, il modello è in offload; uno split tipo 48%/52% CPU/GPU significa che non entrava e lo sentirai nei token/sec. LM Studio espone lo stesso controllo come slider di GPU offload per modello, più comodo quando vuoi sperimentare — una delle sue idee di UX genuinamente migliori.

Chi è più veloce, Ollama o LM Studio?

A parità di modello, quantizzazione e hardware: sostanzialmente pareggio, perché entrambi delegano a llama.cpp. I benchmark che dichiarano «Ollama è più veloce» o viceversa di solito confrontano quantizzazioni o context length diversi. Misura sulla tua macchina invece di fidarti di una delle due fazioni:

# Ollama: --verbose stampa l'eval rate (token/sec) alla fine
ollama run qwen2.5-coder:7b --verbose "Summarise what a Makefile does in one sentence."

In LM Studio, carica lo stesso file GGUF con identici context length e layer GPU, poi guarda i token/sec nel pannello statistiche della chat. Chiunque mostri i numeri più alti, rifai il test due volte — il primo caricamento porta con sé rumore di warm-up.

Si può usare LM Studio come server API locale?

Sì — apri la scheda Developer, avvia il server e ottieni un endpoint compatibile OpenAI su localhost:1234. Ha persino una CLI (lms) per lo scripting:

lms server start
lms load qwen2.5-coder-7b-instruct --gpu max
curl http://localhost:1234/v1/chat/completions 
  -H "Content-Type: application/json" 
  -d '{"model":"qwen2.5-coder-7b-instruct","messages":[{"role":"user","content":"Write a jq filter for the top process by CPU"}]}'

L’API equivalente di Ollama è sempre attiva appena gira il servizio, e endpoint nativo più rotte compatibili OpenAI non richiedono alcuna configurazione:

curl -fsSL https://ollama.com/install.sh | sh   # installazione su Linux
ollama pull qwen2.5-coder:7b
curl http://localhost:11434/api/chat -d '{
  "model": "qwen2.5-coder:7b",
  "messages": [{"role": "user", "content": "Explain bash exit codes in two lines"}],
  "stream": false
}'

Entrambi si innestano in qualunque strumento che parli l’API OpenAI — estensioni di VS Code, agenti di coding, i tuoi script. È qui che Ollama prende il sopravvento: il servizio parte al boot, gira headless su un server o su una macchina da homelab, e nulla dipende da un’app desktop aperta. Io uso esattamente questo setup sul mio homelab, dove Ollama serve i modelli a tutta la rete mentre il nodo head resta senza mouse.

Cosa scegliere: Ollama o LM Studio?

Dimensione	Ollama	LM Studio
Interfaccia	CLI + API REST	GUI desktop completa
Open source	MIT, al 100%	Chiuso, gratuito per uso personale
Uso commerciale	Gratuito	Licenza a pagamento su larga scala
Gestione modelli	ollama pull <model>	Browser di ricerca e download integrato
Chat UI	Nessuna (porta la tua)	Integrata
Endpoint API	:11434 sempre attivo	:1234 attivabile
Uso headless/server	Eccellente	Impacciato
Windows / macOS / Linux	Tutti e tre	Windows + macOS, Linux in beta

Regole pratiche, senza rimpianti in nessun caso:

1. Vuoi usare i modelli — chattare, provarli, giocare con gli slider: LM Studio.
2. Vuoi costruire sui modelli — script, agenti, CI, un servizio API casalingo: Ollama.
3. Vuoi entrambe le cose — installali tutti e due; convivono senza problemi (evita solo che i due server si contendano la stessa porta, e ricorda che un modello caricato due volte occupa VRAM due volte).

I modelli locali si abbinano benissimo agli strumenti di coding agentici — punta un client compatibile OpenAI al tuo endpoint locale e hai completamenti illimitati a costo zero per token. Questa combinazione alimenta il setup local-first dietro freechat, ed è il modo più economico di imparare le fondamenta degli LLM: l’unica bolletta è la luce.