Ollama

Ollama permette di scaricare ed eseguire modelli di linguaggio direttamente sul computer. Con un modello locale, la documentazione del progetto dichiara che prompt e risposte non vengono inviati a ollama.com. Esistono però anche modelli cloud, elaborati dal servizio di Ollama e accessibili con un account: le due modalità non vanno confuse.

A differenza di ChatGPT, Claude o Gemini, Ollama non è un'interfaccia di chat: è uno strumento da terminale che può gestire modelli locali o invocare una variante `:cloud` scelta dall'utente. Se cerchi un'app semplice da usare nel browser, probabilmente stai cercando un'altra scheda. Se vuoi far girare Llama, Mistral, Gemma o Phi sul tuo hardware, scegli una variante locale e, quando il percorso dei dati è vincolante, attiva la modalità solo locale documentata dal progetto.

Ollama si distribuisce da ollama.com, che è l'unico canale ufficiale per gli installer. Il programma è disponibile per macOS, Windows e Linux. Su macOS l'installazione avviene come una normale app; su Windows è un eseguibile di installazione; su Linux è documentato uno script ufficiale. Il processo è ben documentato e non richiede configurazioni complesse per iniziare.

Il punto di attenzione specifico con Ollama è dato proprio dalla sua natura open source e popolare: esistono fork, mirror e redistribuzioni che non sono il progetto ufficiale. La referenza corretta è sempre ollama.com per gli installer e github.com/ollama/ollama per il codice sorgente. Qualsiasi eseguibile che non proviene da queste due fonti va trattato con cautela.

Una volta installato, Ollama funziona come un server locale che gestisce i modelli. Con un comando come `ollama run llama3` puoi scaricare ed eseguire il modello Llama 3 direttamente sulla tua macchina. Il catalogo disponibile include modelli di Meta, Google, Microsoft, Mistral AI e molti altri, in varianti di dimensioni diverse in base alla memoria disponibile.

Ollama espone anche un'API locale compatibile con il formato di OpenAI. Questo significa che puoi collegarlo a client desktop come Open WebUI per avere un'interfaccia grafica, oppure integrarlo in applicazioni proprie che già usano l'API di ChatGPT. Quella compatibilità lo rende una componente flessibile per chi costruisce su modelli di linguaggio.

Con i modelli eseguiti in locale, Ollama dichiara di non vedere prompt o risposte. Con i modelli cloud, invece, il servizio elabora prompt e risposte per fornire il risultato. La modalità solo locale disabilita sia i modelli cloud sia la ricerca web ed è la scelta da configurare quando il materiale non può uscire dal dispositivo.

La configurazione del server ascolta normalmente su localhost. Se la modifichi per accedere da un altro dispositivo, puoi rendere il servizio raggiungibile senza autenticazione: in quel caso usa un proxy inverso o un gateway con autenticazione invece di esporre direttamente la porta di Ollama.

Ollama e LM Studio coprono lo stesso caso d'uso — eseguire modelli locali — ma con approcci diversi. Ollama è pensato per chi è a suo agio con la riga di comando e vuole un server leggero, integrabile con altri strumenti. LM Studio offre invece un'interfaccia grafica completa, utile per chi preferisce non digitare comandi.

Puoi anche usarli insieme: alcuni utenti gestiscono i modelli con Ollama e poi li consumano attraverso interfacce di terze parti. Entrambi hanno canali ufficiali di download che questa scheda rimanda. La scelta dipende dal tuo livello di familiarità con la riga di comando e da quanto controllo vuoi avere sul backend.