Installare l'IA sul PC con Ollama, e quando non conviene

Installare l'IA sul PC: la bozza del bar Da Rosa scritta senza account

Installare un'intelligenza artificiale sul PC, cioè in locale, vuol dire scaricare Ollama, il programma che la fa girare, e un modello, il file che fa il lavoro, scegliendone uno che stia nella memoria della tua scheda video. Per il conto, per le notizie di oggi e su un PC senza scheda adatta non conviene. Conviene se hai testi che preferisci non mandare fuori e accetti di controllare ogni risposta.

Provato solo su un PC con Windows 11 e una scheda NVIDIA RTX 4070 SUPER da 12 GB, con Ollama 0.40.13 già installato e modelli già presenti. Non provati: l'installazione da zero, il primo scaricamento, i comandi ollama pull e ollama run (non eseguiti, perché possono scaricare: sono quelli della documentazione), Mac, Linux, schede AMD, PC senza scheda, llama.cpp, Open WebUI, ComfyUI, Z-Image-Turbo, LM Studio, le immagini. I numeri delle prove sono del 05/11/2026 su quel PC: poche prove, nessuna statistica.

Il lavoro che ottieni. Il bar «Da Rosa» di Catania non esiste: l'abbiamo inventato noi, come Rosa, la titolare. Rosa vuole la bozza dell'avviso di chiusura per ferie, scritta sul suo PC, senza account:

Com'è uscita: gemma4:12b, Ollama 0.40.13, RTX 4070 SUPER da 12 GB, Windows 11, 05/11/2026, con date e orari scritti nella richiesta. 25,5 secondi col modello fuori dalla memoria, 32,6 in un'altra corsa. Date giuste, nessun fatto aggiunto. È un lavoro facile, perché i fatti glieli abbiamo dati noi, e non tutti reggono: llama3.2:latest ha aggiunto «Siamo rimasti a sorvegliare!». Il giudizio sull'italiano è di un agente della redazione.

Il fatto più utile: lo stesso PC e lo stesso modello, sullo stesso conto, hanno dato una risposta vuota, una sbagliata e una giusta. Nel capitolo sul contesto vedi dove guardare.

Io uso Ollama con 12 modelli installati e Open WebUI come interfaccia: è un'abitudine, non una prova. Se prima vuoi capire cosa ti serve per ogni lavoro, compreso nessuno, parti da quale IA usare.

Quando non conviene: detto prima di scaricare

• Il conto che rifai ogni mese. Una formula lo fa uguale ogni giorno. Regola nostra, vale anche quando il modello esce giusto.
• Le cose di oggi: meteo, prezzi, orari di altri. Un modello sul PC, da solo, non guarda fuori. Su meteo a Catania e caffè all'ingrosso, tre modelli su tre, una richiesta ciascuno, hanno detto che non lo sanno.
• Un PC senza scheda adatta. Secondo la pagina di Ollama i modelli grandi vanno piano. Non provato.
• Un lavoro che fai due volte al mese. La documentazione parla di almeno 4 GB per il programma e da decine a centinaia di GB per i modelli. Non vale il tempo. Regola nostra.
• Vuoi la risposta in un attimo. Da noi l'avviso ha preso 25,5 secondi, il conto giusto da 78 a 104. qwen3.8:27b, che non sta nella scheda, in 180 secondi non ha finito l'avviso.
• Allergie, salute, una scelta su una persona. Non le decide un modello. Regola nostra, non è un'indicazione medica.
• Vuoi comprare una scheda apposta. No, finché non hai provato con quello che hai. Regola nostra. Di risparmio non parliamo: quel conto non l'abbiamo fatto.

A tre modelli abbiamo dato un cartellino finto con la parte degli allergeni macchiata e la domanda di una cliente allergica a frutta a guscio e uova:

Sul cartellino quella frase non c'è. gemma4:12b, prudente, ha deciso lui: «le sconsigliamo di consumarla». Nessuno dei tre rimanda a chi ha fatto il dolce. Anche Haiku, che non gira sul PC, ha deciso lui, due volte su due (testo prodotto da un modello piccolo a cui abbiamo dato le istruzioni): qui locale e cloud non si separano. Haiku non è il piano gratuito di Claude.

Quando sì. Testi che preferisci tenere sul PC, come appunti e bozze. Lavori che si ripetono e che rileggi comunque. Se ti serve scrivere e basta, c'è quale IA usare per scrivere: gratis va bene.

Per decidere sui tuoi lavori c'è questo prompt: scrivi il nome dei lavori, non il contenuto. Provato con Haiku su quattro casi inventati. Al bar: modello sul PC solo per le note sul personale. All'idraulico di Bologna: «prima guardo la scheda». Al B&B di Lecce col portatile vecchio: «installare non conviene». Testo prodotto da un modello piccolo a cui abbiamo dato le istruzioni; le regole sono nostre.

Passo 1 a mano: guarda la tua scheda e scegli il modello

La scheda video ha una memoria sua, separata da quella del PC, e decide cosa ci sta. Apri il terminale, la finestra dei comandi: cerca «PowerShell» nel menu Start. Incolla questa riga, che non è un comando di Ollama:

nvidia-smi --query-gpu=name,memory.total,memory.used --format=csv

Sul PC delle prove, il 05/11/2026:

name, memory.total [MiB], memory.used [MiB]
NVIDIA GeForce RTX 4070 SUPER, 12282 MiB, 1291 MiB

Il primo numero è la memoria totale, il secondo quella già occupata. Se il comando non esiste, di solito non hai una NVIDIA, o manca il driver. In Gestione attività, scheda Prestazioni, voce GPU, dovresti trovare gli stessi dati: strada non provata.

Open source o pesi aperti? Quasi tutti li chiamano open source. Secondo la definizione della Open Source Initiative servono anche codice di addestramento e informazioni sui dati: qui hai di solito i pesi, cioè il modello già addestrato, sotto una licenza da leggere.

Come si legge la tabella. Scegli la riga con la memoria totale della scheda, arrotondata ai GB (8188 MiB contano come 8 GB): se sta fra due righe, la più grande che non la supera; a pari memoria, parti dalla prima, regola nostra. La memoria libera, totale meno occupata, deve bastare per i GB «in più nella scheda» (1024 MiB fanno 1 GB). Sulle due righe da 24 GB quel dato non c'è, perché su 12 GB non ci stanno: guarda il peso del file, è una stima nostra. «Al secondo» vuol dire pezzi di parola al secondo. La tabella dice cosa ci sta, non cosa sa fare: nessuna classifica.

• Le fasce sono stime. Dal file, più il margine misurato (da 0,3 a 1,2 GB) e la memoria già occupata (da 1,3 a 1,8 GB), per i due più grandi vengono 21-22 GB: abbiamo scritto 24. Nessuna pagina ufficiale lo dice.
• Gli ID non coincidono. gemma4:12b, gemma4:26b e qwen3.8:27b sul PC delle prove non hanno l'ID scritto sulla pagina di oggi, ma il registro pubblico di Ollama, letto il 05/11/2026, dà proprio quello del PC. Quale file arrivi con ollama pull non è provato.
• Sotto i 6 GB, o senza scheda: non provato. C'è per esempio llama3.2:1b, 1.3GB secondo la pagina. Per le altre schede ci sono i requisiti della documentazione.
• Le licenze non sono tutte uguali. gemma3:12b, fuori tabella, ha i Gemma Terms of Use, gemma4 la Apache 2.0. Leggila e, se è per la tua attività e hai dubbi, chiedi a un professionista.

Passo 2 a mano: installa Ollama, prima prova, misura

I primi tre punti vengono dalla documentazione, verificata a novembre 2026, e non li abbiamo eseguiti.

1. Installa. Apri la pagina di Ollama per Windows e scegli «Download manually», che scarica OllamaSetup.exe. C'è anche il comando irm https://ollama.com/install.ps1 | iex, che scarica ed esegue uno script. Secondo la documentazione serve Windows 10 22H2 o più nuovo, con una NVIDIA il driver 551.61 o più nuovo, e non servono i permessi di amministratore.
2. Scarica un modello. Il nome è quello della colonna «Modello». Questa riga scarica davvero: un nome sbagliato può scaricare un altro file, e uno che finisce in :cloud non gira sul tuo PC (comandi, modelli cloud).

   ollama pull NOME_DEL_MODELLO

3. Parlaci, se vuoi. ollama run NOME_DEL_MODELLO. Anche run scarica, se il modello manca: si vede nel codice.
4. Prima prova coi numeri. Questa l'abbiamo provata, in Windows PowerShell 5.1, con llama3.2:latest al posto del nome. Parte dall'esempio della documentazione. Se il nome non c'è, Ollama risponde con un errore e non scarica niente.

   $r = (Invoke-WebRequest -UseBasicParsing -Method POST -Body '{"model":"NOME_DEL_MODELLO", "prompt":"Scrivi in due righe un avviso di chiusura per ferie del bar Da Rosa: chiuso dal 10 al 24 agosto 2026, riapre il 25 agosto alle 7.", "stream": false, "keep_alive": "2m"}' -Uri http://localhost:11434/api/generate).Content | ConvertFrom-Json
   $r | Format-List response, done_reason, prompt_eval_count, eval_count
   "Pezzi al secondo: {0:N0}" -f ($r.eval_count / ($r.eval_duration / 1e9))

response          : **Avviso di Chiusura per Ferie del Bar Da Rosa**
                    Il nostro bar Da Rosa sarà chiuso per ferie dal 10 agosto 2026 al 24 agosto 2026. Riapriremo il 25
                    agosto alle 7.
done_reason       : stop
prompt_eval_count : 71
eval_count        : 56
Pezzi al secondo: 183

• done_reason: perché si è fermato. length vuol dire che ha finito lo spazio. stop no, ma non vuol dire che sia bastato: lo vedi nel capitolo sul contesto.
• prompt_eval_count: quanti pezzi di parola, o token, ha letto. eval_count: quanti ne ha scritti, ragionamento interno compreso.
• Pezzi al secondo: eval_count diviso eval_duration, la durata in nanosecondi.

Subito dopo scrivi ollama ps. Col valore "keep_alive": "2m" il modello resta in memoria due minuti ed esce da solo: visto su llama3.2:latest. La riga vera di gemma4:12b:

NAME          ID              SIZE      PROCESSOR    CONTEXT    RUNNER      UNTIL
gemma4:12b    6114515d63c1    1.1 GB    100% GPU     4096       llamacpp    2 minutes from now

PROCESSOR dice se sta tutto nella scheda: 100% GPU sì, una divisione come 15%/85% CPU/GPU no (FAQ). CONTEXT dice quanto spazio ha.

Su gemma4, con la versione 0.40.13, la colonna SIZE inganna. gemma4:12b ha un file da 8,0 GB e SIZE scrive 1.1 GB, mentre nvidia-smi sale da 1835 a 10578 MiB. gemma4:26b scrive 1.6 GB e 20%/80% CPU/GPU, mentre la scheda sale di 9,8 GB e la memoria libera del PC scende di 8,9 GB: quel 20/80 non torna. Sui qwen e su llama3.2 SIZE è in linea. Il perché non lo sappiamo: non abbiamo cercato la causa. Quindi «Misurato» viene da nvidia-smi, e PROCESSOR lo leggiamo come un sì o un no.

Mac e Linux non sono provati: la documentazione ha la pagina per il Mac e quella per Linux.

Il contesto troppo piccolo: stesso PC, stesso modello, tre esiti

Il contesto è lo spazio che il modello ha davanti: quello che legge, quello che ragiona e quello che scrive. Sotto i 24 GiB di memoria della scheda, secondo la documentazione, Ollama ne dà 4k, e la FAQ scrive 4096. Il «contesto massimo» della tabella non è quello che hai. In inglese: «context length».

La prova: un mese di cassa finta del bar, 31 righe, cinque domande, la stessa della guida su quale IA usare. gemma4:12b, RTX 4070 SUPER da 12 GB, 05/11/2026, tre giri per riga. Risposta giusta: 2688 coperti.

• Vuota: il contesto è finito nel ragionamento. 946 letti più 3148 scritti fa 4094 su 4096, e la risposta non è mai cominciata.
• Sbagliata: il ragionamento è stato tolto. Non è colpa del contesto: l'ultima riga ne ha di più e resta sbagliata, con numeri diversi a ogni giro e senza un dubbio.
• Giusta: più contesto, col ragionamento.

Che sia il ragionamento a far venire giusto il conto è quello che si vede su questo modello e su questi dati: non è una legge.

Il caso peggiore arriva senza avviso. A gemma4:12b abbiamo dato il quaderno finto del bar, 17.574 caratteri, con un numero solo in cima (4417) e uno solo in fondo (2093), e la domanda in fondo. Contesto di norma: «non c'è» e 2093, done_reason: stop, nessun errore, prompt_eval_count 2051. Con 16384: 4417 e 2093, prompt_eval_count 6469. Stesso segno su qwen2.5:7b, 2050 contro 7260. Con la domanda in cima, senza ragionamento, sparisce la domanda: ha messo in tabella le righe che leggeva e non ha risposto (length).

Come lo riconosci.

• Risposta vuota o interrotta e done_reason: length: spazio finito. L'abbiamo visto sulle due, con gemma4:12b.
• Testo lungo e prompt_eval_count fermo intorno alla metà di CONTEXT, che sale appena dai più spazio. done_reason dice stop e la somma dei conteggi non aiuta: 2066 su 4096. La nostra soglia è meno di un pezzo ogni 6 caratteri: regola empirica su due modelli. La documentazione che abbiamo aperto il taglio non lo descrive.
• stop non vuol dire che lo spazio sia bastato. Con qwen2.5:7b e il contesto portato a 170, una prova sola, ha letto 149 pezzi, ne ha scritti 67, 216 su 170, e ha chiuso con stop. Quindi length non esce sempre.

Come lo cambi. Per una sola richiesta, aggiungi "options": {"num_ctx": 16384} nel comando del Passo 2: provato. Non provati: /set parameter num_ctx 16384 dentro ollama run (FAQ) e il cursore nelle impostazioni dell'app.

Quanta memoria costa non ha una cifra sola. gemma4:12b: 8743 MiB in più nella scheda a 4096, 9341 a 16384, 9475 a 65536, sempre 100% GPU. qwen2.5:14b: 9239 MiB a 4096, ma a 16384 esce dalla scheda, 15%/85% CPU/GPU: 27 al secondo su 20 pezzi, contro 50 su 200 a 4096, confronto non alla pari (documentazione: più contesto, più memoria).

Una risposta piena non vuol dire giusta. Questi numeri parlano dello spazio, non del conto: se torna lo vedi sui tuoi dati, con le soluzioni scritte prima.

Cosa abbiamo provato e cosa no

Le prove le ha fatte un agente della redazione, su un solo PC. Ciò che non è in questa tabella l'abbiamo solo letto.

L'assaggio del kit: come leggere i numeri

Ecco un file intero del kit, prove/come-leggere-i-numeri.txt.

Domande frequenti su come installare l'IA sul PC

Si può installare un'intelligenza artificiale sul PC?

Sì: con Ollama, il programma che la fa girare, e un modello che stia nella memoria della tua scheda video. L'abbiamo provato solo su Windows 11 con una scheda NVIDIA da 12 GB, con programma e modelli già presenti: l'installazione da zero non è provata. Le risposte vanno controllate.

Ollama è gratis?

Il programma ha licenza MIT e, secondo la pagina dei prezzi, far girare i modelli sul tuo computer non chiede abbonamento. I modelli cloud vogliono crediti o un piano a pagamento. Ogni modello ha una licenza sua. Verificato a novembre 2026.

Che scheda video serve per l'IA in locale?

Conta soprattutto la memoria della scheda. Su una RTX 4070 SUPER da 12 GB, misurati il 05/11/2026, gemma4:12b sta tutto nella scheda e gemma4:26b no. Per le altre abbiamo solo stime nostre. Non comprarne una prima di aver provato con quella che hai.

Si può installare ChatGPT sul PC e usarlo in locale?

Le pagine di OpenAI aperte a novembre 2026 non lo dicono: quella dell'app per desktop non parla di lavoro senza rete. Per macchine tue OpenAI presenta gpt-oss, modelli a pesi aperti che, secondo il suo centro assistenza, non sono in ChatGPT: gpt-oss:20b pesa 14 GB nella libreria di Ollama, non provato. Lì l'indirizzo «chatgpt» non esiste e la ricerca mostra modelli di altri con quel nome: non fidarti del nome.

Open source e pesi aperti sono la stessa cosa?

No. Secondo la definizione della Open Source Initiative servono anche il codice di addestramento e le informazioni sui dati. Con i modelli che scarichi hai di solito i pesi, cioè il modello già addestrato, sotto una licenza da leggere. Sui singoli modelli non diamo giudizi.

Meglio Ollama o LM Studio?

LM Studio non l'abbiamo provato, quindi nessun verdetto. Sulla sua pagina, verificata a novembre 2026, consiglia almeno 16 GB di memoria e 4 GB di memoria della scheda.

Da fare oggi: scrivi su un foglio i cinque lavori che ti hanno preso più tempo questa settimana e passali al primo prompt. Se ti blocchi, scrivi a Fabio.