Modelli di inferenza
Come funziona una IA
Le moderne IA, nello specifico gli LLM, sono tecnologie basate su un modello matematico (la rete neurale) progettato per comprendere e generare testo.
La rete neurale impara tramite addestramento auto supervisionato. Questo consiste nell’alimentare la rete tramite miliardi di token (porzioni di parola) che compongono la conoscenza digitale, come testo, codice informatico, libri, ecc. Questa operazione di addestramento viene ripetuta miliardi di volte, in modo tale che la rete apprende conoscenze, strutture logiche e linguistiche, che collega tra loro in una rappresentazione unitaria. L’allenamento prevede una fase di affinamento per migliorare l’affidabilità, ridurre pregiudizi o allucinazioni e gestire sequenze di ragionamento complesse: si tratta dell’RLHF (Reinforcement Learning from Human Feedback, apprendimento per rinforzo), in cui il modello riceve ricompense o penalizzazioni in base alla qualità percepita delle risposte, affinando così il suo comportamento.
È importante capire che l’IA non apprende semplicemente conoscenza dai dati di addestramento, ma anche concetti più astratti e generali, e stabilisce relazioni tra concetti non direttamente collegati. Il modello cerca di costruire un contesto intorno a un prompt, mettendo insieme contenuti differenti ed eliminando i dettagli inutili, per costruire una rappresentazione unitaria del contesto.
Una volta addestrato, in fase di utilizzo un LLM riceve un input, detto “prompt”. Non risponde nel senso di recuperare una risposta memorizzata in base a un insieme di regole, ma genera un testo token per token. Ad ogni passo il modello calcola in tempo reale una distribuzione di probabilità su tutti i token possibili del suo vocabolario, e ne seleziona uno in base a tale distribuzione. Il processo stocastico si ripete creando una traiettoria di generazione in cui il modello ricalcola ogni nuova parola in base alle parole già generate, aggiornando ogni volta la distribuzione di probabilità.
Si tratta di un sistema che imita la forma del linguaggio umano. Ad esempio sappiamo che dopo “il cielo è” la parola più probabile è “blu”, non perché il modello sappia che cosa sia un colore, né che cosa sia il blu, ma perché nell’enorme mole di dati quella parola è la più frequente. È però dipendente dal contesto: se la frase di partenza è “di sera il cielo è”, allora cambia la probabilità e la parola più frequente diventa “rosso”.
La forza del modello è nella quantità di dati e concetti che riesce a rappresentare, e quindi nella sua capacità di affinare la precisione della funzione di probabilità al punto tale che, superata una certa soglia di apprendimento, il modello tende a far emergere delle capacità che al di sotto non aveva, e permette al processo stocastico di generare traiettorie più coerenti dal punto di vista logico.
Viene chiamata “intelligenza artificiale” perché il sistema è in grado di costruire una rappresentazione interna generalizzata della conoscenza. Il salto di qualità avviene quando la rappresentazione interna diventa abbastanza ricca da catturare le strutture sottostanti, non solo i fatti. Si può quindi parlare di una vera e propria simulazione del ragionamento, perché il sistema è in grado di dare coerenza e logica d’insieme all’intero contenuto che sta restituendo.
La capacità di un modello dipende dal numero di parametri (rappresentazioni numeriche della sua conoscenza) che riesce a memorizzare. Per questa ragione, ad oggi (2026), l’addestramento di nuovi modelli “di frontiera” punta ad assimilare ogni conoscenza possibile, non solo con tutta la conoscenza digitale del mondo disponibile in modo pubblico (tutto il web, tutti i libri disponibili, codice, dati multimediali, dati specializzati di dominio) ma anche conoscenza sintetica prodotta dai modelli della generazione precedente.
Quanto detto sopra si applica anche al coding: il codice informatico è, in fondo, “testo” che segue regole sintattiche formali. In fase di addestramento il modello viene addestrato con codice pubblico, che per sua natura è meno dipendente dal contesto e ha una struttura con meno ambiguità. Inoltre, in fase di affinamento finale, il modello può essere più facilmente validato tramite strumenti formali più rigorosi rispetto al testo in linguaggio naturale. Per questa ragione gli LLM sono molto utilizzati per produrre codice e applicazioni complesse, accelerando notevolmente lo sviluppo pur richiedendo revisione umana.
Coerenza, correttezza, plausibilità
È importante ricordare che un LLM è un motore statistico di inferenza: il suo obiettivo è produrre risposte che sono coerenti con la sua conoscenza. Questo non garantisce che le risposte siano corrette dal punto di vista logico o corrispondano ad evidenze fattuali, qualsiasi sia il contesto e la qualità del prompt che gli viene sottoposto.
E questo è il punto cruciale. Quando parliamo di un algoritmo o di un sistema informatico, usiamo spesso le parole corretto e coerente come se fossero sinonimi. Non lo sono, e confonderle è una delle fonti più frequenti di errori, sia nello sviluppo software, sia nel modo in cui valutiamo i sistemi di intelligenza artificiale.
Coerenza logica (validità) riguarda la forma del ragionamento, ovvero una conclusione segue validamente dalle premesse. Un ragionamento può essere perfettamente valido anche se parte da premesse false: la validità riguarda il legame tra le affermazioni, non la loro verità nel mondo.
Correttezza, invece, è un requisito più forte: un sistema è corretto se fa esattamente ciò che specifica la sua definizione, per tutti gli input possibili — non solo per quelli comuni. L’esempio classico è una rete addestrata a restituire 1 quando A ≥ B: se impara la regola sbagliata (A > B), darà lo stesso risultato nel 99,99% dei casi eppure non sarà corretta, perché fallisce quando A = B. Ha un’alta accuratezza media, ma non garantisce la correttezza esatta.
Questa distinzione è cruciale anche per l’IA moderna. I modelli linguistici vengono addestrati tramite apprendimento statistico (minimizzare l’errore su un insieme di dati) e poi ottimizzati con apprendimento per rinforzo (RLHF) per favorire comportamenti desiderabili. Tutto questo può produrre risposte coerenti — formalmente valide e/o conformi a criteri e preferenze umane — senza che ciò implichi correttezza nel senso forte: né che la regola interna sia quella giusta per ogni caso, né che le premesse su cui si basa siano vere.
In sintesi: la coerenza assicura che il ragionamento sia ben costruito; la correttezza richiede che risponda esattamente a ciò che doveva fare, in tutti i casi. Verificare la prima è spesso automatizzabile; garantire la seconda richiede definizioni precise e controlli che coprano anche i casi rari — proprio quelli in cui un sistema “quasi giusto” si rivela sbagliato.
La plausibilità è un terzo concetto, distinto sia dalla coerenza sia dalla correttezza, e spesso il più ingannevole. Mentre la coerenza riguarda la forma (il ragionamento è ben costruito?) e la correttezza riguarda l’esattezza (fa ciò che doveva, in tutti i casi?), la plausibilità riguarda l’impressione che un’informazione sia ragionevole, credibile o “in linea con le aspettative”. È una proprietà psicologica, non logico-formale.
Una affermazione può essere plausibile senza essere coerente, e coerente senza essere corretta.
Un’affermazione plausibile suona ragionevole, è compatibile con ciò che già sappiamo, e “sembra vera” a chi la legge. Ma la plausibilità dipende dal contesto, dalle conoscenze del lettore e da bias cognitivi: è soggettiva e fragile. Nel contesto dei sistemi di IA, la plausibilità è la trappola più pericolosa: i modelli linguistici sono ottimizzati per produrre testi autorevoli e credibili. Oggi l’IA ci fornisce tutta l’infrastruttura formale della competenza (matematica, grafici, bibliografie, risposte alle obiezioni) per “farcire” idee che potrebbero essere sbagliate.
In conclusione, i modelli generano testi (o codici) plausibili basandosi su probabilità, ma non possiedono un criterio interno per distinguere il vero dal falso. Possono sbagliare con grande sicurezza e costruire spiegazioni perfette per conclusioni errate. Per compensare questo “buco”, occorre aggiungere sistemi esterni di verifica (database, compilatori, verificatori formali): il modello propone, qualcos’altro controlla.
L’epistemia
La plausibilità inganna proprio perché aggira il nostro giudizio: ci fa accettare una risposta senza verificarne la coerenza né la correttezza; rimuove gli attriti cognitivi che normalmente ci segnalano quando non abbiamo capito qualcosa. Per definire questo concetto è stata recentemente introdotta da alcuni ricercatori italiani 1 la parola “epistemia”, ovvero quella particolare condizione per cui il destinatario del testo prodotto dalla IA tende ad evitare il momento della verifica delle informazioni ricevute, come se il programma stesso le avesse date sapendo cosa significano.
Con l’epistemia l’utente usa l’IA come oracolo, perché la verifica della correttezza della risposta diventa irrilevante: ciò che conta è la delega del pensiero (“faccio meno fatica”) e si poggia su quattro elementi fondamentali:
- Consultare un’IA richiede uno sforzo minimo rispetto alla ricerca tradizionale (leggere fonti diverse, confrontarle, valutarne l’affidabilità). Questa comodità spinge a delegare alla macchina non solo il recupero dei dati, ma anche la sintesi e il giudizio. Si crea così un’illusione di competenza: pensiamo di padroneggiare un argomento solo perché abbiamo ottenuto una risposta rapida e ben strutturata.
- A differenza dei motori di ricerca tradizionali, un assistente IA dialoga con l’utente e tende a adattarsi al tono, al linguaggio e alle premesse della domanda. Se un utente pone una domanda tendenziosa o basata su un pregiudizio, l’IA rischia di assecondarlo o di costruire argomentazioni plausibili a supporto della sua tesi, trasformando l’interazione in una camera dell’eco individuale.
- I modelli linguistici sono progettati per generare testi grammaticalmente impeccabili, coerenti e persuasivi. Tuttavia funzionano su base probabilistica (prevedendo la parola successiva più plausibile), non su una verifica fattuale. Quando un’IA produce un’allucinazione (un dato inventato), lo fa con lo stesso tono sicuro e autorevole di una verità scientifica. L’utente, colpito dalla qualità della forma, abbassa le difese critiche e accetta il contenuto come vero.
- Con l’aumento esponenziale di contenuti generati dall’IA sul web, il confine tra conoscenza verificata dall’uomo e testo sintetico diventa sfumato. Quando i modelli futuri vengono addestrati su dati a loro volta generati da altre IA (un fenomeno noto come model collapse), la plausibilità statistica rischia di sostituire definitivamente il legame con la realtà empirica.
In altri termini: l’epistemia è l’illusione di possedere conoscenza autentica perché l’IA fornisce risposte ben articolate, autorevoli e convincenti. Il termine viene usato per descrivere la crisi di fiducia nella produzione della conoscenza: quando diventa facilissimo generare contenuti che sembrano sapere, ma rimane difficile verificarne la correttezza.
Ma si parla di epistemia anche quando il testo generato è corretto: il problema infatti non è il sapere in sé prodotto dalla macchina, ma il fatto che l’utente accoglie la risposta passivamente, non riesce a spiegarne la logica interna e le premesse, ed attribuisce in qualche modo alla macchina un’intenzionalità, una comprensione o un’esperienza che in realtà non possiede. In altri termini scambia la ricezione di un output, anche corretto, con la costruzione attiva di conoscenza. L’epistemia è dunque la percezione, da parte dell’utente, dell’illusione di sapere “perché lo ha detto l’IA”. L’utente impara a fidarsi sempre più acriticamente dello strumento, creando un vizio di delega che poi emergerà nei casi in cui la macchina sbaglierà.
Pensiero creativo e IA generativa
Recentemente i social hanno dato molta evidenza alla storia di un utente che è riuscito a riprodurre software commerciali come Photoshop usando una IA commerciale, con un prodotto noto come ArtCraft2. Questo progetto ha avuto un’enorme eco social, e non ha fatto altro che rafforzare la percezione di “oracolo” delle IA, al punto da far sostenere che ormai siamo alla fine dell'”era del coding umano”.
Ma come è stato costruito questo prodotto? L’IA non ha avuto accesso al codice sorgente di Adobe, ma a una copia funzionante; ne ha ricostruito il comportamento in base all’interazione (una tecnica nota come reverse engineering comportamentale). Ha poi utilizzato codice noto open source — a cui le IA hanno pieno accesso — formato da miliardi di righe funzionanti: l’IA non reinventa la fotografia computazionale, ma è già stata addestrata su di esso, con librerie open source. La capacità di ArtCraft di salvare e caricare gli stessi formati non implica quindi che possa ottenere gli stessi risultati di Photoshop. Gli algoritmi di elaborazione delle immagini di Photoshop sono basati su modelli matematici che sono frutto di decenni di ricerca umana in analisi digitale della fotografia, scienza del colore e della luce: la creatività non risiede solo nell’algoritmo, ma nei parametri numerici e nella loro formulazione.
In altri termini, un LLM può generare il codice che genera un JPEG (il cui algoritmo e lo stesso codice sono open source), ma non può creare un nuovo formato che comprime meglio sfruttando proprietà diverse della percezione visiva. Non può estrarre il principio generale che sta dietro la compressione JPEG per applicarlo a un nuovo formato.
L’IA non ha un vero e proprio processo creativo, ma combina concetti esistenti per risolvere problemi specifici. Non è quindi in grado di partire da zero: usa la generazione compositiva, cioè ricombina le sue conoscenze per adattarsi al problema che deve risolvere. Se si ponesse un problema nuovo, non risolto da una soluzione precedentemente memorizzata nel modello, la soluzione che cercherebbe di trovare sarebbe in qualche modo collegata a ciò che già sa.
Ma non è in grado di generalizzarlo per risolvere una nuova classe di problemi, perché appunto è un motore di inferenza statistica che si basa su ciò che conosce. In altri termini, la stessa capacità che costituisce la principale forza dell’IA — risolvere un problema in uno specifico contesto, adattandolo cioè al nostro prompt — ne costituisce anche il principale limite: l’incapacità di generalizzare a qualcosa di completamente diverso.
Questo caso è un esempio perfetto di epistemia applicata allo sviluppo software:
- l’utente guarda ArtCraft e vede un’app che fa quello che fa Photoshop;
- non sa che l’IA ha ricombinato codice open source per replicare la sua osservazione di Photoshop, né che l’IA non ha compreso e riprogettato i fondamenti matematici della progettazione di immagini;
- il risultato è un prodotto che ha la forma della competenza (un editor di immagini funzionante) ma non ne possiede la sostanza (la capacità di risolvere nuove classi di problemi mai visti nel suo addestramento).
In definitiva, l’IA accelera la produzione di software ma non sostituisce il pensiero progettuale: chi la usa come oracolo rischia di ottenere prodotti che funzionano in superficie ma non si reggono su nuovi problemi. La competenza, nello sviluppo come in ogni altro campo, non è saper scrivere il prompt: è saper dire quando una risposta è plausibile ma sbagliata.
