Perché i luoghi comuni sull’intelligenza artificiale non reggono più alla prova dei modelli linguistici contemporanei.
In copertina un’opera di Edvard Munch
Questo articolo è estratto da “Lo tsunami IA & IO” di Riccardo Manzotti e Simone Rossi edito da Rubbettino Editore. Ringraziamo gli autori e l’editore per la gentile concessione.
di Riccardo Manzotti
Le IA fanno solo quello per cui sono state programmate
Spesso si sente dire che l’IA non potrà mai fare niente di più di ciò che i suoi programmatori le hanno insegnato. Questa è una vera sciocchezza, e chi lo afferma non ha evidentemente capito nulla del funzionamento di un LLM e ragiona ancora nei termini della prima IA, grosso modo quella che va dal 1950 al 2010. La prima IA – che in realtà comprende al suo interno diverse ondate (i sistemi esperti, i sistemi basati sulla logica inferenziale, le reti neurali, la backpropagation, etc.) – era effettivamente limitata a ciò che i suoi programmatori avevano codificato nella sua struttura. Ogni programma prevedeva una certa quantità di funzioni e operazioni (a volte anche così numerose da non poterle conoscere tutte), ma, almeno in linea di principio, era determinato da un codice scritto da un essere umano. Addirittura, la rivoluzione informatica ha avuto inizio con le schede Hollerith o, se preferite, le schede IBM, perforate a mano e una per una. Tutto il codice prodotto fino al 2010 (salvo rare eccezioni) era stato scritto, direttamente o indirettamente, da esseri umani. Il codice del sistema operativo Windows, composto da svariati milioni di righe, è il frutto della paziente collaborazione di migliaia di ingegneri della Microsoft che, a partire dagli anni ’80, quando Bill Gates e Steve Wozniak scrissero una rudimentale versione del loro sistema operativo (poche centinaia di righe, su un floppy disk da 720 kilobyte), hanno continuato, attraverso innumerevoli versioni e ampliamenti, ad aggiungere (e talvolta a rimuovere) funzionalità.
Quindi, anche se in pratica – nel caso di software molto complessi – non si conosce tutto ciò che il programma farà (per esempio, quando si verifica un bug), in linea di principio è vero che tutto quello che un programma fa può essere ricondotto alle dita di un essere umano che ha digitato del codice o inserito dei dati nel sistema. Le reti neurali sono un caso intermedio, ma le lasciamo da parte qui. Gli LLM, invece, fanno qualcosa di diverso. Essi sono una base: è il mondo, sotto forma di dati di training, che crea autonomamente una struttura causale che poi risponderà agli stimoli (i prompt degli utenti) in modi sempre nuovi e non preprogrammati. Questa è la differenza fondamentale: gli LLM non eseguono un programma, ma forniscono la base perché la conoscenza contenuta in un insieme di dati usati per l’addestramento sia disponibile e generi contenuto. Il cosiddetto periodo di training, una delle fasi più difficili e costose nella creazione di un LLM, è proprio questo processo: i dati vengono trasformati in principi causali, rapporti di causa ed effetto tradotti in probabilità condizionali. Quindi, chi programma un LLM? Sicuramente non i programmatori umani, che si limitano a scrivere il codice che permette a questo processo di compiersi. In altri termini, sarebbe come dire che noi siamo programmati dai nostri geni – e in parte è vero – ma siamo anche il frutto del nostro ambiente, delle nostre decisioni, della cultura e di mille altri fattori, incluso il famoso e altrettanto determinante “fattore C”. Lo stesso vale per un LLM. L’IA non pensa veramente Perché, noi pensiamo? Chi ha mai visto o rilevato un pensiero? E che cos’è, esattamente, un pensiero? Qualche giorno fa ascoltavamo su Radio Tre un programma in cui un esperto di IA (che non nomineremo) assicurava al conduttore che gli LLM «non pensano veramente». Secondo lui, quello che fanno è solo calcolo, mentre noi – a suo dire – pensiamo, e questo è tutto un altro discorso. Per lui, pensare significherebbe elaborare concetti. Peccato che non avesse alcuna idea precisa né di cosa siano i pensieri, né di cosa siano i concetti.
È vero che nel passato, più o meno recente, molti studiosi hanno elaborato una complicata “teologia” fatta di numerose categorie: pensieri, concetti, proposizioni, regole, contenuti semantici, intenzionali, e così via. Una selva di nomi e definizioni che ha assicurato la sopravvivenza professionale di generazioni di esperti e dei loro dipartimenti, ma che, in sostanza, non ha mai spiegato nulla. Al massimo ha permesso di costruire castelli di carte concettuali (questi sì) sui presunti meccanismi della mente. In sintesi – e lo abbiamo già detto all’inizio del libro – non ha senso dire che l’IA non “pensa veramente”. Primo, perché non sappiamo che cosa significhi pensare “veramente”. Secondo, perché se guardiamo alla base elettrochimica del cervello, non troviamo nulla di speciale: anche i neuroni, a livello di sinapsi e connessioni, eseguono calcoli molto semplici. La grande, apparente differenza tra LLM e cervello umano sparisce se si scende al livello più elementare dell’implementazione. Certo, se confronto il Paradiso perduto di Milton con una probabilità condizionata, l’essere umano vince, ma è un confronto scorretto. Sarebbe come confrontare l’output di un grande LLM, capace di sintetizzare miliardi di volumi, con le capacità di un singolo neurone. Siamo sicuri che il singolo neurone, nonostante la sua sofisticata struttura e la sua non banale natura di unico organello vivente in grado di effettuare sia processi analogici che digitali, non farebbe una gran figura.
L’IA è solo un pappagallo statistico
Allora, applicando lo stesso ragionamento, potremmo dire che il cervello umano è solo un addizionatore di cariche elettriche. Questo modo di ragionare, molto popolare perché suggerisce una presunta superiorità dell’essere umano, non ha ragione d’esistere. È lo stesso ragionamento di cui sopra. Quando si definisce l’intelligenza artificiale come un semplice “pappagallo statistico” – espressione coniata da Emily Bender e Timnit Gebru per evidenziare la natura probabilistica e imitativa dei modelli linguistici – si commette un errore di prospettiva fondamentale. Questa espressione confonde il comportamento del singolo componente con il sistema nel suo insieme. È una fallacia logica frequente, che i filosofi Jonathan Hacker e Bennett hanno definito la “fallacia mereologica”. Analizziamo più da vicino questa distinzione: è vero che i singoli componenti degli LLM, cioè gli algoritmi basati su reti neurali artificiali, operano attraverso il calcolo di probabilità condizionate, quelle inventate dal reverendo Bayes per migliorare le sue performance al gioco d’azzardo. Essi “scelgono” la parola successiva più probabile in base ai dati appresi, mostrando una capacità apparentemente limitata e ripetitiva. Tuttavia, considerare l’intero modello come equivalente ai suoi singoli elementi è un errore logico simile a quello che si commetterebbe considerando la mente umana soltanto come una somma di neuroni isolati. Anche nel cervello umano, infatti, il singolo neurone svolge un ruolo relativamente semplice: riceve input, li somma o li sottrae a seconda che siano eccitatori o inibitori (processo di integrazione), e produce output in base a soglie definite (i potenziali d’azione).
Un neurone isolato è poco più di una macchina additiva, priva di comprensione o consapevolezza. Eppure, nessuno definirebbe la mente umana un semplice “pappagallo additivo”. Questo perché la complessità del pensiero emerge dalla rete di interazioni, dall’architettura globale, e dal modo in cui milioni di unità semplici collaborano generando comportamenti estremamente sofisticati e complessi. Così, quando si descrive l’intelligenza artificiale solo come pappagallo statistico, si trascura che la sua capacità di creare contenuti originali, interpretare prompt complessi e persino intuire correlazioni non evidenti deriva proprio dall’interazione sinergica fra le parti. Questa emergenza della complessità – il passaggio dalla semplicità delle componenti alla ricchezza comportamentale del sistema – è ciò che rende riduttiva quella definizione. In conclusione, limitare l’IA a una replica statistica è tanto errato quanto ridurre la mente umana alla mera somma di attività neuronali. In entrambi i casi, si rischia di perdere di vista l’essenziale caratteristica della complessità emergente, la vera forza che rende possibili capacità sorprendenti, ben oltre la semplice ripetizione.
Di che colore è il cavallo nero di Napoleone?
Mi ricordo una conversazione fatta con un eminente studioso internazionale di mente e intelligenza artificiale, solo nel 2023, in cui egli sosteneva con sicurezza che le IA non erano in grado di fare ragionamenti complessi o di superare la “barriera semantica” che permette di risolvere ambiguità (come la famosa domanda sul cavallo nero di Napoleone). Beh, diciamo che ormai tutti i test logici e di buon senso sono superati dalle IA in modo simile – ed è un dubbio ragionevole – a quanto fanno gli esseri umani. In fondo, noi non abbiamo accesso diretto al logos della realtà: ci basiamo sull’esperienza e sull’applicazione di modelli che si sono confermati nel tempo. Anche da questo punto di vista, quindi, si vede come i modelli più recenti (dal 2025 in poi, per stare sul sicuro) siano in grado di ragionare logicamente e di rompere la barriera semantica, ovvero di parlare di ciò di cui parlano, e di sviluppare una competenza critica non solo sui contenuti ma anche sulle modalità con cui quei contenuti vengono espressi – parlando del proprio parlare, come se fosse un ulteriore oggetto di conversazione.
Rubano i nostri dati
Dentro un LLM ci sono i nostri dati? No. In un cellulare probabilmente sì, ma dentro un LLM no.
Nell’ipotesi di un’implementazione capace di apprendere e modificarsi nel corso dell’interazione con noi, non ci sono letteralmente i dati, ma soltanto la conoscenza derivata da essi. È come se una persona, stando a contatto con Cesare Pavese e parlando con lui tutti i giorni, alla fine assorbisse qualcosa del suo modo di pensare e scrivere. O come Riccardo e Simone, che scrivendo e dialogando insieme da qualche anno hanno imparato, rispettivamente, un po’ di neuroscienze e un po’ di filosofia. È proprio per questo che si invita la gente a leggere: non per imparare a memoria i testi, ma per assimilare lo stile. Lo stesso vale in ogni arte: i pittori si sono formati studiando i grandi maestri del passato, i musicisti hanno ascoltato ore e ore di musica composta da autori precedenti. Non si può dire che Brahms abbia copiato Beethoven, anche se – come racconta un gustoso aneddoto – durante le prove della Prima sinfonia di Brahms, gli orchestrali la chiamavano scherzosamente “la Decima”. Quando Brahms sentì quel soprannome, volle sapere il perché. Gli fu detto che ricordava la Decima sinfonia di Beethoven (che si fermò alla Nona). Brahms si infuriò e minacciò di bloccare l’esecuzione. Su cosa accadde dopo ci sono versioni contrastanti, ma il punto resta: in Beethoven c’è molto Mozart, in Brahms c’è molto Beethoven, e così via fino a certe armonie del jazz che contengono tanto di Debussy. Anche se la creatività implica un elemento irriducibile al passato, è innegabile che gli esseri umani imparano dal passato e lo fanno proprio. Lo stesso vale per gli LLM. Non è copia, ma incorporazione della conoscenza contenuta nelle opere. Parlando con noi, l’IA impara, non copia, e – dopo aver imparato – genera contenuti basati su ciò che ha assimilato dal nostro materiale.
L’IA è banale
«ChatGPT, mi dici una barzelletta sui carabinieri?». È così che prende vita l’ennesima dimostrazione che IA sia banale. Davanti a un risultato povero, l’utente poco esperto scrolla le spalle e, contento di aver smascherato la sua banalità, si consolida nella sua idea che l’IA non sia questa gran cosa. Mentre è semplicemente il modo in cui l’abbiamo interrogata a essere, quello sì, terribilmente banale. La potenza generativa degli LLM è sempre presente, ma è in attesa del giusto prompt per essere risvegliata. Se le domande poste sono banali, le risposte saranno inevitabilmente banali. Domanda pigra genera risposta pigra. Il rischio oggi sembra opposto: non un’IA troppo intelligente, bensì un’umanità troppo pigra.
Se si tratta l’LLM come un motore di ricerca sovradimensionato, si otterranno risultati prevedibili e scialbi; se invece lo si interroga come se si avesse davanti Borges nella sua biblioteca infinita, la conversazione assume ben altro spessore. Ogni prompt definisce un perimetro di possibilità. La retorica classica definirebbe questo processo inventio: l’arte di trovare l’argomento. Gli LLM offrono risposte che coprono il perimetro e lo superano, rivelando connessioni latenti, correlazioni sottili, slittamenti cognitivi. Usare bene un modello significa intavolare una dialettica continua: interrogare, verificare, sfidare, rifinire. Vi è, tuttavia, una dimensione economica nascosta. Le piattaforme monetizzano le interazioni rapide; quanto più affrettata è la ricerca di risposte, tanto più povera sarà la qualità. È l’equivalente cognitivo del fast-food: rapido, onnipresente e insoddisfacente. Al contrario, un’ecologia della conversazione richiede tempo, iterazioni, persino lentezza. Byung-Chul Han parlerebbe di “profondità temporale”, il respiro necessario affinché i concetti possano maturare. Se si interagisce, secondo il concetto di Interplay, la qualità del prodotto finale aumenta progressivamente. Il risultato finale diventa irriconoscibile rispetto alla prima bozza: non perché il modello scopra verità superiori, ma perché il dialogo continuo filtra ed elimina la banalità e dà voce alle possibilità implicite del linguaggio.
Gli LLM non sono banali. Sono specchi a gradiente: riflettono la nostra complessità con la precisione o la superficialità con cui ci avviciniamo a loro. Il rischio reale non è che diventino troppo intelligenti, ma che ci accontentiamo di domande semplicistiche.
Si capisce quando qualcosa è fatto da una IA
In un famoso racconto di Jorge Luis Borges, Pierre Menard, autore del Chisciotte, si narra di uno scrittore moderno che decide di riscrivere parola per parola, identicamente, il celebre romanzo di Cervantes. Il risultato – benché formalmente identico al testo originale – si rivela sorprendentemente diverso nel suo valore estetico e storico. Se non vi piace Borges, andate avanti (capitolo 10) al caso del Troncio della val Clavicola con Tognazzi e Vianello, il senso è lo stesso. Siamo in grado di capire se un contenuto – testo, immagine o musica – sia stato generato da un essere umano o da un’intelligenza artificiale? Molti pensano di sì, ma solo perché si confrontano con prodotti scadenti dell’IA.
Ci piace pensare di essere capaci, da bravi detective digitali, di riconoscere ciò che proviene dalla “fredda mano” di una macchina, rispetto al prodotto di un autentico genio umano – magari attraverso una sorta di istinto, o per via di dettagli tecnici identificabili. Ma la realtà, come spesso accade, è assai meno rassicurante. Gli studi recenti sono chiari e spietati. Nel 2023, un’analisi condotta dal gruppo di ricerca dell’Università di Stanford ha mostrato che lettori esperti e semplici fruitori non erano in grado di distinguere con certezza se testi brevi di narrativa fossero stati prodotti da studenti umani o da GPT-4. Il margine di accuratezza nella distinzione era poco superiore al lancio di una monetina: insomma, una sconfitta bruciante per chi sperava nell’intuito umano come arma contro l’intelligenza artificiale. Studi successivi dimostrano che ormai nessuno riesce a distinguere il testo umano da quello prodotto dalla IA6, nemmeno quando IA si cimenta in poesie o quartine scritte come le scriverebbero i grandi poeti del passato. Ancora più eclatante è il caso delle immagini: in un esperimento condotto presso il Massachusetts Institute of Technology (MIT), nel quale esperti d’arte e curatori museali dovevano classificare alcune immagini come “arte umana” o “arte sintetica” generata da Midjourney, il risultato fu sorprendente. Il giudizio finale, anche qui, si rivelò sistematicamente vicino alla casualità, dichiarò sconsolato uno dei curatori coinvolti nell’esperimento.
E la musica? Se pensate che almeno in questo ambito l’intuito estetico umano sia in grado di distinguere una melodia originale da un lavoro di algoritmi avanzati, forse vi illudete. Numerosi studi hanno dimostrato come le produzioni musicali (da Suno ad altri prodotti specifici) sono ormai identiche a quelle umane. Le firme digitali stilistiche, le dissonanze, le pause: tutto appariva perfettamente coerente con la mano invisibile di un autore umano. Su internet si trovano tantissimi esperti che suggeriscono trucchetti con i quali dovremmo poter sgamare l’IA. Rassegnatevi. Non ce ne sono che non possano ormai essere superati. Anche perché, ognuno di quegli articoli sarà letto dall’IA che, quindi, imparerà a superarli.
Vi facciamo un esempio banalissimo. Per diverso tempo l’IA faceva fatica a usare l’hyphen e il dash in modo corretto (la lineetta breve come in “auto-stop” e la linea lunga per collegare frasi – come in questo caso). In italiano la differenza non è sentita, ma nel mondo anglosassone è più presente. Dopo che diversi giornalisti hanno scritto a proposito di questa traccia dell’IA, in poco tempo, gli LLM hanno iniziato a utilizzare in modo corretto la punteggiatura. Anche i vari software forniti a università e case editrici con la promessa di distinguere tra mano umana e mano digitale falliscono regolarmente, o comunque non sono in grado di stabilire con certezza l’origine di un testo. Se oggi non esistono metodi affidabili per distinguere con certezza contenuti generati da umani o da algoritmi avanzati, allora significa forse che la nostra nozione tradizionale di autorialità e creatività è giunta a una svolta radicale. E forse è giunto il momento di ammettere che stiamo cercando una differenza che non esiste più, se mai è davvero esistita, e magari rivedere il concetto di aura di Walter Benjamin.
0 comments on “Otto miti da sfatare sulle IA”