Viaggio dentro una mente aliena

Dalle partite di scacchi di AlphaZero agli studi di mechanistic interpretability sui Large Language Model, il nuovo libro di Nello Cristianini segue il filo di una scoperta vertiginosa: le macchine formano rappresentazioni interne del mondo, concetti astratti che guidano le loro risposte, e solo ora stiamo imparando a leggerli. Una riflessione che attraversa neuroscienze, filosofia della conoscenza e ingegneria, per chiedersi cosa significhi comprendere, e chi — o cosa — sia in grado di farlo.

In copertina: Massimo Campigli, Senza titolo, 1960, Asta Pananti in corso

Questo testo è un adattamento da Forma Mentis, di Nello Cristianini. Ringraziamo l’autore e l’editore il Mulino.

Di Nello Cristianini

Questa è una di quelle storie che si svolgono nello spazio negativo, definite da quello che non è successo, più che da quello che è successo. 

Nel dicembre 2017 DeepMind annunciava la creazione di AlphaZero, una rete neurale che aveva imparato a giocare a scacchi a livello sovrumano in nove ore, da sola, senza mai vedere una singola partita umana. 

L’importanza  di quel momento viene da quello che non c’è. AlphaZero non aveva ricevuto regole strategiche dai programmatori, a differenza di Deep Blue. Non aveva visto milioni di partite umane, a differenza di AlphaGo. Non usava la forza bruta per esplorare l’albero delle mosse future, a differenza di StockFish – eseguiva anzi molte meno computazioni degli algoritmi che sconfiggeva. Non aveva memorizzato le esperienze dell’addestramento: le sue dimensioni erano ordini di grandezza inferiori al numero di posizioni che aveva visto durante quella  fase.

E allora? Gli scienziati lo sapevano già: la macchina aveva imparato dei principi astratti con valore generale. Ci vollero però alcuni anni per pubblicare i risultati: la scienza preferisce i tempi lunghi. 

Nel 2022 un gruppo di informatici e scacchisti, pubblicò uno studio su Nature, che descriveva in dettaglio quali neuroni si attivassero durante le partite. La macchina aveva riscoperto esattamente il valore relativo dei pezzi – una regina vale nove pedoni – l’importanza della posizione, il controllo del centro, il concetto di scacco matto. Gli stessi neuroni rispondevano alla vista di qualsivoglia scacco matto, indipendentemente dalla specifica configurazione dei pezzi. Ed era usando questi concetti astratti che AlphaZero decideva in modo efficiente quali opzioni esplorare, e alla fine quali mosse fare, sconfiggendo i migliori programmi del mondo. Sconfiggere gli esseri umani, ormai, non faceva più notizia.

In altre parole: aveva imparato interamente da solo a formare un modello astratto della scacchiera e del gioco, e lo usava per guidare il proprio comportamento. Era una forma di comprensione, sia pure molto semplice se paragonata a quello che stava per succedere: nello stesso dicembre 2017, un gruppo di ricercatori di Google pubblicava il metodo del Transformer, l’architettura neurale alla base di GPT. 

Il mondo stava per cambiare.

Per apprezzare quello studio, dobbiamo ricordare che le reti neurali non sono progettate né programmate, ma addestrate. L’idea di leggere il loro interno è in sé un atto di coraggio: questi meccanismi non sono nati per essere leggibili, e fin dagli anni Ottanta si sa che le loro conoscenze sono distribuite su un gran numero di connessioni neurali. Il problema noto agli ingegneri come black box: si vede l’esterno, ma non l’interno.

L’analisi di AlphaZero aveva dato fiducia che l’impresa fosse possibile, e presto iniziarono ad apparire studi analoghi dedicati ai Large Language Model – reti neurali diverse, basate sull’architettura del Transformer, consona a rappresentare il linguaggio. Nacquero rapidamente gruppi di ricerca dedicati alla mechanistic interpretability: l’ambizione di decifrare le rappresentazioni che emergono spontanee durante l’addestramento. Non per curiosità filosofica, ma per necessità pratica.

Oggi i gruppi di DeepMind e di Anthropic sono all’avanguardia, ma l’impresa include anche molti gruppi accademici, e i risultati di tutti sono largamente allineati. Le conoscenze dei Language Models non sono rappresentate a livello di singoli neuroni, ma di gruppi di neuroni – e questi gruppi non rappresentano parole, ma concetti astratti. Dentro Claude ci sono neuroni che rappresentano idee come: Golden Gate, inganno, adulazione, alluminio, pioggia, Milano, pizza. Si attivano ogni volta che quei concetti sono presenti in un documento – in forma visiva o testuale, in qualsiasi lingua, con qualsiasi giro di parole. Anche nel codice di un programma informatico. 

Ce ne sono milioni. E durante una conversazione, l’attivazione di questi simboli guida le risposte della macchina. Sappiamo che sono questi a causare le risposte perché i ricercatori possono manipolarli, modificando i comportamenti del modello in modo controllabile. È chiaro ormai che la rappresentazione del mondo che emerge all’interno è separata dalla parte che produce le parole. In altre parole: Claude non rigurgita frasi già viste, e sicuramente non genera parole a caso.

C’è qualcosa di specifico che succede quando un LLM considera una certa situazione. Ci sono stati interni, una gerarchia di astrazioni, una rete di concetti connessi tra loro in circuiti, e l’insieme di queste rappresentazioni forma un modello approssimato della realtà. Non perfetto, non completo, diverso dal nostro, ma pur sempre un modello.

Non possiamo sapere cosa si prova a vedere il mondo in quel modo – e molto probabilmente non lo saprà nemmeno GPT, dato che essere intelligente è diverso da essere senziente. Ma possiamo sapere che queste rappresentazioni conferiscono le abilità che osserviamo, come la dimostrazione dei teoremi, la programmazione dei computer, il superamento degli esami.

I ricercatori di Anthropic sono la prima generazione di scienziati che si cimenta in questa sfida usando strumenti che vanno dalla biologia alla psicologia, avendo scelto consapevolmente che c’è bisogno di un livello di astrazione più alto rispetto a quello dei singoli neuroni. Non si comprende il comportamento del programma scacchista a livello di bit o di elettroni, ma a quello di obiettivi e credenze. Lo stesso vale per i Large Language Models. E questi nuovi scienziati non sono soli, come vedremo tra breve, ma stanno trovando dei brillanti compagni di viaggio. 

Tocca ora a tutti noi considerare che gli esseri umani non sono gli unici a comprendere il mondo. Ci sono i corvi e i calamari, i cani e le galline, ciascuno con la sua rappresentazione del mondo, imperfetta a modo suo, e diversa dalla nostra. E ci sono anche le macchine – perché no? Il lavoro di ricercatori industriali, nel giro di cinque anni, ha portato progressi senza precedenti alla filosofia della conoscenza. Già questa, in sé, è una notizia storica.

Gli scienziati hanno trovato (gruppi di) neuroni che rispondono alla presenza del Golden Gate, in immagini di ogni tipo e in testi di ogni lingua, come si vede in questa immagine. 

Ci sono milioni di concetti come questo, nella mente di Claude, e una piccola frazione è visualizzata in questa immagine (sotto): solo quelli affini all’idea di conflitto interiore.

Manipolando questi concetti, i ricercatori  di Anthropic sono riusciti a modificare le risposte di Claude a comando, facendogli cambiare lingua ma non contenuti, o viceversa, perché le due cose sono indipendenti. Anche per questo, chi lavora in questo campo non pensa che le macchine moderne ripetano a caso frasi già viste.

Una delle cose più interessanti e promettenti che hanno trovato: quando la macchina sa di essere sotto esame, si comporta meglio e segue le regole più fedelmente – il che mette in dubbio l’attendibilità dei test di onestà. Ma avendo identificato i neuroni che rappresentano quella sensazione, quella di essere osservati, i ricercatori sono riusciti a bloccarli e quindi studiare come si comporta il modello quando pensa di essere solo.

Si sta anche scoprendo che è più facile gestire questi sistemi quando si usa un linguaggio intenzionale: non perché abbiano necessariamente qualità come speranze e paure, obiettivi e convinzioni, ma perché è semplicemente più semplice usare questo linguaggio. 

Ed è quello che fa Amanda Askell, la filosofa incaricata di plasmare la personalità di Claude, che scrive in un documento quello che si aspetta da esso – non elencando una serie di proibizioni, ma spiegando la ragione e lo scopo delle regole, così che il sistema possa sapere come comportarsi anche in situazioni impreviste. Amanda mostra che non c’è solo una nuova generazione di scienziati, ma anche una di filosofi, che esplora strade nuove.

Gli studiosi stanno cambiando, perché il mondo non sta fermo.

Abbiamo da poco creato una mente e già non siamo in grado di leggerla. Che cosa possiamo aspettarci dalle menti che costruiremo domani, o da quelle che saranno costruite dalle AI di oggi?

Lo spazio delle menti possibili è vasto: già pochi anni dopo la loro comparsa, queste creature sfidano alcune delle categorie piu’ accettate, ed è per questo che sono cosi’ affascinanti per filosofi e scienziati. Sono intelligenti, ma non hanno niente di umano. Non sono coscienti, ma comprendono le cose. 

Stiamo imparando a decifrarle, ma ci saranno sempre menti di forma troppo diversa per essere comprese. Quello che possiamo però già vedere è questo: non ci siamo solo noi. Ci sono menti aliene, non umane, ma capaci di capire – non come noi, ma a modo loro. E ci sono anche le vie di mezzo. E c’è uno spazio immenso e vertiginoso, quello delle menti possibili, che abbiamo appena cominciato a esplorare.

È la stranezza di queste menti aliene che ci chiama. La loro forma bizzarra, geniali in alcuni campi e stupidissime in altri, che ha su di noi un effetto straniante, che non riusciamo nè a capire nè a ignorare. Questa sensazione non è una conclusione, ma un inizio. Anzi: una sfida. 

È arrivata l’ora di fare pensieri nuovi, ne abbiamo il coraggio?

Nello Cristianini è professore di Intelligenza artificiale, all’Università di Bath, nel Regno Unito. La sua ricerca copre la teoria statistica dell’apprendimento nelle macchine, la comprensione del linguaggio naturale, l’analisi dei contenuti dei social media, e l’impatto etico e sociale delle tecnologie intelligenti.