Il progetto Q*: da allucinazioni a epifanie?

La tecnologia dietro al progetto più chimerico del momento è un cambio di paradigma rispetto ai transformer di GPT, e potrebbe cambiare le regole del gioco. Una breve guida per non sostituire alle storture del lungotermismo quelle del corto.

in copertina: Andrea Meregalli, non cercare l’utile, Midjourney (2023)

di Filippo Lubrano

Sì, è probabile che dietro l’imbarazzante teatrino messo in scena dai vertici di OpenAI, che ha screditato quella che è una delle aziende più visibili al mondo, ci sia davvero questo misterioso “progetto Q*”. Ne ha parlato per prima Reuters, poi si sono accodati in molti, ma la coltre di nebbia intorno al progetto stesso non si è dissipata. Anzi.

Cosa sappiamo di Q*, allora? Al momento, solo una fitta tela di supposizioni, che hanno un’unica tesi comune: sembra che Q* sia bravino a fare delle operazioni matematiche. Quanto complesse, non è dato saperlo – secondo alcuni sono “operazioni elementari”, ma non c’è conferma al riguardo – ma in fondo tanto basta per capire che, se sa davvero farle, e non solo stimare come soluzione il numero statisticamente più probabile, questo oggetto è ben diverso da quello che abbiamo visto finora nella più recente ondata di IA generative di cui hanno iniziato a occuparsi i giornali.

Il problema è sempre il peccato originale dell’IA, ovvero il suo stesso nome. Davanti ad algoritmi così complessi la divulgazione necessita di concetti-ombrello molto ampi, ma nell’aprirsi, questi ombrelli prestano il fianco a una certa ambiguità, rischiando di mettere insieme modelli che sarebbe più opportuno – ma meno giornalisticamente efficace, evidentemente – chiamare con nomi distinti.

Partiamo da una premessa, che in uno scenario post-distopia potremmo dare per scontata, ma scontata non è: l’umanità non è, per il momento, a rischio. Tra tutti gli interventi a commento della querelle Q*, lo spunto più rilevante è arrivato da Yann Lecun, uno dei mostri sacri del campo, vincitore del Premio Turing insieme a Yoshua Bengio e Geoffrey Hinton, e tra i pochi a essere stati esposti sia alla cultura Google che a quella Meta, avendo assunto ruoli apicali in entrambe.

L’ingegnere francese ha spiegato in un suo recente tweet come il progetto Q* sia il tentativo di OpenAI di spostare la tecnologia del colosso dall’auto–regressive token, finora maggioritario nel mondo dell’IA generativa, al planning. Lecun sostiene che l’assunzione di Noam Brown, che viene dal mondo del self-play e del ragionamento in ambienti giochificati, da parte di Sam Altman andasse proprio in quella direzione.

Ora: OpenAI è la prima a lavorare sulla tecnologia del planning? Evidentemente no. FAIR e DeepMind da tempo stanno investendo su di essa. È probabile però che OpenAI abbia un qualche vantaggio competitivo che abbia fatto scattare un meccanismo di allerta nell’ormai ex board dell’azienda.

Sia l’auto-regressive token che il planning sono parte delle reti neurali e degli LLM, ma l’AI Planning esplora il processo di utilizzo di tecniche autonome per risolvere problemi di pianificazione e programmazione. Un problema di planning è quello in cui abbiamo uno stato iniziale, che desideriamo trasformare in uno stato obiettivo attraverso l’applicazione di una serie di azioni. Le tecniche applicate per risolvere un problema però non devono per forza sapere qualcosa del problema che stanno risolvendo. In altre parole, le tecniche che applichiamo per risolvere, ad esempio, un problema logistico, potremmo applicarle anche a un problema produttivo. È qui che risiede la differenza più importante e sostanziale: perché, a differenza di altri campi dell’intelligenza artificiale, come il machine learning, non dipendiamo dall’esistenza di informazioni preesistenti sul problema o da un esempio di percorso verso una soluzione. Tutto ciò di cui abbiamo bisogno è lo stato iniziale, le azioni che possiamo applicare e lo stato finale desiderato. Spesso queste tre informazioni sono facilmente disponibili. Sui siti dedicati alla letteratura dell’AI planning, si trovano esempi come questi: se stiamo progettando la costruzione di un grande stadio, sappiamo cosa deve essere completato affinché lo stadio sia finito, non abbiamo bisogno di sapere come sono stati costruiti gli stadi precedenti, o quali ordinamenti sono stati usati. Questa mancanza di necessità di conoscere il passato significa che possiamo applicare la pianificazione a problemi che non sono stati precedentemente risolti.

Ed è in questo settore che si può sprigionare al meglio il potere creativo dell’IA. E che sposta il tema dello sviluppo dalle allucinazioni alle epifanie, perché il modello alla sua base è pensato per muoversi non in maniera probabilistica, ma risolutoria – e senza precondizionamenti o bias. Ecco perché forse non ha senso chiedersi neppure quali siano le operazioni matematiche che Q* può aver risolto: perché potrebbe inventarsi una nuova matematica, più efficiente, più efficace, magari persino capace di risolvere le idiosincrasie e i paradossi della fisica quantistica.

Le diverse generazioni di IA si stanno succedendo a ritmi sempre più elevati: dopo esserci stupiti per le GAN, le reti avversarie generative che hanno abilitato le text-to-image come Midjourney, Stable Diffusion e DallE, abbiamo assistito alla rivoluzione dei transformer (la “T” finale di “ChatGPT”), che sono modelli stupefacenti ma piuttosto idioti – i famosi pappagalli stocastici. Abbiamo tutti avuto quel compagno di classe che non capiva granché ma sapeva quali parole dire al prof per lusingarlo, e portare a casa un bel voto.

Oggi potremmo essere davanti invece all’ennesima evoluzione inattesa, probabilmente più simile, per continuare l’allegoria, a quell’altro compagno di classe neurodivergente che vede cose che noi non possiamo vedere. Un animale nuovo, geneticamente diverso. 

Questo significa che OpenAI è davvero “sulla strada dell’intelligenza artificiale generale”, quella che, se non ci sterminerà tutte e tutti, almeno renderà inutile la stragrande maggioranza dei nostri lavori?  Non necessariamente. Di questi tempi, l’anno scorso, si diceva che anche Gato di DeepMind potesse essere sulla strada dell’AGI, e al momento è infinitamente più probabile che questo sia l’ennesimo depistaggio dai problemi reali, presenti dell’IA, che conosciamo bene (i bias, il copyright et similia). 

Ma non siamo nati animali pensanti per pensare a una sola cosa per volta: possiamo affrontare i problemi reali dell’IA tenendo comunque d’occhio gli sviluppi più interessanti, o inquietanti, dei grandi colossi del settore. Come specie umana abbiamo da sempre un kink per suddividere in categorie i nostri pensieri e i nostri comportamenti. Di questi tempi si sono viste diverse proposte di semplificazione degli approcci davanti ai quesiti posti dall’IA: i catastrofisti, i tecno-ottimisti, i turbo-capitalisti accelerazionisti, i sedicenti altruisti efficaci. Ma la complessità che ci alberga e ci muove rifugge queste suddivisioni: dentro ognuno di noi abitano diversi “lupi”, per dirla come un meme, ed esiste una scala di grigi di adesione a ciascuno di questi archetipi. 

Concentrarsi quindi solo sui problemi attuali, senza prestare attenzione alle ipotesi magari a bassa probabilità ma a elevatissimo impatto, è un atteggiamento benaltrista, che non abbiamo bisogno di incentivare.

Dobbiamo invece ricordarci che uno dei limiti del nostro cervello è che siamo abituati a gestire informazioni su scala lineare, mentre fatichiamo a comprendere i trend esponenziali. È un errore che abbiamo pagato caro durante la pandemia, e che credo valga la pena di non ripetere.

Forse mai in precedenza nel corso della storia umana una tecnologia ha avuto a disposizione finanziamenti così ingenti, distribuiti su un numero così vasto di imprese private, che possono disporre di una sommatoria di intelligenze umane e talenti raramente agglomerati così insieme. La possibilità che in uno di questi laboratori si stiano provando delle tecnologie totalmente nuove rispetto a quelle finora rese pubbliche e commercializzate non è certo trascurabile, così come il fatto che una di queste possa “scalare” di conoscenze e competenze molto rapidamente. Il fatto che queste innovazioni non siano affatto trasparenti, e siano completamente in mano ad aziende private totalmente non monitorate è uno dei problemi principali su cui già oggi val la pena battersi e alzare le barricate. 

Il mondo dell’IA oggi, dopo l’epurazione dei vertici “ribelli” di OpenAI (tutta la parte no-profit, in sostanza) si sveglia indubbiamente più disarmato di fronte alla mano capitalista che lo sta guidando. Abbiamo dipinto un quadro giustamente a tinte fosche dei lungotermisti, ma anche lasciare le redini di questo “nuovo animale” in mano solo a chi bada al numero in basso a destra nel bilancio, e al cortotermismo più assoluto, non sembra comunque un’idea lungimirante.

Filippo Lubrano è Ingegnere gestionale, giornalista e scrittore. ha una lunga esperienza sui mercati di Africa, Medio ed Estremo Oriente in una multinazionale automotive anche competenze maturate come startupper. Oggi è consulente e formatore in diversi ambiti: innovazione, in particolare su 3 verticali di cybersecurity, IA e blockchain, e internazionalizzazione. È socio di Haruspex, una delle realtà più promettenti di cybersecurity italiane. Membro fondatore del collettivo di poeti performativi Mitilanti, il suo ultimo romanzo pubblicato è “Radici aeree“, edito da Leucotea.