L’intelligenza artificiale generativa non pensa né comprende, eppure ci aspettiamo da essa precisione e verità. Mafe de Baggis smonta le narrazioni dominanti su AI, lungotermismo e altruismo efficace, svelando le logiche di potere dietro la paura e la regolamentazione tecnologica. Se la sicurezza dell’AI è davvero una priorità, perché si investe più sui rischi esistenziali che sulle conseguenze immediate?
Questo testo è un estratto da “E poi arrivò DeepSeek” pubblicato da Apogeo Editore.
in copertina e lungo il testo “figura nel paesaggio” all’asta da casa d’aste pananti.
di Mafe de Baggis
Se lavori nel campo dell’intelligenza artificiale (o dell’apprendimento automatico in generale), probabilmente hai familiarità con definizioni vaghe e molto dibattute.
Prova a pensare al termine scelto dalla comunità scientifica per descrivere gli errori fattuali e di relazione di ChatGPT (& co): “allucinazioni”. Anche qui c’è una falla nel ragionamento, anzi, due. Un software di IA generativa produce contenuti a partire da quello che ha imparato, come farebbe uno scrittore o un pittore. Il suo compito, per ora, non è darci informazioni corrette: è scrivere testi o creare immagini a partire da un’istruzione, il prompt, che può prendere anche la forma di una domanda. Per complicare un pochino le cose, in alcuni contesti specifici, dare informazioni corrette e precise rientra nella sfera ristretta dei compiti di un LLM: un esempio illuminante è quello della scrittura del software, perché è un linguaggio preciso e codificato, con molte meno ambiguità del linguaggio naturale. Ambiguità di cui abbiamo pochissima consapevolezza, tra l’altro, perché ci viene naturale capire quando una mela è un frutto e quando è una marca di computer.
Prima falla del ragionamento: ci aspettiamo informazioni precise da un software di scrittura. Un po’ come lamentarsi con il professore perché Dante non ha dato le coordinate dell’ingresso nell’Inferno. Questo vuol dire non potersi fidare di Dante? No, ma non avrei cercato la ricetta della carbonara nella Divina Commedia.
Seconda falla del ragionamento: definiamo questi errori “allucinazioni”, cioè una parola che richiama una patologia, strettamente legata agli esseri umani che perdono lucidità. Provate a pensare come cambia il tutto se cambio la parola: gli “errori” di ChatGPT. Le “allucinazioni” di ChatGPT. E se le chiamassimo “invenzioni”? O “affabulazioni”? Ancora un altro film. Eppure è sempre la stessa cosa: un software il cui compito è scrivere, quando non sa, genera testi a partire dalla probabilità statistica di quell’insieme di lettere o fa un ragionamento a partire da un’istruzione per risolvere problemi logici come quelli visti nei capitoli precedenti.
I software di generazione testi, immagini e video non sono (ancora) autonomi e non capiscono quello che dicono, né pensano a quello che dicono. Senza scomodare le sedute spiritiche, possiamo paragonare la loro produzione alla scrittura automatica surrealista. E forse la parola automatica ci aiuta a capire più della parola artificiale. In genere, se invece di “intelligenze artificiali” parlassimo di software che scrivono, evoluzione dei software per scrivere, saremmo tutti più lucidi. Ma non è andata così.
Le intelligenze artificiali sono tante, ma le predittive, cioè quelle che usano la potenza di calcolo e il training per fare previsioni sono altrettanto importanti: Google Maps, l’algoritmo dei social media, l’analisi di lastre, TAC e risonanze magnetiche sono tutti esempi di AI predittive di grande importanza quotidiana. Generative, predittive o altro che siano, per ora sono quasi tutte del tipo più limitato, le ANI, che sta per artificial narrow intelligence, cioè ristrette e dette anche weak, “deboli”. In realtà non sono deboli per niente, più che “ristrette” dovremmo definirle “specializzate”. Fanno bene quello per cui hanno studiato, un po’ come si pensa debbano funzionare i percorsi di carriera umani. ChatGPT è una ANI con sprazzi di AGI, acronimo che sta per artificial general intelligence, cioè un software capace di imparare da esperienze diverse per fare qualsiasi cosa desideri, come un umano. E forse quello che ha fatto più paura a OpenAI & co. di DeepSeek è proprio la dichiarazione esplicita della direzione verso l’AGI presente nella descrizione che appare su Google: “DeepSeek, unravel the mystery of AGI with curiosity. Answer the essential question with long-termism”.
Infine ci sono le ASI, le artificial super intelligence, super intelligenze che possono imparare a fare qualunque cosa, con capacità molto superiori a quelle umane. Una specie di supereroe disincarnato. Artificiale, ma ancora non animale.
Ora, di solito, quando pensiamo a un software intelligente ci riferiamo a un software delle ultime due categorie, di cui è umano avere paura (e umano non vuol dire giusto). Peccato però che ancora siano solo costrutti teorici, o quasi, soprattutto nella parte più difficile da comprendere anche per noi, il libero arbitrio. Se sentite parlare di software che sterminano l’umanità per produrre più graffette possibili o per eliminare chi porta polvere in casa (esempi non inventati) sappiate che si parla di AGI o ASI a cui, tra l’altro, vengono attribuiti desideri e comportamenti umani: il desiderio di produrre un bene (le graffette) o di eliminare un male (la polvere). Nello stesso tempo, però, consideriamo disumani questi software perché non hanno emozioni o sentimenti. Da qualche parte c’è una falla nel ragionamento. Oppure una volontà di disinformare, nel modo più efficace: proponendo una narrazione convincente che sceglie quali fatti collegare e quali no.
Il lungotermismo
Nella descrizione per Google di DeepSeek spunta una parola asso- ciata e contrapposta all’approccio descritto in precedenza, l’effective accelerationism: il lungotermismo, cioè la volontà di ignorare le conseguenze immediate delle scelte e delle azioni per concentrarsi sugli effetti futuri, molto futuri (milioni di anni). Come scrive Alida Airaghi recensendo L’utopia dei miliardari di Irene Doda:
I nuovi insaziabili padroni del mondo, animati da delirio di onnipotenza, propugnano un’ottimistica filosofia che sta conquistando le grandi fonda- zioni filantropiche, le aziende multinazionali, le istituzioni politiche, con la promessa di un futuro prospero e felice di cui l’umanità godrà tra mil- lenni, in una florida civiltà multiplanetaria per ora solo immaginata. Que- sta ideologia è stata chiamata “lungotermismo” proprio a causa della sua procrastinazione molto lontana nel tempo, che non mette in discussione le attuali strutture del capitalismo, del consumo, dei cicli di produzione. Nonostante l’approccio si presenti come scientifico, esso ha in realtà una forte impronta fideistica, e presenta molti elementi simil-religiosi vicini al fanatismo, nella sua illimitata fiducia in una salvezza dall’estinzione per la specie umana, che al contrario ne garantisca l’espansione e uno stato di benessere totale, sotto la guida di pochi spiriti eletti.
Effective altruism
Il lungotermismo è parte della corrente dell’altruismo efficace, un movimento sociale che prende le mosse dall’utilitarismo di Jeremy Bentham, una filosofia settecentesca che cercava di fare dell’etica una scienza quantificabile, descrivendo l’utilità come “ciò che produce vantaggio e che rende minimo il dolore e massimo il piacere”. Nasce spontanea la domanda: “Per chi produce vantaggio?”, “Per chi rende minimo il dolore e massimo il piacere?”. Osservando chi porta avanti questi (s)ragionamenti, che si autodefiniscono “filosofie” ma ne sono ben lontani, è chiaro che l’utilità di lungo periodo sarà anche per l’intera specie umana, ma quella di brevissimo termine è tutta dei miliardari che la finanziano. Quello che negli ultimi due anni poteva essere scambiato per una specie di lucido delirio sta diventando realtà, in questi giorni, negli Stati Uniti, tra editti, licenziamenti e deportazioni. Restando nel merito delle narrazioni intorno alle AI è interessante esplorare i progetti finanziati sulla piattaforma Effective Altruism, un progetto in apparenza indiscutibile: “L’altruismo efficace è un campo di ricerca e una comunità che punta a trovare i modi migliori per aiutare gli altri e metterli in pratica”. Everyone wants to do good, viene detto in home page. Everyone ma non le AI, di cui è bene avere paura: pur essendo la tecnologia il cuore di questo approccio e il core business dei suoi finanziatori, il forum di Effective Altruism è uno dei luoghi in cui è nato ed è stato definito il concetto di allineamento delle AI agli interessi umani. Anche qui, in apparenza, un’idea difficile da mettere in discussione.
Ma perché, in tutto questo, i tecnocapitalisti, definiti anche “tecnooligarchi”, tendono a presentare gli aspetti più pericolosi delle tecnologie che vendono? Elon Musk per primo? La risposta più immediata, quella da rasoio di Occam: creare un problema per essere gli unici a fornire la soluzione. Lo penso da anni anche per il social media panic, cioè la narrazione che attribuisce ai social media e agli smartphone tutti i problemi della nostra società. Per me è parte inte- grante della shock doctrine teorizzata da Naomi Klein (che non sarebbe d’accordo), solo che invece di attentati e guerre gli shock diventano paure quotidiane e casalinghe: il telefono, i videogiochi, Instagram. L’idea che tutti i nostri problemi dipendano da uno strumento esterno è irresistibile, nonostante il corpus di ricerche che smentiscono questa idea semplicistica sia in continua crescita.
Scrive Irene Doda:
I grandi nomi del tech, dunque, si danno la pena di esporsi molto per la regolamentazione di tecnologie che loro stessi sviluppano, producono e mettono in commercio. In ottica lungotermista, il rapporto tra umanità e sviluppo tecnologico è ambiguo. Questi filosofi da una parte sostengono che dobbiamo creare tecnologie sempre più sofisticate, ma dall’altra riconoscono dei rischi esistenziali legati a questo sviluppo.
Ma restiamo sulle parole: perché non parlare di sicurezza delle AI, di cui l’allineamento è un sottoinsieme, e sforzarsi di definire un campo nuovo e diverso? Torniamo al problema dell’utilitarismo di Bentham: allineati a chi? Agli interessi di chi? Alla sicurezza di chi? Vedendo i primi passi del governo Trump la paura che gli interessi siano quelli di uomini bianchi ricchi si fa più concreta. Scrive Naomi Klein su Instagram: “Trump e altri stanno usando queste tattiche (di shock) per riaffermare il dominio e imporre gerarchie che considerano naturali a ogni livello.
Uomini che comandano le donne. I genitori i figli. I bianchi sopra tutti gli altri.
America rispetto al resto del mondo.
L’obiettivo è molto di più ambizioso della deregolamentazione e della privatizzazione”.
Io ho iniziato a dubitare dell’approccio EA quando ha iniziato a dubitarne uno dei ricercatori che più ha formato il mio modo di pensare, il neuroscienziato Steven Pinker, che ha detto:
Ero un fan dell’altruismo efficace. Ma è diventato un culto. Felice di donare per salvare il maggior numero di vite umane in Africa, ma non di pagare dei nerd* per preoccuparsi che l’intelligenza artificiale ci trasformi in graffette.
A cosa fa riferimento Pinker? Ai 387.097.518 dollari raccolti per finanziare la ricerca sui rischi delle AI, in larga parte in arrivo da Open Philanthropy, la non-profit creata da Dustin Moskovitz, Holden Karnofsky, e Cari Tuna per supportare Effective Altruism.
Se a questo punto ti stai chiedendo qual è il problema se qualcuno raccoglie dei fondi per proteggerci dai rischi di una nuova dirompente tecnologia, in sintesi, eccolo, con le parole di Nirit Weiss-Blatt di Ai-Panic:
La ricerca sulla sicurezza dell’intelligenza artificiale si concentra sulla riduzione dei rischi derivanti dall’intelligenza artificiale avanzata (AGI) come i “rischi esistenziali” e non include investimenti in “problemi di sicurezza” dell’intelligenza artificiale a breve termine come gli effetti sul mercato del lavoro, l’equità, la privacy, l’etica, la disinformazione, ecc.
Ma perché DeepSeek, dalla Cina, ritira fuori il lungotermismo nella sua descrizione su Google, parlando di AGI, che molti lungotermisti considerano come un rischio di estinzione umana19?
Probabilmente perché ci crede, sperando si ispiri alla parte interessante dell’accelerazionismo, quella progressista di Mark Fisher, e non a quella di Nick Land, che vede nel progetto tecno-autoritario del Partito comunista cinese una forza equivalente all’alt right statunitense (e le apprezza entrambe).
Direi che “AI allineata a chi o a cosa” rimane la domanda da farsi. Questi discorsi, accelerazione compresa, restano comunque un esempio straordinario di narrazioni a prima vista indiscutibili, come segnalato anche dalla parola “effective”, come se altruismo o accelerazione da sole non bastassero più. Chi mai vorrebbe mettere a rischio l’esi- stenza delle generazioni future, impedire ai miliardari di donare per risolvere i problemi dell’umanità o sveltire cambiamenti più che necessari? È solo a un secondo sguardo che niente è come sembra e tutto va messo in discussione, sempre. Per Jianwei Xun, autore di Ipnocrazia:
Non siamo semplici consumatori di contenuti; siamo cavie di un esperimento globale, al tempo stesso oggetti e soggetti della narrazione ipnotica che definisce il nostro tempo.
Ma l’ipnocrazia non è un sistema chiuso.
È un campo di forze in continua espansione, capace di assimilare ogni resistenza.
L’opposizione non è solo futile, è nutrimento che delizia l’avversario. Ogni atto rivoltoso viene assorbito: la ribellione è l’avamposto del siste- ma, lo strumento con cui estende il proprio raggio. Il dissenso diventa merce, e il rifiuto consenso. Non si può combattere l’ipnocrazia oppo- nendosi alla sua logica.
Non è possibile alcun risveglio. L’alternativa non è cercare una via di fuga, ma imparare a decifrare i codici che governano l’illusione. Serve educarsi ad abitare la soglia, quello spazio intermedio in cui la presenza può essere mantenuta nell’alterazione. Perché la realtà non è realmente scomparsa. È diventata un riflesso.
Di riflesso e di mondo gemello, quasi l’Upside down di Stranger Things, parla anche Naomi Klein nel suo Doppelganger: a trip into the mirror world. L’unico modo di uscire da questo labirinto di specchi è guardare avanti e altrove, con le parole di Klein:
Dovremmo smettere di trattare molti sistemi creati dall’uomo, come monarchie, corti supreme, confini e miliardari, come immutabili ed eterni. Tutto ciò che alcuni umani hanno creato può essere cambiato da altri umani. E se i nostri sistemi attuali minacciano la vita nella sua essenza, e lo fanno, allora devono essere cambiati. Quando il mondo che pensavamo di conoscere non regge più ci prende la vertigine. Il mondo conosciuto si sta sgretolando. Va bene così. Era un edificio cucito insieme da negazione e rifiuto, dal non vedere e non sapere, con specchi e ombre. Doveva schiantarsi. Ora, tra le macerie, possiamo fare qualcosa di più affidabile, più degno della nostra fiducia, più in grado di sopravvivere agli shock in arrivo.
0 comments on “Allineare le intelligenze”