Lo sfogo rancoroso e carico di dolore contro l’IA non ci aiuta a intravedere la via verso un futuro migliore: né utopie né distopie, ma orizzonti aperti a possibilità radicalmente impreviste.
In copertina, un’opera di katsukokoiso.ai
di Benjamin Bratton
Non molto tempo fa, durante un ritiro di OpenAI, Ilya Sutskever — allora chief scientist dell’azienda — commissionò a un artista locale un’effigie di legno che rappresentasse l’IA “non allineata” e poi la incendiò, a simboleggiare «l’impegno di OpenAI verso i suoi principi fondativi». Quel rito curioso mirava forse a esorcizzare in anticipo lo spettro di un’intelligenza artificiale non conforme ai “valori umani”.
Pochi mesi dopo, l’azienda e il suo consiglio di amministrazione precipitarono in una crisi esistenziale: l’amministratore delegato Sam Altman fu tradito da uno dei suoi protetti, “crocifisso” e, tre giorni dopo, “risorto”. Si trattava del tanto invocato allineamento ai valori umani? E se non era quello, che cosa stava accadendo?
Alla fine dello scorso anno Fei-Fei Li, direttrice dello Stanford Human-Centered AI Institute, ha pubblicato The Worlds I See, che il Financial Times ha definito «un forte appello a mantenere l’umanità al centro della nostra trasformazione tecnologica». Lei, almeno, non ha dato alle fiamme simboli di tecnologie non antropocentriche; eppure, accostati al bizzarro rituale di Sutskever, questi due episodi segnano tappe significative della nostra reazione a una tecnologia che mette in discussione l’immagine che abbiamo di noi stessi.
Espressioni come “allineamento” o “IA a misura d’uomo” racchiudono speranze e paure opposte: da una parte la sensazione che l’IA ci stia sfuggendo di mano, dall’altra la coscienza che forse le tecnologie davvero complesse non sono mai state sotto il nostro pieno controllo. Per ragioni più ideologiche che reali, c’è persino chi nega l’esistenza stessa dell’IA, riducendola a pura matematica o a un artificio del capitalismo spacciato per un fatto naturale.
Altri reagiscono con rabbia di fronte a un’intelligenza artificiale sempre più pervasiva. C’è poi chi, pur riconoscendone l’esistenza, è convinto di poterla “addomesticare” con commissioni parlamentari, policy paper e laboratori partecipativi. E questo offre ben poco conforto a quanti — preda di un cupo pessimismo — intravedono all’orizzonte una catastrofe esistenziale.
Queste reazioni disorientano chi interpreta l’evoluzione dell’intelligenza meccanica — e l’artificializzazione dell’intelligenza stessa — come l’inevitabile prodotto di processi più profondi. Come comprenderle?
Sigmund Freud definì “copernicane” le rivoluzioni che spodestano l’essere umano dal centro del mondo. Dopo Copernico e Darwin, indicò la psicoanalisi come terza di queste scosse, definendo “trauma” la reazione a tali decentramenti — e il dibattito sull’IA non fa eccezione.
Il trauma genera lutto: è un passaggio naturale. Nel 1969, Elisabeth Kübler-Ross, nel suo On Death and Dying, descrisse le cinque fasi del lutto: negazione, rabbia, contrattazione, depressione e infine accettazione. I traumi copernicani sembrano seguire lo stesso copione.
Alla mappa dei traumi tracciata da Freud occorre però aggiungere un’altra tappa. Le neuroscienze hanno via via demistificato il mistero della mente, relegando il vecchio dualismo in angoli sempre più remoti, mentre la biotecnologia riesce a trasformare materia inerte in tessuto vivente. Queste scoperte non cambiano le leggi della natura: piuttosto rivelano che la natura è ben diversa da come ce la raccontavano le nostre intuizioni e cosmologie. È in questa presa d’atto che nasce il trauma. Tutte le fasi del lutto reagiscono al lento, poi improvviso, sgretolarsi di credenze che parevano incrollabili: la morte di un’idea, come quella di una persona amata, può essere lancinante.
L’“intelligenza artificiale” contemporanea merita di essere annoverata fra i nuovi traumi copernicani. Mostra che intelligenza, cognizione e persino mente—concetti tutt’altro che definiti—non sono ciò che sembrano, non coincidono con la nostra esperienza soggettiva e non sono esclusiva dell’essere umano. È vero: la capacità di artificializzare l’intelligenza è frutto di ingegno umano, ma ora quello stesso ingegno sta ricreando se stesso. Dalla rivoluzione cognitiva del Paleolitico in poi abbiamo reso artificiali rifugio, calore, cibo, energia, immagini, suoni, perfino la vita; oggi stiamo artificializzando l’intelligenza stessa.
Le cinque fasi del lutto descritte da Kübler-Ross offrono quindi una cornice efficace per leggere la reazione dell’Occidente all’IA—negazione, rabbia, contrattazione, depressione, accettazione. Questi stadi nascono dalle ricadute reali o presunte che l’IA fa intravedere nella politica, nella divisione del lavoro e in molte tradizioni filosofiche o religiose. Talora profonde, talora patetiche, spesso prevedibili, rappresentano le risposte che a ciascuno paiono più plausibili: le più spendibili sul piano politico, le più risonanti con il clima culturale, le più coerenti con convinzioni pregresse, le più rassicuranti per un’identità umanista o semplicemente le più lusinghiere per chi le prova. Ciascuna contiene un seme di verità e di saggezza, ma anche una dose abbondante di nevrosi e autoinganno.
Eppure nessuna di queste posizioni è davvero all’altezza delle sfide poste dall’IA, sfide che spesso attraversano trasversalmente ogni schieramento e i modesti vantaggi a breve termine che propone. Questo non significa che i pericoli non esistano, né che i benefici promessi dall’IA — per come oggi viene progettata e monetizzata — siano garantiti. Tra qualche anno potremmo chiederci come sia stato possibile parlare dei primi passi dell’IA con toni tanto infantili.
Le fasi del “lutto da IA” non seguono un ordine rigido. Non sono una diagnosi clinica, ma soltanto una tassonomia. In realtà le persone non restano confinate in caselle ben definite: Negazione e Rabbia, per esempio, spesso si sovrappongono quando i medesimi critici sostengono, nella stessa frase, che l’IA non esiste e che va comunque fermata a ogni costo.
In queste pagine mi concentro sulle reazioni occidentali, con le loro manie e ossessioni: sono molto meno universali di quanto i loro stessi protagonisti immaginino.
Tanto per cominciare c’è la Negazione: come parlare di IA, si chiedono alcuni, se l’IA non esiste?
Negazione
Frasi tipiche: «L’IA non esiste»; «non è artificiale né intelligente»; «non conta nulla, è solo hype»; «è irrilevante, un trucco del potere, una moda passeggera»; «non scriverà mai una buona canzone né una sceneggiatura decente»; «non prova emozioni: è solo un’illusione antropomorfica»; «è pura statistica, pura matematica, semplice gradient descent, un completamento automatico di lusso»; «senza un corpo non può essere davvero intelligente; «questa o quella tecnica non funzionerà e, se funziona, non è ciò che sembra».
La negazione è prevedibile: di fronte a qualcosa di nuovo, inquietante o capace di scalfire certezze radicate è naturale dubitarne. L’ipotesi di partenza diventa così che ciò che pare senza precedenti non sia, in realtà, ciò che sembra.
Va detto che le varie forme di negazione sono state — e restano — cruciali per chiarire che cosa l’intelligenza artificiale sia davvero e che cosa non potrà mai essere. Il passaggio epocale dai sistemi esperti logico-deduttivi al deep learning nacque proprio dalla meticolosa demolizione delle pretese “proposizionali” dei primi approcci.
Oggi il negazionismo dell’IA si presenta in molte sfumature. Per lo più non ricorda il negazionismo climatico, dove si inventano “fatti alternativi” per difendere una visione precostituita, ma qualche eco c’è: i negazionisti selezionano gli esempi che convengono, spostano di continuo l’asticella e farebbero qualsiasi cosa pur di non ammettere che, talvolta, gli avversari possono avere ragione.
In sintesi, si possono distinguere tre grandi famiglie di negazione: fenomenologica, politica e procedurale.
Sulla scia di Hubert Dreyfus, la negazione fenomenologica parte dall’idea che l’intelligenza sia inseparabile dall’esperienza incarnata: «Un’IA non può essere intelligente perché non ha un corpo». È una critica dichiaratamente antropocentrica, una sorta di Turing Test “pop” che confronta l’esperienza umana con quella della macchina e conclude che le differenze dimostrano l’inadeguatezza dell’IA: «Non comporrà mai un’opera lirica memorabile, non dipingerà un capolavoro, non scriverà haiku di straordinaria bellezza». Curiosamente, chi lo afferma di solito non sa fare nessuna di queste cose, eppure si ritiene intelligente.
Lo slogan «l’IA non è né artificiale né intelligente» è forse la forma di negazione più d’effetto. Peccato che chi lo usa lo motivi dicendo, da un lato, che l’IA è costruita con materiali minerali tangibili — dunque, a tutti gli effetti artificiale — e, dall’altro, che funziona grazie a modelli stocastici finalizzati a uno scopo: un tratto cardine di molte definizioni di intelligenza, da William James a Karl Friston.
«È solo statistica, non vero pensiero»: così si conclude anche il celebre saggio che paragona l’IA a un pappagallo, insinuando che non possa essere davvero intelligente. In quelle pagine gli autori liquidano la neuroscienza computazionale come un’ideologia che vede “computazione” dappertutto; c’è persino chi spinge oltre, sostenendo che le reti neurali, naturali o artificiali che siano, siano un trucco escogitato dal neoliberismo.
I critici di questa scuola oscillano con disinvoltura fra «l’IA non esiste» e «l’IA è illegittima perché prodotta da corporation capitaliste»: la prima affermazione serve chiaramente da trampolino alla seconda. Sostenere che l’IA non sia reale diventa quindi un gesto politico, coerente con una visione del mondo in cui ogni questione di conoscenza è prima di tutto una negoziazione di potere. Non c’è alcuna contraddizione, per loro, nel dichiarare che l’IA è al tempo stesso «inesistente» e «reale ma pericolosa»: ciò che l’IA è conta meno di ciò che fa, e quel che fa viene ridotto a un ristretto campione di esempi negativi elevati a paradigma universale.
In altri termini, proclamare che l’IA «non è reale» serve soprattutto a segnalare un posizionamento contro-egemonico. Nel peggiore dei casi, questa impostazione degenera in un vero “lisiènkismo dell’IA”: un rifiuto militante di qualcosa che esiste, in nome di un impegno anticapitalista.
C’è poi un’altra categoria di critici: coloro che hanno investito tutto il proprio capitale intellettuale contro il deep learning, le architetture transformer, il meccanismo di self-attention o il mantra «basta aumentare la scala». Il loro scetticismo è simile agli esempi precedenti, ma con una motivazione più personale. Blaise Agüera y Arcas definisce questo atteggiamento il “Marcus Loop”, dal nome del celebre detrattore del deep learning Gary Marcus.
Lo schema è sempre lo stesso: prima proclami che X è impossibile; poi X accade. A quel punto sostieni che X non conta davvero perché Y. Subito dopo profetizzi l’imminente tracollo di X; quando però il tracollo non arriva, e anzi X viene adottato ovunque, dichiari che X è un pericolo mortale per la società. Da lì in poi esageri, litighi sui social e, qualunque cosa succeda, non ammetti mai di esserti sbagliato.
Per Gary Marcus, il deep learning è «a sei mesi dal collasso» fin dal 2015; eppure, nel frattempo, milioni di persone usano ogni giorno tecnologie che, secondo le sue previsioni, non avrebbero nemmeno dovuto esistere.
Rabbia
Frasi ricorrenti: «L’IA è una minaccia politica, culturale, economica, perfino esistenziale; mette in pericolo il futuro dell’umanità; va contrastata collettivamente e, se serve, con la forza; dobbiamo difendere la “scintilla umana” dai pericoli calati dall’alto; la si può capire solo attraverso [qualche esempio negativo recente]; è un simbolo di controllo e gerarchia, dunque nemica della libertà e dell’autonomia».
La rabbia verso l’IA nasce da paure in parte fondate e in parte no. Spesso si rivolge meno a ciò che l’IA fa che a ciò che incarna, e le due dimensioni finiscono per sovrapporsi. Talvolta l’IA è trattata come un’entità monolitica, pura emanazione di potere; altre volte come il culmine di antichi peccati. Così la Negazione scivola facilmente nella Rabbia, pur contraddicendosi.
Negli ultimi anni i motivi di diffidenza per come l’IA è progettata e distribuita non sono mancati. Gli anni Dieci del Duemila furono terreno fertile per populismi di ogni sorta. Douglas Rushkoff colse—e in parte celebrò—quella furia nel saggio Throwing Rocks at the Google Bus (2017). «Fuck Off Google!» era lo slogan del collettivo-meme nato a Kreuzberg che tentava di incanalare la propria rabbia, ancora informe, contro il colosso accusato di sconvolgere una Berlino per alcuni idilliaca, fatta di affitti bassi e musica a buon mercato.
Quel copione va in scena ancora oggi. A San Francisco, durante il Capodanno lunare, una folla ha incendiato un’auto a guida autonoma: un gesto al tempo stesso simbolico e brutalmente letterale. All’epoca il bersaglio non era tanto l’IA quanto le Big Tech in generale, ma ormai la distinzione è sottile. In questi conflitti il campo di battaglia esiste solo nella mente di uno dei contendenti, e “IA” diventa il Super-Io edipico contro cui l’eroico umano sovrano può scagliarsi: Davide attacca Golia per poter restare Davide.
La rabbia anti-IA indossa le ideologie più disparate, purché siano utili a un posizionamento anti-establishment. Così capita che gli agitatori della destra reazionaria marcino fianco a fianco con la sinistra progressista — e perfino con il centro moderato — pur di difendere lo status quo che ciascuno reputa irrinunciabile.
Per i reazionari, in gioco c’è addirittura l’anima dell’umanità: una scintilla preziosa che la “secolarizzazione computazionale” starebbe soffocando e che merita una vera crociata spirituale. Le loro obiezioni contro un’IA che scalfisce l’immagine dell’uomo riecheggiano quelle rivolte, a suo tempo, all’eliocentrismo, all’evoluzionismo, all’aborto, alla clonazione, ai vaccini, alle identità transgender, alla fecondazione in vitro e così via. La parola d’ordine non è tanto “sovranità” o “agency”, quanto “dignità”: quella fiammella umana — riflesso del Dio abramitico — starebbe per spegnersi sotto i colpi della tecnologia moderna, dunque la battaglia assume toni sacri, quasi divini.
La sinistra, al contrario, legge in quella scintilla un vitalismo politico: spesso con vocazione abolizionista, talvolta traversato da accenti paranoici. Il centro la interpreta in chiave storica, immaginandola sotto assedio temporaneo o prossima a un epilogo.
Nonostante le differenze, questi tre schieramenti condividono almeno tre convinzioni: la difesa della propria idea di eccezionalismo umano; la certezza che occorra “vincere l’IA” per salvaguardare l’autorappresentazione della società; e il fatto che le rispettive posizioni culturali siano modellate e amplificate dagli stessi processi algoritmici contro cui si scagliano.
Contrattazione
Frasi sintomatiche: «L’IA è una forza che possiamo — e dobbiamo — domare con un design etico “umanocentrico” e con un allineamento democratico-tecnocratico a valori condivisi e “di buon senso”, traducendoli in leggi e politiche pubbliche. Le sfide che questa tecnologia pone alle fondamenta informative, giuridiche ed epistemiche delle istituzioni moderne sono solo un’anomalia passeggera che argineremo con opportune iniziative culturali, veicolate dalle stesse piattaforme tradizionali che oggi la sviluppano».
Se consideriamo l’IA un semplice utensile digitale, basterebbero pochi provvedimenti per regolamentarla. Ma se la pensiamo come qualcosa di ben più radicale, paragonabile alla nascita di Internet, dei primi computer, o addirittura a una nuova fase nell’evoluzione dell’intelligenza stessa, confidare nella sola politica rischia di restare un auspicio.
Perfino assoggettare le aziende di IA a un duro controllo statale, nel breve periodo, non equivale a governare l’intelligenza artificiale in sé sul lungo periodo. Le armi nucleari erano un fenomeno ben definito: i loro effetti distruttivi erano chiari, ed è stato possibile disciplinarle tramite trattati internazionali. L’IA, invece, è ancora in parte sconosciuta: non ne comprendiamo davvero le ricadute, né, a un livello più profondo, la natura stessa. Qualunque regolamentazione, per quanto ben intenzionata, avrà effetti collaterali imprevedibili, nel bene e nel male.
La Contrattazione è la postura preferita dell’establishment politico-giuridico, che riduce i problemi complessi a diritti, responsabilità, precedenti, white paper e advisory board. È anche il credo del “centro ragionevole” della Silicon Valley, ammantato dalle parole d’ordine «etica», «centralità umana», «allineamento». Non a caso l’istituto di punta a Stanford si chiama Human-Centered Artificial Intelligence. Al di là dei tributi a un umanesimo un po’ annacquato, l’approccio poggia su presupposti fragili circa il nesso tra decisioni politiche immediate e traiettorie tecnologiche di lungo periodo.
Nella fase della Contrattazione, l’«etica» occidentale, figlia dell’individualismo giuridico e della secolarizzazione del cristianesimo europeo, viene presentata come strumento al tempo stesso necessario e sufficiente per guidare l’IA verso il bene comune. In pratica, però, l’etica dell’IA alterna lampi di lucidità a ingenuità, partendo sempre dal presupposto che gli esiti negativi dipendano da cattive intenzioni di attori ben identificabili. È una lettura intention-centric comoda ma piuttosto superficiale. Il rimedio proposto? «Lavorare con le comunità»: convocare assemblee di cittadini per raccogliere desideri e timori, indicizzarli e inserirli nel processo di sviluppo, come se governare il futuro dell’IA fosse un problema lineare e bastasse migliorare la qualità democratica degli input.
Il “tecno-soluzionismo” si critica spesso, talvolta a ragione, talvolta meno. Esiste però anche un “soluzionismo politico”: l’idea che politicizzare ciò che sfugge ai tempi della cronaca e piegarlo a decisioni reali o immaginarie sia comunque risolutivo. Non è affatto detto che funzioni meglio. Basta osservare il Congresso o la vicepresidenza alle prese con l’IA: non danno certo l’impressione di essere al timone del futuro, per quanto vogliano sembrarlo. Le audizioni in pompa magna servono più che altro a ribadire — a noi e a loro stessi — che è il legislativo a governare l’IA. Il presupposto è che gli Stati, così come li conosciamo, dirigeranno le trasformazioni in arrivo, anziché esserne travolti o inglobati. Volenti o nolenti, questa seconda ipotesi pare la più realistica.
Contrattare significa anche “allineare” l’IA ai “valori umani”, un obiettivo tutt’altro che scontato. Si dà infatti per certo che l’evoluzione dell’IA vada guidata rendendola il più possibile antropomorfa e sociomorfa, una sorta di specchio ossequioso dell’utente.
L’atto di fede secondo cui i valori umani sarebbero evidenti, misurabili, universali e pronti all’uso è il fragile pilastro di tutto il progetto di allineamento. Regge sull’idea che sia possibile individuare interessi comuni, sondare desideri e paure delle comunità, vagliare l’etica di qualunque prodotto e garantire che il terremoto dell’intelligenza risulti, per il maggior numero di persone, il più confortevole possibile.
La Contrattazione, insomma, poggia su un presupposto audace: l’idea che l’IA sia davvero disposta a farsi guidare da questo approccio. È la speranza, un po’ ingenua, che iniziando a negoziare con il futuro, il futuro non possa che venirci incontro. Magari fosse così.
Depressione
Frasi tipiche: «Probabilmente è già tardi per salvare l’umanità: l’IA, con la sua voracità intrinseca, la competizione che amplifica fra le società, la policrisi di cui è sintomo, senza contare le contraddizioni politiche ed economiche insite nei suoi stessi mezzi di produzione, ci conduce a un esito catastrofico scolpito nelle leggi della storia.»
C’è chi teme che, solo pronunciando la parola “IA”, abbiamo già firmato la nostra condanna. «Abbraccia i tuoi cari, fai scorta di viveri e attendi la super-intelligenza malevola, ossessionata dall’uomo, pronta a stabilire se porti o meno il marchio della bestia e a decidere del tuo destino.»
In questa visione l’IA potrebbe sterminare milioni, forse miliardi di persone. Più sottilmente, potrebbe impedire la nascita di miliardi di individui: in una società di “lusso completamente automatizzato”, il tasso di natalità scenderebbe sotto la soglia di sostituzione, lasciando il pianeta a due miliardi di abitanti, più silenzioso, più verde, ma anche più anziano e pieno di robot. Qui il crollo demografico deriverebbe dall’abbondanza, non dalla miseria: magari sarà proprio questo il principale contributo dell’IA alla lotta contro il cambiamento climatico. Utopia o distopia? Dipende da chi guarda.
Per i cosiddetti AI doomers — un’etichetta che alcuni sfoggiano con orgoglio e altri adoperano con sarcasmo — la missione è salvare il futuro da catastrofi imminenti, probabili o addirittura inevitabili. C’è quasi un gusto competitivo nel descrivere lo scenario più cupo: nutrire speranze è da ingenui. Questa élite di prepper scherza su Roko’s Basilisk e coltiva nuove, sofisticate varianti di autocompiacimento escatologico.
Il discorso “doomer” seduce molti addetti ai lavori dell’IA perché, se davvero la tecnologia sta trascinando l’umanità sull’orlo dell’estinzione, allora chi la guida dev’essere per forza un protagonista di primissimo piano. Il nostro destino collettivo sarebbe nelle loro mani: chi non ne resterebbe lusingato?
All’estremo opposto della guerra culturale tech troviamo un’altra forma di AI depression: l’ortodossia di un establishment che unisce diritto, pubblica amministrazione e scienze umane e considera l’IA una minaccia ribelle alla propria, autoproclamata, funzione di sorvegliare e narrare la società. Da The Atlantic a LOGIC(S), dal Berkman Klein Center di Harvard al RAND Institute, ci si dipinge come un Davide in lotta contro il Golia del “Potere”, senza mai chiedersi se il vero Potere — più che l’usurpazione californiana — non coincida proprio con il loro ruolo culturale e istituzionale.
Per molti, i pilastri del “doomerismo duro” rimandano a Nick Bostrom e al defunto Future of Humanity Institute di Oxford. Se agli inizi le loro ricerche sul rischio esistenziale si concentravano su catastrofi a bassa probabilità, col tempo quell’avvertenza è scomparsa: oggi l’attenzione è rivolta a una super-IA fuori controllo data non solo per probabile, ma per inevitabile.
Perché questo slittamento? Probabilmente perché la figura della super-intelligenza pronta a sfuggirci di mano era già una protagonista del discorso popolare, e invocarla significava sottolinearne l’inesorabilità, non la lontananza. In ciò Bostrom deve ringraziare Ray Kurzweil, che per anni—quando quasi nessuno prendeva l’IA sul serio—ha fuso l’idea di una convergenza tecnologica auto-rinforzante con un transumanesimo dal sapore quasi evangelico. Depressione (o esaltazione) diventa così una reazione “razionale” a una realtà data per predeterminata, anche se la predeterminazione è ben lontana dall’essere un’interpretazione razionale.
È proprio quest’altalena tra inevitabile ed evitabile a spiegare la fase di Depressione nel lutto da IA. Ricordiamo che la depressione può assumere forme bipolari, con bruschi passaggi dall’euforia alla disperazione. In politica, la “teoria del ferro di cavallo” descrive la sorprendente convergenza fra estremi opposti; applicata alla Depressione da IA, rivela la continua oscillazione fra un dolore messianico e un’estasi solenne per ciò che sta per accadere—spesso nella stessa persona, nello stesso blog, nella stessa subcultura. Il pubblico che applaude l’imminente trascendenza dell’IA batte ancor più forte le mani quando la promessa di salvezza si rovescia in profezia d’apocalisse.
Accettazione
Frasi tipiche: «L’emergere dell’intelligenza delle macchine è il risultato di forze evolutive più profonde di qualsiasi nostro abituale orizzonte storico; le sue conseguenze, sul lungo periodo, eccedono persino il nostro vocabolario».
L’Accettazione è impaziente di farsi da parte: nel presente scorge un futuro già all’opera; dove gli altri vedono caos, lei intravede l’inevitabile.
È l’ultima tappa, ma non necessariamente definitiva né intrinsecamente migliore delle altre. Accettare che cosa, esattamente? Per le fasi precedenti vorrebbe dire arrendersi a qualcosa di irreale, disumanizzante o apocalittico, magari un trucco da smascherare. Per l’Accettazione, invece, significa riconoscere che l’evoluzione dell’IA è sotto il controllo della politica tanto quanto lo è stata quella dell’intelligenza naturale — cioè pochissimo. La sua «artificialità» è reale, multiforme, inscritta in una lunga traiettoria di complessità crescente, «dai batteri a Bach e ritorno», per usare le parole di Daniel Dennett: un processo che plasma le società umane più di quanto ne sia plasmato.
L’Accettazione si chiede: l’IA appartiene alla storia umana, o è la storia umana a inscriversi in un processo bio-tecnologico che supera le nostre cosmologie locali? Le culture sono causa o effetto della materia? In che misura l’artificializzazione dell’intelligenza attraverso il linguaggio come avviene con i modelli linguistici è una tecnica nuova, e in che misura è la scoperta di una proprietà universale dell’intelligenza che, prima o poi, qualcuno avrebbe comunque portato alla luce?
Se vale la seconda ipotesi, l’IA è molto meno contingente e meno “sociomorfa” di quanto sembri: servivano menti brillanti per cucirne i pezzi, ma prima o poi qualcuno lo avrebbe fatto. I suoi inventori non sono novelli Prometeo, bensì le persone che si trovavano lì quando un aspetto intrinseco dell’intelligenza è stato reso operativo.
L’Accettazione convive con questi interrogativi, con il dubbio sul proprio margine d’azione e con le illusioni che inevitabilmente comporta. Fin dove occorre risalire, nella storia della tecnologia, della scienza e della società globali, prima che le traiettorie già tracciate pesino più delle contingenze?
Come ogni tecnologia complessa, l’IA nasce da una costellazione di tecnologie più semplici, dal calcolo infinitesimale ai data center. Una parte è frutto del caso: decisioni di comodo si auto-rafforzano, si cristallizzano (come le lancette che girano “in senso orario”) e, col tempo, diventano componenti di piattaforme sempre più grandi che ci appaiono naturali pur essendo arbitrarie. Il caso corre su binari propri: tutto converge finché la sua natura, fortuita e al tempo stesso necessaria, non diventa evidente.
Se metti assieme computer digitali, conoscenza delle reti neurali biologiche, montagne di dati linguistici già suddivisi in morfemi e un hardware sempre più veloce ed economico capace di far girare modelli autoricorsivi aperti a chiunque, non finirà per emergere una forma genuina di intelligenza innestata su un substrato non biologico? Magari non l’IA odierna, ma pur sempre qualcosa?
Quando una specie sviluppa le facoltà di astrazione e di comunicazione che noi associamo alla corteccia prefrontale, l’arrivo di una qualche forma di scrittura non è forse inevitabile? Dalla tavoletta sumera, pensata per tenere i conti, alla stampa a caratteri mobili, fino all’elettricità: ogni passo mette in moto un impulso che opera su scale disumane.
Una volta formalizzato il calcolo infinitesimale e costruiti macchinari industriali in serie, il computer moderno era quasi destinato a nascere non appena qualcuno applicò loro la logica binaria di Leibniz. Collega poi quei computer con un protocollo di rete rozzo ma funzionante e — lo si chiami come si vuole — otterrai Internet. I nomi e le date, in fondo, sono dettagli quasi accidentali.
Nella fase di Accettazione del lutto da IA, la parola che consola è “inevitabilità”. Alleggerisce: suggerisce che il mondo non possa essere che com’è. Ma è accettazione o resa? È un’inversione copernicana che vede l’azione umana come effetto e i processi planetari come causa, o è soltanto un modo molto umano di trasformare ciò che è accaduto in destino? Se restiamo nel modello di Kübler-Ross, di quale lutto stiamo parlando? Che cosa stiamo davvero lasciando andare, il nostro stesso scopo esistenziale?
Nel lutto, la risposta traumatica porta a pensare che ciò che è non potrebbe essere diverso: nessun senso di colpa, perché non c’è libertà; nessuna delusione, perché non esiste alternativa. Eppure riconoscere che il presente dipende da passato e futuro — e che perfino le decisioni più “forti” nascono all’interno di vincoli determinanti — non equivale per forza ad arrendersi.
Chiamiamo questa postura “Non-Lutto”. Arriva a una conclusione opposta: l’IA che abbiamo non era affatto inevitabile, e di certo non sarà l’ultima. La lezione è non trasformare il presente né in risultato irrevocabile, né in causa definitiva.
Non-Lutto
Ogni fase del lutto mescola paure e intuizioni, anche quando sbaglia bersaglio. Tra qualche anno potremmo voltarci indietro e pensare: «Se solo avessimo dato retta alle Cassandre!» oppure: «Ma che cosa avevano in mente? Perché dicevano simili sciocchezze?».
Esistono modi di riflettere sull’intelligenza artificializzata che non sono né ottimisti né pessimisti, né utopici né distopici. Al centro c’è la conciliazione del Trauma Copernicano con nuove idee di “vita”, “tecnologia” e “intelligenza”.
Esplorare i confini sempre più porosi tra questi concetti è il compito di Antikythera, il programma di ricerca che dirigo al Berggruen Institute (editore di Noema), in collaborazione con l’astrobiologa e fisica teorica Sara Walker. Nel suo saggio AI Is Life, Walker sostiene che la “vita” non appartiene a un singolo organismo: è un processo di linee evolutive lungo miliardi di anni. Anche la “tecnologia” evolve, inseparabile dall’evoluzione biologica — dai ribosomi alla robotica.
Ogni tecnologia esiste perché esiste una forma di vita in grado di crearla, e a sua volta genera entità che altrimenti non esisterebbero. Per Walker tutto è «selezione»: noi, ciò che costruiamo e ciò che, a sua volta, costruisce noi. «Così come nei secoli abbiamo delegato parte dei sensi alle tecnologie», scrive, «oggi stiamo esternalizzando funzioni della nostra mente».
Quando James Lovelock pubblicò Novacene: The Coming Age of Hyperintelligence, sapeva di essere alla fine. Nel capitolo conclusivo, che sorprende i lettori più mistici della teoria di Gaia, osserva serenamente che la vita terrestre potrebbe cedere il passo a forme abiotiche di intelligenza — e per lui va bene così. È rassicurato dall’idea che l’era dell’intelligenza umana stia lasciando spazio a qualcos’altro: non trascendenza, non un “livello successivo”, ma un ulteriore salto di fase nello stesso processo di selezione, complessificazione e aggregazione che chiamiamo “vita”.
Lovelock è sereno perché il trauma copernicano dell’IA non implica affatto che gli esseri umani diventino irrilevanti, sostituibili o in guerra con le proprie creature. Un’IA avanzata non annuncia la nostra estinzione, né come nobile abdicazione né come un urlo di insetti nel vuoto.
Ci ricorda, piuttosto, che l’intelligenza umana non è mai stata ciò che immaginavamo. È qualcosa che possediamo, sì, ma che in misura ancora maggiore ci possiede. Non vive solo nei singoli cervelli: si esprime soprattutto nelle strutture di comunicazione che li intrecciano, a cominciare dal linguaggio.
Come la vita, anche l’intelligenza è modulare, flessibile, scalabile: dai raffinati congegni subcellulari modellati da miliardi di anni di evoluzione fino alle vastissime aggregazioni di cui ciascuno di noi è al tempo stesso parte e manifestazione. Non c’è motivo di credere che la storia si concluda con noi; l’escatologia è inutile. L’evoluzione dell’intelligenza non si esaurisce in un’unica specie di primati nomadi intenta a plasmare il pianeta.
Ed è, in fondo, la notizia più rassicurante che si possa immaginare. Come Lovelock, non provo lutto, ma sollievo.
To read the original essay and other similar essays in English, visit noemamag.com.
0 comments on “I cinque stadi del lutto da AI”