Geopolitica dell’intelligenza artificiale

L’intelligenza artificiale sta diventando un nuovo campo di battaglia geopolitico. Dal ruolo dell’IA nella definizione delle narrazioni nazionali e personali, all’innovazione guidata da diversi paesi, questa rivoluzione tecnologica ha importanti implicazioni globali.


in copertina e lungo il testo: Fortunato Depero, Grammofono (1923) – Collage su cartoncino – Asta pananti in corso

Questo testo è tratto da Antroplogia per le intelligenze artificiali, di Filippo Lubrano. Ringraziamo l’autore e D editore per la concessione.

di Filippo Lubrano

La nostra narrazione quotidiana serve a costruire giornalmente una percezione di un sé continuo, e ci serve per rappresentare il mondo come un flusso di avvenimenti più o meno collegati da un fil rouge, salvandoci così dall’accettarlo per quello che invece è: una grandissima accozzaglia di eventi randomici, spesso totalmente scollegati l’uno dall’altro. In questa narrazione, siamo portati come esseri umani a vedere correlazioni forti sulla base di quello che il nostro cervello ci suggerisce essere logico. Ci aspettiamo che qualcosa vada in una certa maniera, e allora stiamo particolarmente attenti a tutti i dettagli che secondo noi ha senso che siano la causa di quel qualcosa che accade. Qualcuno fuma due pacchetti di sigarette al giorno, e quindi se muore di tumore a quarant’anni è perché i suoi polmoni sono un colabrodo. Se la spiegazione ci appaga, non abbiamo bisogno di collezionare altri dati. Abbiamo già visto precedentemente come le nostre percezioni siano spesso sbagliate, perché fortemente condizionate dai bias insiti nel nostro cervello e nelle nostre culture. Su questo tema, l’intelligenza artificiale ha un grosso vantaggio, che può essere anche un’arma a doppio taglio: non ha un cervello, appunto. Il suo cervello siamo noi – anzi, sono i dati che le diamo in pasto. Per questo, è in grado di creare collegamenti tra dati che per noi risulterebbero totalmente invisibili. Sono i cosiddetti “segnali deboli”. Esercitando l’intelligenza artificiale su un quantitativo enorme di dati, può venire fuori dunque che tutti i quarantenni morti in un certo intervallo di tempo avevano una particolare abitudine alimentare – mettiamo che tutti mangiassero pomodori verdi fritti – e che quindi è quello, molto più dei pacchetti di sigarette fumati, che determina una morte precoce. O ancora, magari quei morti quarantenni sono concentrati tutti in una particolare regione, dove il gioco dei venti porta ad avere una concentrazione di polveri sottili e inquinamento particolarmente elevati.

Si può dire dunque che l’intelligenza artificiale abbia una sua “creatività”, che non risiede tanto nel software in sé, quanto nei risultati anche molto inaspettati che può produrre.

(…)
In un convegno, una nota imprenditrice italiana che non avrebbe piacere a essere ricordata per questo aforisma, disse: «Quando arriva un’innovazione tecnologica, gli americani ci fanno un business, i cinesi la copiano, e gli europei la regolano».

La citazione non è recentissima, ma lo stereotipo almeno parzialmente è ancora attuale. Già, perché se il senso innato del business è rimasto uno dei capisaldi di quel che rimane delle vestigia del “sogno americano”, e se gli europei non hanno perso un certo gusto per la regolamentazione, è invece da un pezzo che i cinesi si sono smarcati dalla loro fama di meri copycat, costituendo invece un vero e proprio polo di innovazione a sé stante.

Un ring per (almeno) tre

Nella congiuntura mondiale attuale ci troviamo di fronte ai preparativi del match del secolo di boxe. Diciamo che è ancora la fase in cui sfilano i messaggi pubblicitari pre-incontro, e gli allibratori raccolgono le loro scommesse. Il punto è che non si sa esattamente quanti siano i contendenti sul ring. Di sicuro, sono almeno tre.

Da un lato abbiamo gli attuali campioni in carica, gli usa, rappresentati dalla loro regione-campione, la Silicon Valley. La loro proposta è quella in cui the future is private, come annunciava cum magno gaudio Zuckerberg in una conferenza qualche anno fa. Un annuncio coerente con la visione del mondo turbocapitalista che inizia in realtà a scricchiolare nelle convinzioni delle nuove generazioni anche nella sua madre patria. Il manifesto che vi sottende è chiaro: buttiamo fuori dalla stanza dei bottoni tutte le tecnostrutture degli Stati-Nazione, con le loro inefficienze, il loro inutile filtro demagogico. “Fidatevi di noi, e del mercato”, urlano orgogliosi a Cupertino, Mountain View e Palo Alto: d’altronde, avendo comprato i migliori professionisti del mondo pagandoli cifre che il settore pubblico non potrebbe mai permettersi, è normale che si aspettino ora un importante dividendo. La visione di Meta, Apple, Amazon, Google, Microsoft e sorelle è quella di un mondo in cui il potere decisionale risiede nelle corporazioni. In fondo, è un potere almeno implicitamente delegato dal popolo: ci sono più utenti su Facebook (e su Instagram e Whatsapp, che fanno comunque parte della stessa costellazione) che in quasi qualsiasi nazione al mondo. E sono utenti sparsi per il globo: per un armeno, per un messicano o per uno slovacco, le decisioni prese da Zuckerberg hanno spesso un impatto più immediato, e talvolta più profondo, sulla propria vita rispetto a qualsiasi disposizione governativa.

Sicuramente all’angolo opposto rispetto a quello degli usa siede il principale contender: la Cina. I suoi modelli di sviluppo sono nati sulla falsariga di quelli americani, ma si sono poi evoluti in modo totalmente distintivo, tant’è che ora è Zuckerberg stesso a studiare non solo il mandarino, ma anche un modo di tentare di replicare il modello di business di WeChat, per contestualizzarlo nella sua piattaforma.

Nell’Impero di Mezzo la competizione in ambito digitale è recentissima, ma non per questo meno agguerrita. Chi vince, spesso viene acquisito o comunque in qualche modo eteroguidato dal Partito Comunista Cinese, che sceglie con grande attenzione i suoi “campioni digitali” per gonfiarli di steroidi come solo in un’economia diversamente capitalista come quella cinese può succedere. Lo sviluppo dell’intelligenza artificiale, qui, è molto più centralizzato, e guidato dagli oltre quattromila incubatori nati sotto l’impulso di Pechino nell’arco di un lustro, oltre che dalla fame di rivalsa di una popolazione che ha dalla sua la prospettiva di diventare la più ricca delle generazioni viventi, a differenza dei Millennials e Gen-Z occidentali che vivono in simbiosi idiosincratica con i Baby-boomers, da cui spesso dipendono economicamente e con cui mai potrebbero competere sul piano del reddito – o, peggio della prospettiva della pensione.

Sul ring c’è spazio anche per almeno un outsider: l’Europa. Sebbene quasi priva di unicorni, le startup valutate più di un miliardo di dollari, e con un ecosistema imprenditoriale ben più arretrato digitalmente che nel resto del mondo – anche per l’età media del Continente, ora vecchio non solo nell’accezione storica, ma anche dal punto di vista demografico – l’Europa ha ancora voglia di dire la sua. Il suo apporto non è sui grandi numeri, ma è importantissimo da un punto di vista del bilanciamento e della mediazione tra i due poli succitati. Il modello che Bruxelles propone è quello di uno sviluppo tecnologico in ambito intelligenza artificiale molto più antropocentrico, che punta tutto sull’affidabilità, declinando gli obiettivi di sostenibilità (sdg, Strategic Development Goals) anche in quest’ambito. Se da un punto di vista delle capitalizzazioni il ruolo europeo è marginale, il riscatto può essere sulla prospettiva morale, dove il proverbiale ruolo “regolatorio” dell’Europa può riprendere il famoso meden agan, il “nessun eccesso” di Delfi.

L’ultimo angolo rimasto – ipotizzando un canonico ring quadrato – è quello “di servizio”, che ragionevolmente nel momento storico in cui scriviamo risulta assegnabile alla Startup Nation per eccellenza, Israele, e più diffusamente al popolo ebraico. Nonostante le controversie geopolitiche che li riguardano, il loro ruolo nel campo dell’innovazione è sempre stato preponderante in ogni epoca storica [EP1] – basti ricordare che quasi un quarto dei premi Nobel è stato assegnato a ebrei – e pare proprio che la rivoluzione digitale sia destinata a non fare eccezione.

Il ring potrebbe però anche assumere forme di poligoni con un numero maggiore di lati. Nei prossimi decenni è infatti probabile si affaccino altre economie sulla ribalta internazionale, e non necessariamente solo quelle con i redditi pro-capite più alti. È legittimo pensare che un ruolo importante in queste evoluzioni lo giochi l’età media dei singoli Paesi, per cui anche una nazione con enormi problemi logistici e di governabilità come l’Indonesia, o in Africa l’eterna promessa della Nigeria, potrebbero giovare di un’accelerazione importante in questo settore, e imporre alcune delle loro soluzioni su scala globale.

Non è detto infatti che vinca un unico modello, anzi. Sebbene la lotta per la spartizione dei dividendi più importanti della nuova economia sarà aspra, si può ragionevolmente ipotizzare che nel complesso convivranno più modelli contemporaneamente. Nella coda lunga ci saranno spazi per nicchie anche molto remunerative, ma è chiaro che il fenomeno che abbiamo visto accelerare nel mondo capitalista, ovvero un progressivo accentramento di poteri e denari nelle mani di pochi grandi player globali, pare essere il più verosimile anche in quest’ambito.

La vera novità, però, è che per la prima volta, gli assi-pigliatutto potrebbero non essere necessariamente americani.

Shanzhai, lo spirito della copia digitale à la Robin Hood cinese
Una buona prima introduzione al concetto di innovazione cinese applicata al XXI secolo viene dall’analisi del fenomeno del cosiddetto shanzhai. Shanzhai significa letteralmente “villaggi di montagna” e deriva dal gergo cantonese che indicava fabbriche mal funzionanti, mal attrezzate e a conduzione familiare, e indica oggi in maniera spesso parodistica un certo modo grottesco di contraffare marchi e prodotti che si ritrova talvolta nel mondo asiatico, e in Cina in particolare. Il concetto di shanzhai si applica a prodotti provenienti da settori molto diversi: può essere applicato a marchi rivisitati come Obama Fried Chicken, StarFucks, Cavern Kernel e Hike, o ancora in ambito informatico Gooje, che addirittura osa scimmiottare Google in un paese in cui non gestisce le sue operazioni. O che dire per esempio di Geely (che suona come “fortunato” in mandarino), uno dei marchi automobilistici locali, che sembra aver preso almeno un po’ di ispirazione dai modelli già esistenti sul mercato occidentale, tipo Volvo e Lotus? Il motivo per cui lo shanzhai è possibile in Cina è che è praticamente impossibile citare in giudizio le società locali sul mercato interno.

Ma ci sono anche ragioni più nobili, quasi ideologiche. Almeno come facciata, insomma.

A Shenzhen, la patria della tecnologia dell’informazione – sia software che hardware – il concetto di shanzhai è usato per riferirsi a copie funzionali ma molto più economiche dei prodotti originali. Qui si possono trovare facilmente degli iPhone di ultima generazione a cento dollari, ottenuti montando gli stessi elementi che utilizza Apple e abbattendo tutti i costi di design e proprietà intellettuale. Allo stesso modo, frugando tra gli scaffali dello HuaQiangBei market, il centro dell’hardware a buon mercato di Shenzhen, si potranno scovare meraviglie tecnologiche come l’ultimo modello di PolyStation. Giudicato con il metro morale cinese, questo approccio di copia sistematica è un processo di democratizzazione. Chi copia in Cina si sente un Robin Hood dell’era digitale: ruba ai ricchi – le grandi multinazionali – per dare ai poveri – i piccoli artigiani dell’informatica che vendono i loro prodotti ai lavoratori che non avrebbero mai i soldi per comprare il prodotto originale. In un documentario che è diventato virale online, un imprenditore del Guangdong afferma:

Le innovazioni non sono proprietà di nessuno. Le innovazioni appartengono all’umanità. Se qualcuno inventa qualcosa, dovrei restare a guardare, ignorando l’invenzione per decenni solo perché qualcuno ha pagato un avvocato per tutelare il fatto che sia arrivato prima? Se le grandi aziende spendessero la stessa quantità di tempo e denaro che hanno investito negli uffici legali per proteggere le loro invenzioni, investendo quei soldi in nuove ricerche, la velocità con cui innoveremmo a livello globale sarebbe molto maggiore

Un manifesto piuttosto audace, e che ovviamente fa molto discutere, visto da una prospettiva occidentale, ma che in Cina rappresenta la maggioranza delle posizioni etiche.

Tuttavia, il fenomeno dello shanzhai, che nei primi anni Duemila valeva circa un decimo dell’intero mercato telefonico cinese (uno smartphone su dieci era shanzhai) si sta ora drasticamente riducendo, sia per l’aumento della disponibilità economica della classe media, sia per la repressione voluta da Xi Jinping sul tema della contraffazione in nome del soft power. E anche perché è probabile che presto, soprattutto dal punto di vista tecnologico, le migliori marche sul mercato saranno quelle cinesi. Capire come questo possa succedere è uno dei passaggi logici fondamentali per poterci addentrare in questo secolo in maniera consapevole.

Il secolo delle umiliazioni e il “momento Sputnik”

A livello di digitalizzazione, il raggiungimento di un tasso di penetrazione così elevato nel sistema cinese è avvenimento molto, molto recente, frutto di pianificazione da parte del Partito, insieme a qualche momento topico fortuito. Uno degli spartiacque decisivi è stato indubbiamente l’intuizione da parte del team di WeChat dell’aggiunta di una precisa funzionalità all’app: la possibilità di inviare digitalmente le famose “buste rosse” con cui ci si scambiano da secoli gli auguri – e, con essi, del denaro – per il nuovo anno cinese. Questa nuova opzione, introdotta in occasione del capodanno cinese del 2014, diede una spinta enorme alla digitalizzazione dei portafogli cinesi – e infatti fu recepita malissimo da Jack Ma, autore dell’altro grande sistema di pagamento digitale, Alipay, di Alibaba. La conseguente corsa di Alipay a questo mercato in forte crescita, in concorrenza proprio con WeChat, contribuì fortemente al radicamento della pratica nel mercato cinese, che avvenne con modalità non sempre molto trasparenti: per vincere uno dei mercati più resistenti al cambiamento, quello dei tassisti, totalmente dipendenti dal contante, le piattaforme di pagamento arrivarono a spendere diverse centinaia di milioni di dollari in sconti e corse gratis, che crearono anche occasioni di truffe tra tassisti e passeggeri che si accordavano per far risultare corse in realtà mai avvenute.

Ma forse uno dei momenti a livello simbolico più importanti, che attivarono poi la vera corsa all’innovazione nel campo dell’intelligenza artificiale, fu la vittoria dell’intelligenza artificiale AlphaGo – sviluppata da Google DeepMind – nel 2016 sul campione mondiale di Go, un gioco tipico della tradizione cinese considerato a livello computazionale estremamente più complesso degli scacchi – un altro gioco su cui a lungo si è concentrata la gara per creare l’intelligenza artificiale più forte, poi conclusasi con l’affermazione di ibm. Per intenderci, il gioco del Go prevede un numero di mosse possibili superiore al numero di atomi nell’universo. Quella vittoria di matrice interamente americana in un gioco così smaccatamente asiatico fece riattivare una sorta di “momento Sputnik” per la Cina, il cui ricordo del “secolo delle umiliazioni” era – ed è – ancora così vivo.

Così come il lancio dello Sputnik nello spazio da parte dell’Unione Sovietica fece scattare una corsa ai finanziamenti ai tempi della guerra fredda da parte dell’amministrazione americana verso la nasa, che culminò poi con lo sbarco sulla Luna nel 1969, allo stesso modo la vittoria dell’americana AlphaGo convinse l’amministrazione cinese che era venuto il tempo di investire massivamente in intelligenza artificiale, come testimonia lo scrittore e imprenditore Kai-Fu Lee . Memore dell’onta derivante dall’aver perso il treno della scorsa rivoluzione industriale, la Cina non poteva certo tollerare di commettere lo stesso errore una seconda volta.

La creazione dell’ecosistema dell’intelligenza artificiale cinese poteva contare su solide basi: materie prime, tra le terre rare presenti sul proprio suolo e l’accesso alle principali miniere africane, tutte in orbita economica cinese; hardware a bassissimo mercato; una forza lavoro affamatissima di rivalsa; budget per finanziare un piano ambizioso e visione politica allineata dal punto di vista strategico. Tutti i tasselli erano a posto, e letta alla luce di questi fattori non risulta poi così sorprendente l’altrimenti incredibile crescita dell’ecosistema cinese, secondo tutte le principali metriche: numero di exit, capacità di spesa dei venture capital, numero di unicorni, sovrabbondanza di incubatori e acceleratori, saggi accademici pubblicati, brevetti. Non esiste un singolo indicatore che non veda la Cina in una solidissima posizione – una posizione conquistata economicamente in meno di un lustro, ma che discende da una forma mentis che viene da lontano.

Il surplus comportamentale: il capitalismo della sorveglianza…

In uno dei best seller dell’era digitale, Shoshana Zuboff ha presentato quello che lei definisce con l’affascinante locuzione Il capitalismo della sorveglianza. Lo spesso volume della professoressa di Harvard risulta a tratti vagamente paranoico e ridondante, ma se c’è una cosa che fa egregiamente è raccontare la svolta copernicana avvenuta nel settore digitale negli ultimi due decenni scarsi.

Che cos’hanno in comune tutte le aziende che ora dominano per capitalizzazione le borse mondiali?

Punto primo: sono immateriali – l’aneddoto classico per antonomasia al riguardo è quello di Airbnb, che vale più della catena di Marriott, senza possedere neanche una singola stanza d’hotel.

Punto secondo: sono leggere, con costi fissi molto bassi – ahinoi, anche tassi di occupazione molto bassi, data l’estrema automazione dei processi e servizi – e hanno il famoso “costo marginale zero” per prodotto venduto.

Punto terzo: fino a inizio secolo non avevano quasi alcuna idea di come fare soldi. Facebook è stata ampiamente in perdita anche nel periodo post-IPO in borsa, WhatsApp (comprata proprio da Facebook per quella che allora pareva l’insensata cifra di sedici miliardi di dollari) si può dire che non abbia un proprio modello di business, Amazon ha costruito tutta la sua narrazione con i pitch di Bezos ai suoi investitori: più cresceva, più crescevano i debiti, più quote di mercato stava comprandosi. «Fidatevi, un giorno tutto questo darà i suoi frutti», raccontava Jeff, che oggi è saldamente sul podio degli uomini più ricchi sulla faccia della terra e ha fatto felici parecchi di quelli che l’hanno ascoltato.

Cos’è cambiato, quindi, nel passaggio da quando le società del mondo digitale promettevano di fare soldi, a quando hanno iniziato a farli sul serio? Essenzialmente, una cosa sola: si è capito che il valore aggiunto era in quello che finora si era quasi sempre trascurato, o quantomeno sottoutilizzato: i dati degli utenti. Quelli che Zuboff chiama efficacemente data exhaust, dati di scarico, come fossero un prodotto marginale, dei rifiuti, sono diventati la sorgente delle fortune di questi nuovi imperi imprenditoriali. Quello che le aziende, infatti, ora vendono sono essenzialmente previsioni sempre migliori, sempre più accurate, sui nostri comportamenti. È il “surplus comportamentale”, nuova miniera d’oro delle startup che ora sono diventate multinazionali.

A pensarci bene, le previsioni sul futuro sono da sempre uno dei business più redditizi, e non solo nel mondo delle scommesse sportive. Il concetto di resicum, ovvero l’incertezza delle imprese in ambito navale, abilitò il primo contratto con cui ci si poteva assicurare dall’affondamento o dalla scomparsa di una nave nelle imprese esplorativo-commerciali che caratterizzarono la seconda metà del millennio appena terminato. Da lì nacque di fatto il settore assicurativo, che fa delle previsioni sul futuro il suo mestiere. Anche la finanza, regina dei guadagni facili dell’ultimo secolo, si basa su previsioni sul futuro. In generale, ogni business plan, ogni impresa, nasce essenzialmente promettendo cose e cercando di stimare al meglio il comportamento dei clienti – e, quindi, dei mercati – per poter crescere di valore nel lungo periodo.

Quello che le nuove aziende regine delle valutazioni globali riescono a fare è dunque migliorare questa capacità previsionale, riducendo l’incertezza, i rischi. Siamo, da sempre, disposti a pagare per essere più sicuri. Ed è da questa disponibilità, insita nell’animo umano, che sono nati i successi della Silicon Valley, poi estesi a macchia di leopardo in altri luoghi del pianeta che hanno saputo intercettare, e declinare, quest’esigenza.

“Fin qui tutto bene”, quindi, o quasi, come diceva Vincent Cassel mentre cadeva dal cinquantesimo piano nel film cult di Matthieu Kassowitz, L’odio (La haine). Le previsioni di questi algoritmi, che guidano mastodontiche imprese che dispongono di quantità di dati su cui farli allenare senza precedenti nella storia umana, non sono però solo previsioni accurate. Il problema, è che sono anche auto-avveranti: le famose self-fulfilling prophecies.

Gli algoritmi a cui abbiamo regalato volontariamente i nostri dati in cambio della possibilità di restare in contatto con i nostri amici, o di vedere come sarà la nostra faccia quando avremo ottant’anni, adesso hanno imparato non solo a ri-conoscerci, ma anche a conoscerci. E, in alcuni casi, lo fanno meglio dei nostri amici, del nostro partner, o di nostra madre. Secondo uno studio del 2015 dell’Università di Cambridge e di Stanford esistono quattro livelli di soglia con cui l’algoritmo di Facebook è in grado di conoscere le persone. Analizzando dieci “Mi piace”, Facebook è in grado di conoscere la tua personalità meglio di un collega di lavoro. Con settanta, meglio di un caro amico; con cento meglio dei tuoi genitori. Con trecento, meglio del tuo partner. E c’è chi sostiene che esiste anche una soglia oltre la quale l’algoritmo di Zuckerberg è in grado di conoscerti meglio di te stesso. Altro che gnothi seauton.

È il caso di alcuni segnali deboli che al singolo individuo possono sfuggire, ma non alla grande macchina che tutti i dati trita. Così, l’algoritmo può scoprire che un certo utente maschile inconsciamente clicca di più su pubblicità che espongono corpi di uomini, e pertanto inizierà a proporci sempre più prodotti con quella tipologia di pubblicità, secondo le logiche dell’AB testing (una maniera di dividere la popolazione di una pubblicità in sottogruppi, al variare di una singola variabile, per capire quale funziona meglio a seconda del sottogruppo scelto). E così, l’algoritmo può scoprire che abbiamo tendenze omosessuali prima che noi stessi ne prendiamo coscienza – o abbiamo il coraggio di ammetterlo, in contesti culturali in cui questo può risultare ancora un problema difficile da superare. Sulla base di questa nuova consapevolezza, il sistema inizierà a proporci contenuti sempre più in linea con il nostro vero profilo, inducendoci a fare scelte in automatico, mettendo seriamente in discussione anche il concetto stesso di libero arbitrio. Qualcosa su cui avremo modo di tornare a discutere in dettaglio più avanti, ma che per il momento dovrebbe bastarci a trasmetterci un giustificato senso di inquietudine: davvero vogliamo che queste informazioni, e il potere che ne deriva, siano lasciate in mano a delle corporazioni private?

…e la sua versione socialista

Il rischio è quello di passare dalla padella privata, alla brace pubblica. L’altro modello infatti con cui circa un quarto della popolazione mondiale connessa ha a che fare è quello del Great Firewall cinese, all’ombra del quale aleggia vivo lo spirito di Mao. Scegliere se dare in pasto le vostre informazioni personali a Facebook, Instagram, Snapchat o TikTok può sembrare una scelta banale, ma non lo è affatto. Nei primi tre casi, state indirettamente contribuendo ad arricchire delle aziende private statunitensi, che useranno i vostri dati “contro di voi”, cioè per targettizzare meglio quello che vedrete, senza che ovviamente a voi venga riconosciuto nessun dividendo riguardo all’utilizzo dei vostri dati sensibili. D’altronde, siete voi che avete accettato, cliccando su Conferma senza aver letto nulla dei termini del servizio.

Nel caso di TikTok, state invece regalando le vostre informazioni al governo cinese. Non esiste informazione che passi su un social cinese senza che un algoritmo – e una batteria di turchi meccanici, gli esseri umani che fanno operazioni ripetitive “da automi”, e sono pagati pochi centesimi di yuan a clic – li abbia passati al setaccio. Questo accade per TikTok, la piattaforma dell’azienda ByteDance preferita dai Gen Z anche del mondo occidentale (che in Cina è conosciuta invece come Douyin, in una versione in verità leggermente diversa), ma anche per gli altri social network: RenRen, il primo vero Facebook cinese, Sina Weibo, una sorta di Twitter in salsa asiatica, iQiyi e Youku, che fanno le veci di YouTube nell’Impero di Mezzo, e tutti gli altri, nati e nascituri. Ogni tanto, qualche utente riesce a far breccia nel sistema con mezzi più o meno arguti: a fine 2019, fece scalpore il finto tutorial di make-up di Feroza Aziz, una diciassettenne statunitense che nascose in un apparente video di bellezza per ragazzine un messaggio di protesta riguardo le condizioni in cui versano gli uiguri nello Xinjiang – una mossa che non fu molto gradita a Pechino.

Ma per lo più, il sistema non è raggirabile, e regge molto bene. Ricordate cosa dissero i miei giovani ospiti cinesi a cena? «Se il mio governo dice che non devo vederlo, vuol dire che non devo vederlo». In Cina, il rispetto per l’autorità e la gerarchia spesso supera la ricerca occidentale della “verità”: è qualcosa che sacrificano volentieri per un bene più grande, il bene comune. Qualcosa di molto difficile da comprendere da una prospettiva europea, è chiaro.

Con l’immensa opera di digitalizzazione dei dati occorsa in Cina negli ultimi decenni, anche e soprattutto grazie al “telecomando per la vita[EP1] ”, come è definita in Cina la super-app WeChat, che si è letteralmente mangiata il web cinese, Pechino si è trovata con una quantità di dati senza precedenti da poter gestire. Una situazione che costituisce essenzialmente il sogno di qualsiasi regime autocratico. Ma quanto è radicata la digitalizzazione nel sistema cinese? Un esempio molto convincente viene da un aneddoto: nel 2017 una coppia di ladri si recò a Hangzhou per derubare alcuni negozi dei loro introiti quotidiani. Dopo aver fatto irruzione in una dozzina di attività, si resero conto di aver portato a casa solo l’equivalente di poco più di cento dollari, neanche sufficienti per pagare il loro viaggio di rientro – ovviamente, i due vennero poi riconosciuti dai sistemi di sorveglianza e arrestati. In effetti già da qualche anno qualsiasi turista occidentale poteva constatare che anche i senzatetto in Cina sono soliti girare con un cartellino con un qr code al collo: in un Paese totalmente cashless, non è più attuale chiedere qualche spicciolo di elemosina. Anche la carità è diventata quindi digitale: si scansiona un riquadro col cellulare ed ecco fatta la buona azione samarit…, pardon, confuciana.

Non è solo la quantità dei dati a fare la differenza, ma la qualità e la granularità degli stessi: in un’epoca in cui tutti i maggiori futurologi concordano che Data is the new oil, è evidente che la Cina sta assumendo una posizione strategica molto più vantaggiosa di uno stato del Golfo Persico. La sua fonte di petrolio è rinnovabile, e rinnovata ogni giorno; praticamente inesauribile.

Solo queste condizioni, sia a livello di forma mentis che di contesto tecnologico, potevano permettere l’affermarsi di un progetto come il Sistema di Credito Sociale. Distopico, aberrante, insensato, agli occhi di un occidentale. Pieno compimento, invece, del sistema confuciano per i suoi propugnatori di Pechino.

Ma cos’è il Sistema di Credito Sociale che abbiamo già brevemente citato? Innanzitutto, non esiste solo un scs, ma più d’uno. Insieme, ambiscono a creare un’infrastruttura onnivora a livello di dati, capace di sintetizzare in una sorta di “voto” ogni singolo cittadino della Repubblica popolare cinese. Da dove arrivano i dati in ingresso, per quest’immenso sistema di pagelle civiche? Be’, si fa prima a dire da dove non arrivino. Grazie all’onnipresenza degli smartphone nella vita dei cinesi, il lavoro che una volta veniva svolto da un enorme esercito di burocrati calligrafi ora è delegato al cittadino stesso, che su base – come dire… – “volontaria”, consegna ogni suo acquisto, check-in, opinione, a questo sistema di Grandi Fratelli capaci di elaborarli e di assegnare quindi una valutazione numerica in uscita. Nella pratica, si parte da un valore standard, e poi a seconda dei comportamenti virtuosi (acquisto di prodotti salutari, partecipazione a iniziative di volontariato locali, track-record di buona condotta finanziaria) e al netto di quelli viziosi (acquisto di liquori o sigarette, cattivi comportamenti sui social media, infrazioni alla guida di vario genere, coinvolgimento in risse o altre situazioni negative) si sale o si scende in classifica in tempo sostanzialmente reale. Sopra una certa soglia, si potranno godere alcuni benefici: prezzi scontati su alcune prestazioni, priorità in coda nei servizi ospedalieri, upgrade automatici in prima classe sui trasporti eccetera. Al di sotto, invece, si rischia di vedere le proprie visite ospedaliere ritardate di mesi, aumenti di costi di alcuni servizi basilari, fino, nei casi più gravi – come alcuni riservati, ahinoi, a giornalisti indipendenti – all’impossibilità di spostarsi via treno o via aereo da una città all’altra. In sintesi, un vero e proprio “socialismo della sorveglianza”. Con caratteristiche cinesi, ovviamente. Un sistema, insomma, che rende reale quello che forse provocatoriamente avevano azzardato gli sceneggiatori di Black Mirror nell’episodio Nosedive, dove la protagonista della puntata distopica che estendeva la valutazione a ogni interazione sociale entrava appunto in una spirale di feedback negativi da parte di tutte le persone che le stavano intorno, fino al finale tragico.

Quello che cambia è che in Cina un sistema del genere è invece accolto con essenziale benevolenza da parte della popolazione. D’altronde, il sistema di acquisizione dei “meriti”, che in qualche modo assomiglia a una versione ben più laica – e priva di transazione economica – delle indulgenze cristiane, è sempre stato centrale nel pensiero buddhista, e più latamente confuciano. È in questi casi che si esemplifica al meglio la rilevanza della differenza di vedute, nel processo di generazione di idee e sistemi che guideranno il nostro futuro. Perché se al momento un sistema come quello dei Crediti Sociali sembra sostanzialmente impossibile da esportare fuori dalla Cina, non è detto che alcuni regimi autocratici anche altrove nel futuro non guardino a Pechino come fornitore, magari gratuito, di un software che è la quintessenza del controllo orwelliano delle masse.

È facile cedere alla tentazione di etichettare fenomeni come questi semplicemente come esempi espliciti di un regime dittatoriale. Ma sarebbe erroneo farlo. Perché la storia ci insegna che anche le dittature – soprattutto, le dittature – si possono rovesciare, se non fanno l’interesse delle persone. E non a caso il Partito popolare cinese ha molto a cuore la questione del controllo dell’opinione pubblica. Il fatto di non tenere libere elezioni non significa infatti che il Partito unico abbia intenzione di andare per la sua strada. La legittimazione popolare è il primo pensiero di qualsiasi politico, dal sindaco di una piccola città a Xi Jinping.

L’innovazione dalle periferie dell’impero: un modello esportabile

La principale lezione da imparare qui è che centri di innovazione altri, alimentati da altre motivazioni, potrebbero in futuro condurre a sviluppi tecnologici del tutto sorprendenti. Non è solo la geografia dell’innovazione che potrebbe stupirci, ma il fatto che l’innovazione stessa potrebbe essere mossa da motivazioni molto lontane dal pensiero ortodosso della Silicon Valley.

L’abbassamento progressivo delle barriere all’ingresso nel mondo dell’innovazione fa sì che, in un futuro, sia lecito aspettarsi che un cattolico possa sviluppare delle app basate sui dieci comandamenti e che queste possano rapidamente espandersi magari nelle comunità religiose delle Filippine e poi in America Latina. O che la ricerca e sviluppo di Scientology si inventi chissà quale meccanismo di catalogazione che possa poi trovare applicazione concreta anche in altri luoghi e per finalità ben diverse da quella iniziale. È questa educazione mentale a nuove sorgenti di innovazione che va allenata per essere pronti a cogliere gli input provenienti potenzialmente da ogni angolo della società civile. L’innovazione, come un dio laico, è ancora nei dettagli.

Esistono altre ragioni che giustificano l’accettazione su così vasta scala di un sistema come quello dei Crediti Sociali, e molte risiedono nella sostanziale mancanza di fiducia tra persona e persona, ma anche tra persone e aziende. Un rapporto, quest’ultimo, minato alla base da alcuni scandali clamorosi, come la vicenda dell’azienda cinese che aveva aggiunto melamina al latte per bambini sconvolgendo l’opinione pubblica locale nel 2008. L’homo homini lupus hobbesiano, nato a qualche decina di migliaia di chilometri di distanza, pare aver attecchito benissimo anche nella cultura confuciana. Ecco da dove deriva quindi l’esigenza di avere dei dati oggettivi con cui sostituire il mancante rapporto di fiducia tra persone e aziende – poi estesosi anche oltre. D’altronde, il sistema di rating non ci è affatto nuovo neanche in Occidente: è su quello che basiamo spesso la nostra fiducia nei confronti di aziende che non conosciamo, ma anche di persone. Così come in banca è necessario lasciare le proprie credenziali, e si passa attraverso un sistema di due-diligence in qualche modo simile a quello del Sistema di Credito Sociale, solo meno automatizzato, allo stesso modo quando abbiamo iniziato a comprare online su eBay ci fidavamo solo dei venditori con i feedback migliori; così come le “stelline” assegnate da utenti prima di noi guidano le nostre scelte quando scegliamo un ristorante guardando le recensioni su Tripadvisor, Google o Yelp, oppure quando dobbiamo affidarci a uno sconosciuto per farci riaccompagnare a casa usando Uber.

In sintesi, come fa notare il filosofo tedesco di origine coreana Byung-Chul Han:

La forte richiesta di trasparenza rinvia proprio al fatto che il fondamento morale della società è diventato fragile, che i valori morali come la sincerità o l’onestà divengono sempre più insignificanti. Al posto dell’istanza morale caduta in disgrazia, compare la trasparenza come nuovo imperativo sociale[1][mm1]

Come spesso succede, insomma, guardando da vicino le cose, non si scopre solo che nulla è normale, comprese le nostre abitudini; ma anche che nulla è del tutto incomprensibile, comprese le abitudini che di primo acchito reputiamo barbare.

A ogni modo, lo stesso ottimismo tecnologico, o laissez-faire socio-politico, palesato nei confronti del Sistema di Credito Sociale, che ormai si sta radicando nella maggior parte del territorio cinese dopo una fase di test che ha coinvolto un primo numero di metropoli-pilota, ha portato la Cina a essere il Paese con il maggior numero di impianti di telesorveglianza al mondo, e non a caso quella con i maggiori produttori di sistemi di telecamere a riconoscimento facciale, capitanate dal gigante Hikvision. “Se non hai nulla da nascondere, non hai nulla da temere”, è il refrain che si sente pronunciare all’unisono dai cittadini a Hangzhou come a Chengdu, da Wuhan sino a Canton. E in un mondo dove la priorità sociale numero uno è quella di “non perdere la faccia”, anche la sola esposizione al pubblico ludibrio su dei megaschermi negli incroci stradali per aver attraversato col rosso può essere un deterrente capace di creare circuiti virtuosi. Almeno, dal punto di vista confuciano.

Capirsi tra umani oggi, per capirsi coi robot domani

«È difficile fare previsioni, soprattutto sul futuro», diceva il fisico danese Niels Bohr.

Al di là del pleonasmo, la verità è che fare previsioni è un mestiere in cui si ha solo da perdere: azzeccare una previsione, dal punto di vista di chi le osserva nel futuro, è semplicemente ovvio. Sbagliarle, invece, fa scadere a posteriori nel ridicolo.

Un noto “esperto” di previsioni è l’inventore Ray Kurzweil, il “padre” della singolarità, o almeno della sua formulazione ideologica, che tiene particolarmente a fregiarsi di avere un record dell’“86% di previsioni esatte”, anche se nessuno ha capito da dove provenga questo numero.

Le previsioni incidentalmente raccolte in quest’opera non sono mai di lungo periodo, né hanno le stimmate della profezia. Quando si parla di tecnologia e intelligenza artificiale il punto di osservazione è sempre quello a cavallo tra il presente e il futuro. In alcuni casi il futuro è già qui, o è talmente vicino da poterlo toccare. Descriverlo è l’unico esercizio intellettuale onesto che si possa fare, allora, anche se domani una pandemia o qualche altro cataclisma può far cambiare il mondo per sempre. Ma il gioco vale la candela. Le previsioni che trovate qui non sono quindi propriamente previsioni, quanto logiche conseguenze o avvertimenti su un futuro che è imminente. E anche se non si svilupperà così nell’avvenire, lo sforzo immaginifico necessario per pensarlo non andrà comunque sprecato.

Quello che volevo portare all’attenzione del dibattito pubblico è un messaggio semplice. Credo fortemente che una volta liberato il potenziale dell’IA, che abbiamo non a caso descritto come la nuova rivoluzione elettrica, in questo secolo le innovazioni si susseguiranno a ritmo forsennato. Non arriveranno solo dai luoghi che siamo stati abituati a identificare come storicamente preposti a essa, ma anche da quelli che fino a poco tempo fa abbiamo considerato i margini dell’impero tecnologico, che nell’innovare si faranno un po’ più centro, e così via.

Le nostre diverse culture e sensibilità si rifletteranno in innovazioni diverse, non allineate necessariamente al pensiero mainstream.

È probabile che molte di queste innovazioni proverranno dall’Oriente, e in particolare dalla Cina. È per questo che è indispensabile prima di tutto capirsi tra umani, per poter fare in modo che anche i nostri automi, robot o come vogliamo chiamarli, ci risultino altrettanto comprensibili. O almeno, un po’ più comprensibili di come temo potranno essere, se lasceremo questa sfida al caso o, peggio, alla competizione economica tout court.

La mia ambizione-presunzione è che questo segmento di discussione vada a colmare una lacuna che ho riscontrato nella pur ampia letteratura intorno all’intelligenza artificiale. La sensibilità con cui ho affrontato il tema è l’unica che ho: una sensibilità generalista, non specifica, il più possibile interculturale, e che ha come obiettivo quello di operare un rammendo per me sempre più necessario tra le competenze scientifiche e un sentire umanistico. Credo fortemente che le cose migliori che l’intelligenza umana ha prodotto nel corso della sua esistenza siano nate da questo connubio, in qualsiasi ambito. E non posso che sperare che anche l’intelligenza artificiale, per quanto in nostro controllo, possa seguire la stessa parabola.


Filippo Lubrano è Ingegnere gestionale, giornalista e scrittore. ha una lunga esperienza sui mercati di Africa, Medio ed Estremo Oriente in una multinazionale automotive anche competenze maturate come startupper. Oggi è consulente e formatore in diversi ambiti: innovazione, in particolare su 3 verticali di cybersecurity, IA e blockchain, e internazionalizzazione. È socio di Haruspex, una delle realtà più promettenti di cybersecurity italiane. Membro fondatore del collettivo di poeti performativi Mitilanti, il suo ultimo romanzo pubblicato è “Radici aeree“, edito da Leucotea.

0 comments on “Geopolitica dell’intelligenza artificiale

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *