Saremo sempre più legati in un rapporto simbiotico con le macchine? LA tecnologia è diventata il fattore evolutivo decisivo per la nostra specie? A questa domanda prova a rispondere Edward Ashford Lee.
in Copertina: Laura Fiume, Senza titolo – Litografia – Asta GRAFICA – Galleria Pananti
di Edward Ashford Lee, traduzione e introduzione di Matteo Vavassori
Ogni barca è copiata da un’altra. […] Ragioniamo in questo modo, alla maniera di Darwin. È chiaro che una barca fatta molto male finirà in fondo al mare dopo uno o due viaggi e quindi non sarà mai copiata. […] Si potrebbe quindi dire, in modo del tutto rigoroso, che è il mare stesso a forgiare le barche, scegliendo quelle che funzionano e distruggendo le altre.
Alain, 1908
Samuel Butler, nell’ottavo capitolo di Life and Habit (1878), sostiene che “un pollo è il modo in cui un uovo fa un altro uovo”. Parafrasando questa affermazione apparentemente paradossale, Edward Ashford Lee, nel suo libro The Coevolution: The Entwined Futures of Humans and Machines (MIT Press, 2020), si pone una questione ancora più controintuitiva, ovvero se “un essere umano è il modo in cui un computer fa un altro computer”.
Edward A. Lee, professore emerito in Ingegneria Elettrica e Informatica presso l’Università della California (Berkeley), sviluppa questa intuizione elaborando una posizione teorica che si distingue, da una parte, dalla visione più apocalittica, propugnata in modi diversi da Vernor Vinge, Ray Kurzweil, Nick Bostrom e Max Tegmark, e, dall’altra parte, da quella definita come “creazionismo digitale” di Daniel Dennett. Quest’ultimo, infatti, è, nel panorama del pensiero contemporaneo, il massimo alfiere e assertore della teoria dei memi di Richard Dawkins, ritenendo che l’evoluzione culturale umana segua meccanismi di selezione analoghi a quelli dell’evoluzione biologica. Tuttavia, il filosofo americano afferma che la cultura, giunta a una certa soglia (gli ultimi 10.000-20.000 anni), non si evolve più soltanto in maniera memetica, ma attraverso un tipo di progettazione top-down:
la cultura umana iniziò profondamente darwiniana, con competenze senza comprensione che produssero varie strutture preziose più o meno nello stesso modo in cui le termiti costruiscono i loro castelli, poi gradualmente si dedarwinizzò, diventando sempre più capace di comprensione e di organizzazione top-down, sempre più efficiente nei suoi modi di esplorare lo spazio dei progetti. In breve, mentre si evolveva la cultura umana si nutrì dei frutti della propria evoluzione e aumentò le proprie capacità progettuali utilizzando l’informazione in modi sempre più potenti. (Dennett D. Dai batteri a Bach. Come evolve la mente. Ed. it. Raffaello Cortina, 2018, pp. 162-163)
Rispetto a questa visione, Edward A. Lee abbraccia una prospettiva improntata a un più radicale evoluzionismo culturale e tecnologico, secondo la quale, anche nelle più sofisticate imprese ingegneristiche, gli esseri umani non sono altro che mediatori della mutazione in un processo coevolutivo, piuttosto che progettisti intelligenti del tutto consapevoli e artefici di una creazione deliberata (al pari di un Dio che crea dal nulla). Prendendo a esempio i softwaristi, si può dire che il pensiero degli ingegneri del software è plasmato dagli strumenti che usano, i quali non sono che precedenti risultati dell’ingegneria del software; il successo di ogni mutazione dipende meno dalla sua eccellenza tecnica che dalla sua capacità di “diventare virale”, in quanto il contesto tecno-culturale ha più effetto sul risultato di tutte le decisioni deliberate degli ingegneri del software e questo stesso contesto, infine, si evolve a sua volta.
In questo senso, in un articolo del 2020, Lee sostiene che gli sforzi di correggere gli effetti distorti delle tecnologie (che riguardino la privacy, la manipolazione del consenso, la circolazione di notizie false ecc.) attraverso interventi legislativi sanzionatori nei confronti dei produttori di tecnologie siano inefficaci, in quanto legati a una prospettiva di “creazionismo digitale”. Per agire con maggiore efficacia, occorrerebbe non solo sanzionare i produttori di software per comportamenti considerati illegittimi, ma soprattutto intervenire nella formazione culturale degli utenti di tali tecnologie, i quali costituiscono l’“ambiente” nel quale la coevoluzione di macchine e umani ha luogo.
L’altro fronte dialettico dal quale il ragionamento di Lee tende a distinguersi è quello rappresentato dai futurologi apocalittici, che annovera tra i suoi capifila Vinge, Kurzweil, Bostrom e Tegmark, i quali ritengono, pur con motivazioni differenti, che, nel confronto con l’abnorme superiorità che l’intelligenza artificiale svilupperà, l’umanità è destinata ad avere la peggio e quindi a essere sostituita da macchine super-evolute. Il pericolo, argomenta Lee, che le macchine si emanciperanno dalla dipendenza verso gli umani e noi, in quanto umani, perderemo il controllo sulle macchine è un falso problema, in quanto in un’ottica coevolutiva tale controllo non c’è mai stato. Coevoluzione significa che entrambe le parti, gli esseri umani e le tecnologie, cambieranno. Tuttavia, anche se questo processo rimane simbiotico, i risultati potranno assumere aspetti inquietanti e gli esseri umani risultanti potrebbero essere drammaticamente diversi dagli umani di oggi.
Per esemplificare questi sviluppi, Lee prende in prestito da Kevin Kelly, il fondatore tecno-visionario della rivista “Wired”, il concetto di Technium, a indicare un ecosistema tecnologico che comprende al suo interno anche i suoi originari artefici, ovvero gli esseri umani, che saranno sempre più legati in un rapporto simbiotico con le macchine, le quali diventeranno il fattore evolutivo decisivo per la specie.
——————————–
COEVOLUZIONE
Edward Ashford Lee
Testo estratto dal cap. 14 di Edward Ashford Lee, The Coevolution: The Entwined Futures of Humans and Machines (published by The MIT Press in 2020)
Progettazione intelligente top-down?
Il filosofo Daniel Dennett, nel suo libro del 2017, Dai batteri a Bach. Come evolve la mente (ed. it. Raffaello Cortina, 2018), esplora la possibilità che la mente umana, la nostra coscienza, le lingue e le culture siano il risultato di un processo evolutivo. Non parla del cervello e dei suoi processi e strutture biologici, ma dice, piuttosto, che la mente emerge da qualcosa in più rispetto alla mera biologia. Dennett difende ed elabora la controversa posizione avanzata, come è noto, da Richard Dawkins nel suo libro del 1976, Il gene egoista (ed. it. Mondadori, 1994). In questo testo, Dawkins ha coniato il termine “meme” per artefatti e idee culturali, stabilendo un’analogia tra la loro propagazione nella cultura umana e l’evoluzione darwiniana. Così Dawkins:
Io credo che un nuovo tipo di replicatore sia emerso di recente proprio su questo pianeta. Ce l’abbiamo davanti, ancora nella sua infanzia, ancora goffamente alla deriva nel suo brodo primordiale ma già soggetto a mutamenti evolutivi a un ritmo tale da lasciare il vecchio gene indietro senza fiato.
Il nuovo brodo è quello della cultura umana. Ora dobbiamo dare un nome al nuovo replicatore, un nome che dia l’idea di un’unità di trasmissione culturale o un’unità di imitazione. (Il gene egoista, p. 201).
Quel sostantivo è “meme”.
A Dawkins si opposero parecchi detrattori che non apprezzavano questa analogia con la biologia, ma Dennett sostiene che anche alcuni dei più ferventi detrattori hanno sposato, pur utilizzando altre parole, essenzialmente la stessa teoria secondo cui le idee, la cultura e le lingue si propagano attraverso una selezione naturale neodarwiniana, dove fitness significa, nelle parole di Dennett, “capacità procreativa” (Dai batteri a Bach, p. 238). Il meccanismo post-neodarwiniano del trasferimento genico orizzontale (grazie al quale una cellula può incorporare materiale genetico da un altro organismo non per via ereditaria, ma per incorporazione dall’ambiente esterno o in seguito a vita simbiontica, NdT) può fornire un’analogia ancora migliore perché l’evoluzione delle idee, nella maggioranza dei casi, non è causata da mutazioni casuali di fattori estranei alla cultura.
Tracciare un’analogia tra l’evoluzione biologica e l’evoluzione delle macchine è anche più facile rispetto a quella tra l’evoluzione biologica e l’evoluzione dei memi, perché le macchine digitali sono più simili agli esseri viventi biologici. I memi, infatti, non hanno un’esistenza autonoma nel mondo fisico, indipendente dal cervello umano, mentre le macchine sì.
Dennett, tuttavia, ha difficoltà a considerare l’odierna tecnologia come parte del suo ecosistema in evoluzione. Al contrario, indica la tecnologia digitale e i software come esempi canonici di un tipo di progettazione opposto all’evoluzione, riferendosi a essi come “progettazione intelligente top-down” (top-down intelligent design, TDID). Dennett sostiene che il TDID sia meno efficace dell’evoluzione nel produrre comportamenti complessi, contrariamente alla posizione religiosa sostenuta da alcuni secondo cui la complessità della vita prova l’esistenza di Dio.
Dennett fa riferimento al dispositivo elettronico che controlla un ascensore automatico, osservando che tutte le evenienze, le reazioni, i comportamenti del sistema sono imposti dall’ingegnere che lo ha progettato. Questo è in parte vero, ma molti aspetti della progettazione sono stati pesantemente influenzati dai precedenti sviluppi della tecnologia, quindi anche un modesto meccanismo di controllo di un ascensore è il risultato di un processo evolutivo. Inoltre, nel contesto delle macchine, un meccanismo di controllo di un ascensore è piuttosto semplice. Per comportamenti digitali e computazionali più complessi, come quelli di Wikipedia, di un sistema bancario o di uno smartphone, è difficile identificare un singolo essere cognitivo che abbia eseguito qualcosa di simile a una TDID. Questi sistemi si sono evoluti attraverso la combinazione di molti componenti, anch’essi a loro volta evolutisi in modo simile, con ingegneri che hanno introdotto sia mutazioni sia trasferimento di codice orizzontale. Se sommiano tutto ciò a revisioni progettuali iterative decennali con molti fallimenti lungo il percorso, otteniamo un processo darwiniano di mutazione e selezione naturale.
Dennett sostiene che, a differenza degli esseri biologici, le parti di una progettazione digitale non hanno brama di risorse, nulla che le spinga avanti, nessuno scopo o motivo, e che si tratta solo di automi reattivi. Questa, tuttavia, non è una distinzione utile perché molti progetti e meccanismi alternativi sono morti lungo la strada e quelli che sono sopravvissuti lo hanno fatto per ragioni darwiniane, in quanto capaci di propagarsi. Escludendo ogni fallace ipotesi teleologica, la propagazione è anche ciò che di più vicino a uno scopo presenta l’evoluzione biologica. La propagazione delle macchine è facilitata dai benefici molto concreti che apportano agli esseri umani che le utilizzano, per esempio fornendo a quegli esseri umani un reddito e quindi il cibo e la possibilità di procreare.
La visione del software come una “progettazione intelligente top-down” cade vittima della stessa tendenza criticata da Dennett, l’homunculus nel cervello, cioè l’illusione che esista un omuncolo o un comitato che osserva e guida il processo decisionale della mente umana. Al contrario, una posizione coevolutiva afferma che il software si evolve più o meno allo stesso modo in cui si evolvono i batteri, attraverso una coevoluzione senza obiettivi con gli esseri umani, guidata da funzioni di ricompensa, sopravvivenza e propagazione darwiniane. La tendenza a vedere questi progetti come TDID è antropocentrica, una tendenza che noi, come esseri umani, troviamo naturalmente difficile da evitare. Non ci piace vedere i nostri stessi processi cognitivi mentali come ingranaggi di un’evoluzione inarrestabile e senza scopo. Ma è questo che sono?
Facilitatori o inventori?
Dennett applica il suo principio TDID anche ad artefatti che sono troppo complessi per essere stati progettati in questo modo:
Per citare l’ovvio esempio recente di questo fenomeno, Internet è un manufatto molto complesso e costoso, progettato in maniera intelligente e costruito per uno scopo quanto mai pratico e vitale: l’Internet di oggi discende direttamente dall’Arpanet, fondata dall’ARPA (l’attuale DARPA, Defense Advanced Research Projects Agency), creata dal Pentagono nel 1958 in risposta alla vittoria dei sovietici sugli Stati Uniti nella corsa allo spazio con il satellite Sputnik, e il suo scopo era facilitare la ricerca e lo sviluppo di tecnologia militare. (Dai batteri a Bach, p. 238)
Questa è una semplificazione eccessiva di Internet. L’ARPA ha finanziato lo sviluppo di alcuni dei protocolli alla base di Internet, ma anche questi protocolli sono emersi da molti esperimenti falliti sui metodi per far interagire i computer tra loro (Lee EA. Plato and the Nerd, cap. 6). Inoltre, ARPA e DARPA avevano, per lo più, poco a che fare con ciò che oggi riconosciamo come Internet, comprese le pagine web, i motori di ricerca, YouTube e così via. Tim Berners-Lee, creatore del web, si lamenta di ciò che è diventato. Gran parte di Internet si è evoluta a partire dall’ecosistema imprenditoriale altamente competitivo della Silicon Valley e dalle menti collaborative di migliaia di persone che hanno contribuito agli standard che lo rendono solido come lo è oggi.
L’informatico e imprenditore Danny Hillis, riferendosi a Internet, scrive:
Sebbene l’abbiamo creato, non l’abbiamo esattamente progettato. Si è evoluto. Il nostro rapporto con esso è simile al nostro rapporto con il nostro ecosistema biologico. Siamo codipendenti e non abbiamo il controllo completo. (Hillis WD. The Dawn of the Entanglement. Edge.com, 2001)
Addentrandosi ulteriormente, Dennett obietta:
Tutta questa Ricerca&Sviluppo nel settore dell’informatica è stata progettazione intelligente top-down, ovviamente, basata su un’analisi approfondita degli spazi del problema, dell’acustica, dell’ottica e di altri aspetti importanti della fisica pertinente, il tutto guidato da applicazioni esplicite di analisi costi-benefici, ma comunque ha scoperto molte delle stesse strade verso la buona progettazione individuate ciecamente dalla progettazione darwiniana bottom-up nel corso di periodi molto più lunghi. (Dai batteri a Bach, p. 238)
Dennett non vede che la “Ricerca&Sviluppo nel settore dell’informatica” è in realtà più simile ai memi di Dawkins che alla TDID. Gli esseri umani sono più facilitatori che inventori e, come osserva Dennett sulla cultura:
[…] alcune delle meraviglie della cultura possono essere attribuite al genio dei loro inventori, ma molte meno di quanto si immagini comunemente. (Dai batteri a Bach, p. 271)
Lo stesso vale per la tecnologia.
Moltiplicatori evolutivi
Sebbene Dennett sopravvaluti l’apporto della TDID nella tecnologia, non c’è dubbio che il processo decisionale cognitivo umano influenzi fortemente la sua evoluzione. Per opera di un essere umano dotato di tastiera, emerge un software che definisce come una peculiare sollecitazione della macchina reagisce agli stimoli che la circondano e, se quelle reazioni non sono benefiche per l’uomo, la sollecitazione molto probabilmente si estingue. Questa progettazione, però, è sviluppata in un contesto che si è evoluto. Utilizza un linguaggio di programmazione progettato dall’uomo che è sopravvissuto a un’evoluzione darwiniana e codifica un modo di pensare. Mette insieme pezzi di software creati e modificati negli anni da altri e codificati in librerie di componenti software. L’essere umano realizza in parte una progettazione e in parte una mutazione casuale, un trasferimento orizzontale del codice e una semplice opera di “allevamento”, “facilitando il sesso tra esseri software attraverso la ricombinazione e la trasformazione di programmi in programmi nuovi” (Lee EA. Plato and the Nerd, cap. 9). Quindi, sembra che ciò che abbiamo sia un’evoluzione facilitata, facilitata da elementi di TDID e da un “allevamento” intenzionale e consapevole. Ci sono molti esempi di evoluzione facilitata in natura, tra cui, per esempio, l’esplosione del Cambriano; l’allevamento di animali da fattoria, animali domestici e colture da parte dell’uomo (si veda Unnatural Selection di Katrina van Grouw, Princeton University Press, 2018, un libro splendidamente illustrato che documenta l’effetto degli esseri umani sulla trasformazione degli animali); l’evoluzione di animali e piante per adattarsi all’urbanizzazione umana (si veda Darwin va in città. Come la giungla urbana influenza l’evoluzione di Menno Schilthuizen, Raffaello Cortina, 2021, per esempi di rapida evoluzione darwiniana di animali e piante nei paesaggi urbani); e lo sviluppo di batteri resistenti agli antibiotici tramite trasferimento di codice orizzontale.
Come con qualsiasi processo evolutivo, la competizione per le risorse gioca un ruolo nell’evoluzione delle macchine e la morte e l’estinzione sono parti naturali del processo. Il successo della Silicon Valley dipende dal fallimento delle startup tanto quanto dal loro risultato positivo. Il software compete per una risorsa limitata, cioè l’attenzione e la cura da parte degli esseri umani, necessarie affinché il software sopravviva e si propaghi. Si consideri la guerra dei browser degli anni ‘90, in cui molti tentativi di programmi per la visualizzazione di contenuti su Internet hanno ceduto alla concorrenza in atti di uccisione deliberata e sistematica. Essendo stata colta di sorpresa dall’emergere del web, a partire dal 1995 circa, Microsoft ha integrato Internet Explorer in tutti i sistemi Windows, gratuitamente, nel tentativo deliberato di eliminare i browser concorrenti. Oggi sopravvivono poche specie di browser.
Wikipedia e Google sono moltiplicatori spettacolari delle capacità cognitive umane, ma nemmeno loro sono TDID. Sebbene la loro evoluzione sia stata sicuramente facilitata da vari piccoli atti di TDID, superano di gran lunga, in termini di affordance (cioè di opportunità offerte dall’ambiente), tutto ciò che qualsiasi essere umano avrebbe potuto progettare. Sono coevoluti con i loro simbionti umani.
Dennett osserva che gli esseri umani che collaborano superano ampiamente le capacità di qualsiasi individuo umano. Gli esseri umani che collaborano con la tecnologia moltiplicano ulteriormente questo effetto. La tecnologia stessa ora occupa una nicchia nel nostro ecosistema evolutivo (culturale). È ancora relativamente primitiva rispetto agli esseri umani, proprio come i nostri batteri intestinali, che facilitano la digestione. La tecnologia facilita il pensiero.
Parassiti o simbionti?
Dennett affronta l’intelligenza artificiale (IA) e, in particolare, i sistemi di apprendimento profondo (deep learning), definendoli “parassitari”. Si concentra sui loro meccanismi, osservando che, benché siano capaci, per esempio, di classificare immagini, quelle stesse immagini non hanno alcun significato per loro. Traggono “parassitariamente” qualsiasi significato dagli esseri umani. Nelle sue parole,
l’apprendimento profondo (finora) discrimina, ma non nota. In altre parole, per il sistema la marea di dati che raccoglie è importante solo come altro “cibo” da “digerire”. (Dai batteri a Bach, p. 437)
Questa limitazione svanisce quando questi sistemi sono visti come simbionti piuttosto che parassiti. Nelle parole di Dennett, “i sistemi di apprendimento profondo dipendono dalla comprensione umana”. (Dai batteri a Bach, p. 438)
Dennett nota una simile alleanza tra i memi e i neuroni nel cervello:
Non esiste soltanto la coevoluzione tra memi e geni, esiste anche la dipendenza reciproca tra le capacità di ragionamento top-down della nostra mente e i talenti bottom-up e senza comprensione del nostro cervello animale. (Dai batteri a Bach, p. 455)
Anche per i neuroni nel nostro cervello, il flusso di dati che sperimentano “è importante solo come altro ‘cibo’ da ‘digerire’”. Un’intelligenza artificiale che necessita di un umano per dare una semantica ai suoi output (Lee EA. Plato and the Nerd, cap. 9) sta svolgendo una funzione molto simile a quella dei neuroni nel nostro cervello, i quali, a loro volta, da soli, individualmente, non mostrano nulla che sia paragonabile alla comprensione. È un aumento dell’intelligenza, non un’intelligenza aumentata.
Istupidimento
Oggi, c’è molta preoccupazione e angoscia per l’IA. Dennett solleva una domanda comune:
Quanto dovremmo temere che la nostra crescente dipendenza da macchine intelligenti ci stia rendendo sempre meno intelligenti? (Dai batteri a Bach, p. 442)
Ci stiamo istupidendo? Non mi sembra così. Questo non significa che siamo fuori pericolo. Lontani dall’esserlo. Ancora, da Dennett:
Il vero pericolo, penso, non è che macchine più intelligenti di noi usurpino il nostro ruolo di capitani del nostro destino, ma che noi sopravvalutiamo la comprensione dei nostri più recenti strumenti per pensare, cedendo loro prematuramente l’autorità su questioni molto al di là della loro competenza. (Dai batteri a Bach, p. 443)
Credo che ci siano pericoli molto più grandi di questo. In primo luogo, l’IA nelle mani di esseri umani e governi nefasti è davvero una prospettiva spaventosa. In secondo luogo, le macchine cambieranno il nostro modo di pensare, come hanno già fatto, attraverso la creazione di filter bubble (bolle di contenuti) e camere d’eco.
Le pressioni evolutive possono tendere ad accentuare la frammentazione dell’informazione attraverso un fenomeno che i biologi evoluzionisti chiamano effetto Baldwin, dal nome del filosofo americano James Mark Baldwin (1861-1934). A partire da questo effetto, la capacità di un organismo di apprendere nuovi comportamenti durante la sua vita influenza il suo successo riproduttivo e avrà, quindi, un effetto sulla composizione genetica della sua specie attraverso la selezione naturale. Oggi, un motore di ricerca che acquisisce abbastanza “conoscenza” di me per sintonizzare i suoi risultati su ciò che voglio sentirmi dire ha maggiori probabilità di sopravvivere e propagarsi nell’ecosistema dei motori di ricerca, che competono per i proventi della pubblicità. A mano a mano che il motore di ricerca apprende, la sua capacità riproduttiva migliora, rafforzando così lo sviluppo di macchine che frammentano il pensiero umano. A mano a mano che esso apprende, crea per me una camera d’eco sempre più piccola, fornendomi solo le informazioni che voglio conoscere. E i suoi discendenti isoleranno ancora più efficacemente in nostri discendenti gli uni dagli altri.
Un terzo pericolo più grave di quello citato da Dennett è che le macchine si libereranno dalla loro dipendenza dagli umani e che noi perderemo il controllo su di loro. Questo è il pericolo su cui si concentrano Bostrom, Tegmark e altri. È vero che sono stati condotti esperimenti di discreto successo in cui i programmi hanno imparato a scrivere programmi e sembra inevitabile che le macchine continueranno a migliorare nel progettare sé stesse. Questa paura è reale, ma forse, in realtà, non abbiamo mai veramente avuto il controllo, quindi perdere il controllo non è la questione essenziale. Se le macchine si stanno evolvendo in modo darwiniano, allora il meglio che possiamo fare è dare una spinta al processo. Non possiamo davvero controllarlo, ma attraverso politiche e normative potremmo essere in grado di rallentare o addirittura prevenire esiti indesiderati.
Le ultime parole di Dennett sono ottimistiche:
Se il nostro futuro seguirà la traiettoria del nostro passato – il che è in parte sotto il nostro controllo – le nostre intelligenze artificiali continueranno a dipendere da noi anche se noi, con prudenza, diventeremo più dipendenti da loro. (Dai batteri a Bach, p. 455)
Condivido questo ottimismo, ma riconosco anche che la rapida coevoluzione, che sta sicuramente accadendo, è estremamente pericolosa per gli individui. La rapida evoluzione comporta necessariamente grandi perdite. Sia tecnologie sia memi cadranno nel dimenticatoio via via che la simbiogenesi si evolverà. Coevoluzione significa che entrambe le parti, gli esseri umani e le tecnologie, cambieranno. Anche se questo processo rimane simbiotico, i risultati possono essere drammatici. Gli esseri umani che ne deriveranno potrebbero essere molto diversi dagli umani di oggi.
Endosimbiosi
Le analogie possono essere utili strumenti per pensare, ma sono rischiose. Sto tracciando un’analogia che accomuna l’evoluzione della tecnologia digitale sia con l’evoluzione biologica sia con l’evoluzione memetica di Dawkins. Anche per la tecnologia digitale, proprio come per i memi, si verificano sia la mutazione sia la selezione naturale e sono gli esseri umani a fornire i meccanismi per entrambe. Non è solo un’analogia. Il parallelo con la vita è un’analogia, ma quel parallelo non è così importante. Ciò che è importante è che comprendiamo i meccanismi del cambiamento e non semplifichiamo eccessivamente screditando i singoli tecnologi ogni volta che scopriamo una patologia nell’ecosistema in evoluzione. Se questi meccanismi di cambiamento fossero veramente TDID, allora screditare gli ingegneri potrebbe essere giustificato. Questi meccanismi, però, sono più complessi. Siamo tutti complici, per esempio, della forma dell’ecosistema che determina se uno specifico “ceppo” tecnologico ha successo e si propaga o fallisce e si estingue.
Gli ingegneri si comportano come i virus nel trasferimento genico orizzontale, trasportando materiale “genetico” da un ceppo tecnologico all’altro. Però il resto della società abusa di antibiotici, creando così un ecosistema che porta naturalmente a batteri antibiotico-resistenti.
Sebbene siamo di fronte alla possibilità che le macchine influenzino i nostri geni, oggi il lato umano della coevoluzione è ancora principalmente memetico piuttosto che biologico. La nostra capacità di mutare la tecnologia e di progettare nuovi ceppi si evolve come i memi di Dawkins, spinta con notevole forza dalla tecnologia stessa, che fornisce il software e l’hardware che utilizziamo abitualmente per progettare nuovi software e hardware. Prende, così, vita un forte ciclo di feedback, in cui la tecnologia provoca la mutazione memetica e i memi causano la mutazione della tecnologia.
Si scopre, tuttavia, che esiste un’analogia ancora più forte e spaventosa con la biologia. La dipendenza reciproca che abbiamo con la tecnologia è una simbiosi e la simbiosi può dare vita a una fonte di mutazione ancora più potente del trasferimento genico orizzontale. I biologi chiamano questa fonte di mutazione simbiogenesi, dove una forma di vita completamente nuova e più complessa emerge dalla fusione dei partner in una simbiosi. Il fenomeno della simbiogenesi è sviluppato all’interno della teoria endosimbiotica dove, per “endosimbiosi”, si intende una simbiosi obbligata in cui nessun partner può vivere senza l’altro, in quanto i partner si sono fusi per diventare uno, vivendo l’uno nei tessuti dell’altro.
I biologi David Smith e Angela Douglas citano le mucche come esempio di endosimbiosi. Le mucche, dicono, sono “serbatoi di fermentazione da 150 litri su quattro zampe” (Smith DC, Douglas AE. Biology of Symbiosis). Lynn Margulis, che merita gran parte del merito per la nostra attuale comprensione della simbiogenesi, descrive le mucche in questo modo:
Le mucche ingeriscono l’erba, ma non la digeriscono mai perché sono incapaci di scomporre la cellulosa. La digestione nelle mucche avviene tramite simbionti microbici nel rumine. Il rumine è uno stomaco speciale, in realtà un esofago cresciuto troppo, che è cambiato nel corso del tempo evolutivo. Non esistono mucche prive di rumine; mucche (e tori) private dei loro simbionti microbici sono morte (Margulis L, Sagan D. Acquiring Genomes, pp. 14-15).
Una mucca non è una creatura che contiene simbionti microbici. Piuttosto, i simbionti non sono meno parte della mucca del rumine stesso. Senza i simbionti, non c’è mucca.
La dipendenza umana dalla tecnologia non ha ancora raggiunto questa fase, nel senso che gli esseri umani continuerebbero a esistere senza la tecnologia, anche se in numero molto inferiore. Ma la forza della codipendenza continua ad aumentare e non è inverosimile che raggiungeremo un punto in cui ciò che intendiamo per “umano” includerà le tecnologie senza le quali quell’essere umano non potrà vivere.
Discontinuità evolutiva
La relazione tra una mucca e i suoi microbi intestinali è asimmetrica. I microbi sono fisicamente molto più piccoli e biologicamente più semplici della mucca nel suo complesso. Anche il rapporto tra uomo e tecnologia oggi è asimmetrico. Gli artefatti digitali sono molto più semplici dei nostri cervelli e abbiamo almeno l’illusione che siano sotto il nostro controllo, usando la tecnologia come uno strumento. Questa asimmetria probabilmente diminuirà nel tempo a mano a mano che la tecnologia diventerà più sofisticata e la simbiosi risultante potrebbe diventare prima una simbiosi obbligata e infine un’endosimbiosi.
In biologia, si conoscono endosimbiosi meno asimmetriche di quella di una mucca. Le cellule umane presenti nei nostri corpi, così come quelle presenti in tutte le piante e in tutti gli animali, molto probabilmente sono emerse come un’endosimbiosi di creature più semplici. Queste cellule sono abbastanza diverse da quelle dei batteri, che mancano di mitocondri, di cloroplasti e di un nucleo. Questi organelli sono provvisti di membrane proprie che li racchiudono e attualmente la maggior parte dei biologi crede che si siano evoluti da creature indipendenti che si sono fuse per formare le cellule di oggi. I biologi chiamano eucariote le cellule con tali organelli e le distinguono dalle cellule procariote che, come le cellule batteriche, sono prive di tale struttura interna. Gli eucarioti si sono evoluti a partire da una simbiosi tra procarioti. L’importanza di questo passaggio non può essere sopravvalutata:
La più grande discontinuità evolutiva su questo pianeta non è tra animali e piante; è tra i procarioti (batteri senza nuclei di membrana) e gli eucarioti (tutti gli altri costituiti da cellule con nuclei di membrana). La storia di questa enorme discontinuità, in tutti i suoi dettagli, è collegata alle origini delle specie. (Margulis L, Sagan D. Acquiring Genomes, p. 141)
Secondo il biologo evoluzionista Ernst Mayr, l’emergere degli eucarioti rappresentò “forse l’evento più importante e drammatico nella storia della vita” (Mayr E. What Evolution Is, p. 48). La fusione degli esseri umani con la tecnologia, se accadrà, sarà ugualmente epocale.
L’evoluzione neo-darwiniana degli esseri umani potrebbe essere rallentata perché produciamo meno prole di un tempo, dando luogo a un numero inferiore di mutazioni per genitore e quella prole, inoltre, ha maggiori probabilità di sopravvivere e riprodursi. Una migliore assistenza sanitaria, acqua pulita e cibo sicuro attenuano l’effetto della selezione naturale. In altre parole, l’evoluzione memetica che ci impedisce di bere l’acqua raccolta nella grondaia incide sul pool genetico, esemplificando l’effetto Baldwin.
Vi sono maggiori probabilità che, in futuro, ulteriori evoluzioni del genoma umano possano avvenire attraverso l’ingegneria genetica piuttosto che attraverso una mutazione casuale o un trasferimento di codice orizzontale. George Dyson si domanda:
Siamo noi che stiamo usando i calcolatori digitali per sequenziare, immagazzinare e replicare meglio il nostro codice genetico, ottimizzando gli esseri umani, o sono i calcolatori digitali che stanno ottimizzando il nostro codice genetico – e il nostro modo di pensare – affinché li aiutiamo a replicarsi meglio? (Dyson G. La cattedrale di Turing, Codice, 2012, p. 361)
Tuttavia, anche senza l’ingegneria genetica, l’umanità può cambiare attraverso una simbiogenesi con la tecnologia. I nostri pacemaker e pompe per insulina, sul lato biologico, e i nostri sistemi bancari, di trasporto e di comunicazione, sul lato culturale, potrebbero essere i precursori dei simbionti senza i quali qualche futura forma umana diventerà meno capace di procreare. Non è difficile immaginare, per esempio, un mondo in cui il sesso non porta mai a una gravidanza e gli esseri umani perdono la capacità di concepire in questo modo.
La teoria endosimbiotica è relativamente giovane. Lynn Margulis aveva ventinove anni quando nel 1967 pubblicò On the Origin of Mitosing Cells con il nome di Lynn Sagan (essendosi sposata con il famoso divulgatore scientifico Carl Sagan, per poi separarsi). Il titolo è un chiaro gesto di riverenza verso On the Origin of Species di Darwin del 1859. In questo articolo, la studiosa ha resuscitato quella che molti biologi consideravano un’idea stravagante avanzata per la prima volta dal botanico russo Konstantin Mereschkowski, il quale, all’inizio del ‘900, suggerì che le cellule eucariote si fossero evolute da una simbiosi tra cellule procariote distinte. È stata Margulis a mettere la teoria su solide basi biochimiche.
In un libro molto influente scritto in seguito con suo figlio, Dorion Sagan, scrive:
Riteniamo che la mutazione casuale sia eccessivamente enfatizzata come fonte di variazione ereditaria. […] L’importante variazione trasmessa che porta alla novità evolutiva deriva, piuttosto, dall’acquisizione di genomi. Interi corredi di geni, anzi interi organismi ciascuno con il proprio genoma, vengono acquisiti e incorporati da altri. La via più comune di acquisizione del genoma, inoltre, è il processo noto come simbiogenesi. (Margulis L, Sagan D. Acquiring Genomes, pp. 11-12)
Il genoma di un mitocondrio all’interno di una cellula umana è nettamente diverso da quello presente nel nucleo della stessa cellula. Entrambi i corredi di geni sono ereditati, sebbene i geni mitocondriali solo dal lato materno. L’ipotesi di Mereschkowski e Margulis è che, nel passato profondo, una cellula abbia ingerito un’altra cellula e, invece di digerirla, ne abbia dirottato le funzioni per renderla parte di un nuovo tipo di cellula.
Alcune vite umane dipendono già dalle tecnologie incorporate nei nostri corpi, per esempio i pacemaker. Un pacemaker, tuttavia, non è ereditato dalla discendenza. Se raggiungeremo il punto in cui i neonati umani vengono regolarmente potenziati attraverso protesi tecnologiche o in cui la procreazione è sempre mediata dalle macchine, saremo entrati in una nuova era per la vita biologica. Più drammaticamente, è possibile che noi umani diventiamo i mitocondri del Technium, organelli che svolgono una funzione vitale in un essere più grande ma che non possono vivere da soli? A oggi, questa è roba da fantascienza.
Ma altri scenari spaventosi si avvicinano. Un’endosimbiosi si forma con la fusione di due forme di vita in una. La tecnologia oggi non può vivere senza di noi umani, quindi, sebbene la nostra dipendenza da essa non sia assoluta, la sua dipendenza da noi lo è. Diventeremo come i batteri intestinali del Technium, in grado di vivere al di fuori dell’ospite, ma solo a scapito di una salute molto precaria? I batteri intestinali non se la passano bene da soli. O peggio, diventeremo i parassiti o le patologie del Technium, destinati a essere soggiogati o addirittura annientati?
Stiamo già assistendo al miglioramento della “medicina delle macchine” e dei “sistemi immunitari delle macchine”, in cui i software autoriparanti e le IA eliminano il malware. E se noi umani diventassimo un malware?
Saremo eclissati?
La nostra dipendenza dalla tecnologia è in costante crescita, una tendenza che sembra destinata a continuare, ma la tecnologia si estinguerebbe dall’oggi al domani senza l’aiuto degli esseri umani. È probabile che perderà quella dipendenza da noi? Affinché ciò avvenga, le macchine avranno bisogno di funzionare, procreare ed evolversi senza l’aiuto degli esseri umani.
Nel 2018, un gruppo di ricercatori dell’Università di Tolosa e dell’Università di York ha creato un programma che potrebbe scrivere in modo credibile programmi per giocare ai vecchi videogiochi Atari (Wilson DG, et al. Evolving simple programs for playing Atari games. arXiv, 2018). Questo programma ha generato mutazioni casuali e, quindi, ha simulato la selezione naturale. La tecnica stessa utilizzata da questo gruppo di ricerca si è evoluta (tramite trasferimento di codice orizzontale) da lavori precedenti che elaboravano programmi per sviluppare determinate funzioni di elaborazione delle immagini (Miller JF, Thomson P. Cartesian Genetic Programming. Genetic Programming, 2000). In linea di principio, questi progetti e molti altri tentativi, ancora embrionali, relativi alla codifica automatica mostrano che le macchine, se riuscissero, in qualche modo, a comprendere come garantire il proprio funzionamento senza l’aiuto degli esseri umani, potrebbero anche fare evolvere il proprio software senza l’aiuto degli esseri umani. Inoltre, la loro evoluzione utilizzerebbe un metodo, la selezione naturale, che è noto per essere efficace nel produrre esseri molto sofisticati.
I videogiochi Atari che emergono dal processo evolutivo dello studio Tolosa-York, tuttavia, sono molto meno efficaci dei programmi basati sull’apprendimento profondo. Il gruppo dello studio Tolosa-York lo ammette, affermando che il principale vantaggio della loro tecnica è che i programmi risultanti sono più spiegabili, in quanto le strategie di gioco dei programmi evoluti possono essere lette (dall’uomo). Un tale vantaggio, tuttavia, è irrilevante se non ci sono esseri umani che chiedono spiegazioni.
L’evoluzione è una forma di apprendimento. Nella misura in cui esiste una distinzione tra evoluzione e apprendimento, l’evoluzione governa ciò che emerge alla nascita e l’apprendimento governa ciò che emerge durante la vita. Nei sistemi biologici, entrambe le forme di capacità acquisite vengono trasmesse alla prole, la prima principalmente attraverso la genetica e la seconda principalmente attraverso la memetica.
In entrambi i casi, l’informazione che passa da una generazione all’altra su un canale rumoroso, secondo il teorema della codifica di canale di Shannon, trasporta solo un numero finito di bit. Nell’apprendimento automatico (machine learning), rispetto all’apprendimento umano, un numero finito di bit è tutto ciò che c’è, almeno oggi, e quindi le capacità che una tecnologia acquisisce durante la sua “vita” possono essere trasmesse perfettamente alla sua discendenza. L’eredità lamarckiana è una realtà per la tecnologia digitale. Per le creature biologiche, tuttavia, la storia è meno chiara, perché alcune informazioni vengono trasportate di generazione in generazione dalla “cosa in sé”, cioè il processo biologico continuo che ha circa quattro miliardi di anni. E queste informazioni non sono limitate a un numero finito di bit.
Inoltre, a causa dell’effetto Baldwin, l’introduzione dell’apprendimento automatico in una più ampia varietà di artefatti tecnologici migliorerà la loro capacità procreativa. La loro capacità di apprendere durante la vita li renderà più adattabili alle mutevoli condizioni ambientali, così che saranno più capaci di sopravvivere e propagarsi. Per esempio, se gli esseri umani dovessero decidere un giorno di eliminare alcuni ceppi della tecnologia, solo quelli che potranno adattarsi a questo ambiente ostile sopravviveranno e si propagheranno. Stiamo già assistendo a normative e leggi create dall’uomo che vietano determinati tipi di tecnologie e stiamo assistendo all’adattamento dei ceppi tecnologici per sopravvivere a queste leggi. Alcune tecnologie soccombono anche alle patologie, estinguendosi perché la loro debole sicurezza le rende troppo vulnerabili a virus e worm. L’incapacità di adattarsi può condannare una specie. Per esempio, nel dicembre 2018, Google ha annunciato che avrebbe ucciso Google+, citando nuove vulnerabilità ai malware la cui risoluzione non valeva il costo che richiedeva. Apparentemente, Google+ non era sufficientemente adattivo.
EDWARD ASHFORD LEE È PROFESSORE EMERITO IN INGEGNERIA ELETTRICA E INFORMATICA PRESSO L’UNIVERSITÀ DELLA CALIFORNIA, BERKELEY, DOVE DIRIGE ICYPHY, UN CENTRO DI RICERCA SUI SISTEMI CYBER-FISICI INDUSTRIALI. È AUTORE DI COEVOLUTION (MIT PRESS, 2020), PLATO AND THE NERD (MIT PRESS, 2018) E DI ALTRI LIBRI SPECIALISTICI.
MATTEO VAVASSORI (MATTEO_VAVASSORI@HOTMAIL.IT), LAUREATO IN FILOSOFIA, LAVORA DA ANNI COME REDATTORE SCIENTIFICO A MILANO, COLTIVANDO IN MANIERA DISPERSIVA SVARIATE PASSIONI LIBRESCHE.
0 comments on “La coevoluzione: i futuri intrecciati di umani e macchine”