Gli algoritmi stanno schedando le persone a seconda dei loro tratti facciali, le loro espressioni del viso e altri dettagli fisici. Di fatto, alcuni sviluppi tecnologici rischiano di riproporci un problema vecchio che credevamo di aver superato. Quello di giudicare il nostro prossimo in base al suo aspetto.
In copertina un’illustrazione sulle zone del cervello studiate dalla frenologia, artista sconosciuto.
(Questo testo è la traduzione italiana di un articolo precedentemente uscito su Aeon)
di Catherine Stinson
La parola “frenologia” suona come una reminiscenza del passato. Sembra provenire da un libro di storia, una voce di una vecchia enciclopedia archiviata tra “blatte” e “salassi”. Oggi siamo convinti che giudicare il valore delle persone in base alle dimensioni e alla forma del loro cranio sia una pratica lontana nel tempo, eppure sta di nuovo prendendo piede.
Negli ultimi anni, gli algoritmi di machine-learning hanno promesso ai governi e alle aziende private di raccogliere ogni tipo di informazione in base all’aspetto delle persone. Diverse startup affermano di essere in grado di utilizzare l’intelligenza artificiale (IA) per aiutare i datori di lavoro a rilevare i tratti di personalità dei candidati in base alle loro espressioni facciali. In Cina, il governo è stato pioniere nell’uso di telecamere di sorveglianza che identificano e rintracciano le minoranze etniche. Nel frattempo, sono emersi rapporti di scuole che hanno installato sistemi di telecamere che sanzionano automaticamente i bambini per non aver prestato attenzione, sulla base dei movimenti del viso e delle microespressioni come gli spasmi delle sopracciglia.
Qualche anno fa, i ricercatori di AI Xiaolin Wu e Xi Zhang hanno affermato di aver addestrato un algoritmo a identificare i criminali in base alla forma dei loro volti, con una precisione dell’89,5 per cento. Non si sono spinti tanto in là da recuperare alcune delle idee su fisionomia carattere che circolavano nel XIX secolo, in particolare dall’opera del criminologo Cesare Lombroso, che sosteneva che i criminali sono bestie sottosviluppate, subumane, riconoscibili dalla fronte inclinata e dai nasi aquilini. Tuttavia, il recente studio, cerca di individuare i tratti del viso associati alla criminalità con strumenti di alta tecnologia informatica, ispirandosi direttamente al “metodo fotografico composito” sviluppato dall’artista vittoriano Francis Galton – che consisteva nel sovrapporre i volti di più persone di una certa categoria per trovare i tratti indicativi di qualità come la salute, la malattia, la bellezza e la criminalità.
Gli studiosi di tecnologia hanno classificato queste tecniche di riconoscimento facciale come “frenologia letterale”; le hanno anche collegate all’eugenetica, cioè la pseudoscienza che sosteneva di migliorare la razza umana incoraggiando a riprodursi le persone ritenute più adatte. (Lo stesso Galton coniò il termine “eugenetica”, descrivendolo nel 1883 come “tutte le tecniche che tendono a dare alle razze o ai ceppi di sangue più adatti una migliore possibilità di prevalere rapidamente su quelli meno adatti”).
In alcuni casi, l’obiettivo esplicito di queste tecnologie è di negare opportunità a chi è ritenuto non idoneo; in altri, potrebbe non essere l’obiettivo dichiarato, ma comunque è un risultato prevedibile. Eppure, quando rifiutiamo gli algoritmi etichettandoli come frenologia, qual è esattamente il problema che stiamo cercando di evidenziare? Stiamo dicendo che questi metodi sono scientificamente imperfetti e che non funzionano davvero – o stiamo dicendo che è moralmente sbagliato usarli?
C’è una lunga e intricata storia sul modo in cui la parola “frenologia” è stata usata come un insulto. Le critiche filosofiche e scientifiche all’impresa si sono sempre intrecciate, anche se questo intreccio è mutato nel tempo. Nel XIX secolo, i detrattori della frenologia si opponevano al fatto che la questa cercasse di individuare la posizione delle diverse funzioni mentali in diverse parti del cervello – una mossa che veniva vista come eretica, poiché metteva in discussione le idee cristiane sull’unità dell’anima. È interessante, però, che cercare di scoprire il carattere e l’intelletto di una persona in base alle dimensioni e alla forma della sua testa non sia stato percepito come un serio problema morale. Oggi, invece, l’idea di localizzare le funzioni mentali è piuttosto controversa. Gli scienziati potrebbero non pensare più che la violenza risieda sopra l’orecchio destro, ma l’idea che le funzioni cognitive possano essere localizzate in particolari circuiti cerebrali è un assunto standard nelle neuroscienze tradizionali.
Anche la frenologia ha subito la sua razione di critiche empiriche nel XIX secolo. I dibattiti infuriavano su quali funzioni risiedessero dove e se le misurazioni del cranio fossero un modo affidabile per determinare cosa succedeva nel cervello. La critica empirica più influente della vecchia frenologia, tuttavia, veniva dagli studi del medico francese Jean Pierre Flourens, basati sul danneggiamento del cervello di conigli e piccioni – dai quali egli concludeva che le funzioni mentali sono distribuite, piuttosto che localizzate. Il fatto che la frenologia sia stata respinta per ragioni che la maggior parte degli osservatori contemporanei non accetterebbe più, rende solo più difficile capire di cosa parliamo quando oggi usiamo il termine “frenologia”.
Sia la “vecchia” che la “nuova” frenologia sono state criticate per i loro metodi imprecisi e inaffidabili. Nel recente studio dell’IA sulla criminalità, i dati sono stati presi da due fonti molto diverse: le foto segnaletiche dei detenuti e le foto dei siti web di annunci di lavoro per persone in libertà. Questo fatto da solo potrebbe spiegare la capacità dell’algoritmo di rilevare una differenza tra i gruppi. In una nuova prefazione al documento, i ricercatori hanno anche ammesso che prendere le condanne in tribunale come sinonimo di criminalità è stata una “grave svista”. Tuttavia, l’equiparazione delle condanne alla criminalità sembra essere per gli autori soprattutto un difetto empirico: l’utilizzo di foto segnaletiche di criminali condannati, ma non di quelli che sono scappati, introduce un pregiudizio statistico. Per questo hanno detto di essere “profondamente perplessi” di fronte all’indignazione dell’opinione pubblica in reazione a un documento che era destinato “alle pure discussioni accademiche”.
In particolare, i ricercatori non commentano il fatto che la condanna stessa dipende dalle impressioni che la polizia, i giudici e le giurie danno all’indagato, rendendo l’aspetto “criminale” di una persona una variabile incerta. Non menzionano inoltre come l’intensa persecuzione della polizia verso particolari comunità e la disuguaglianza di accesso alla rappresentanza legale distorcano il set di dati. Nella loro risposta alle critiche, gli autori non rifiutano il presupposto che “essere un criminale richiede una serie di caratteristiche personali anormali (anomale)”. La loro cornice di riferimento suggerisce che la criminalità è una caratteristica innata, piuttosto che una risposta a condizioni sociali come la povertà o gli abusi. Parte di ciò che rende discutibile il loro set di dati su basi empiriche è che il fatto di etichettare qualcuno come “criminale” non ha quasi mai un valore neutro.
Una delle più forti obiezioni etiche all’uso del riconoscimento facciale per individuare la criminalità è che stigmatizza le persone che sono già eccessivamente criticate. Gli autori affermano che il loro strumento non dovrebbe essere usato dalle forze dell’ordine, ma citano solo argomentazioni statistiche sul perché non dovrebbe essere utilizzato. Per esempio dicono che il tasso di falsi positivi (50 per cento) sarebbe molto alto, ma non tengono conto di ciò che questo significa in termini di vite umane. I falsi positivi sarebbero individui i cui volti assomigliano a persone che sono state condannate in passato. Dati i pregiudizi razziali e di altro tipo che esistono nel sistema di giustizia penale, tali algoritmi finirebbero per sopravvalutare la criminalità tra le comunità emarginate.
La questione più controversa sembra essere se reinventare la fisiognomica sia un gioco equo ai fini della “pura discussione accademica”. Si potrebbe obiettare su basi empiriche: eugenisti del passato come Galton e Lombroso alla fine non sono riusciti a trovare tratti del viso che predisponessero una persona alla criminalità. Questo perché non ci sono connessioni di questo tipo. Allo stesso modo, gli psicologi che studiano l’ereditarietà dell’intelligenza, come Cyril Burt e Philippe Rushton, hanno dovuto giocare d’azzardo con i loro dati per produrre correlazioni tra dimensioni del cranio, razza e QI. Se ci fosse stato qualcosa da scoprire, presumibilmente le molte persone che ci hanno provato nel corso degli anni non sarebbero rimaste a bocca asciutta.
Il problema di riprendere a “credere” nella fisiognomica non è solo che è stata già confutata in passato. Un po’ come i ricercatori che si ostinano a cercare la fusione fredda dopo che il consenso scientifico è andato avanti, chi si ostina deve confrontarsi con il tipo di critiche che si fanno a chi dà la caccia agli unicorni. Ma queste critiche non sono delle condanne vere e proprie. Nel peggiore dei casi, queste ricerche sono viste come una perdita di tempo. La differenza con la frenologia, però, è che i potenziali danni della ricerca sulla fusione fredda sono molto più limitati. Anzi, alcuni commentatori sostengono che il riconoscimento facciale dovrebbe essere regolato in modo altrettanto rigoroso del plutonio, perché ha pochi usi non nocivi. Quando un vicolo cieco che si vuole far risorgere viene inventato con lo scopo di puntellare le strutture coloniali e di classe – e quando l’unica cosa che è in grado di misurare è il razzismo insito in quelle strutture – è difficile giustificare il fatto di provarlo ancora una volta, così, per curiosità.
Tuttavia, chiamare “frenologia” la ricerca sul riconoscimento facciale senza spiegare la posta in gioco non è probabilmente la strategia più efficace per comunicare la forza della denuncia. Affinché gli scienziati prendano sul serio le loro responsabilità morali, devono essere consapevoli dei danni che potrebbero derivare dalla loro ricerca. Spiegare più chiaramente cosa c’è di sbagliato nel lavoro etichettato come “frenologia” avrà, si spera, un impatto maggiore.
Catherine stinson è ricercatrice in filosofia ed etica dell’intelligenza artificiale all’università di Bonn, in Germania, e al Leverhulme Centre for the Future of Intelligence dell’università di Cambridge.
0 comments on “La frenologia sta tornando”