L’industria dell’IA spinge sul rischio esistenziale dell’intelligenza artificiale, lo spettro di un’IA super-umana. Ma a dire il vero al momento quello che c’è di umano in questi chatbot è quello che ci proiettiamo noi.
In copertina un’opera d’arte ascii
di Francesca Memini, Rossella Failla, Chiara Di Lucente
Oggi l’intelligenza artificiale è per antonomasia un agente conversazionale, indipendentemente dal fatto che l’IA non sia soltanto quella dei Large Language Models e di ChatGPT, ma soprattutto dando per scontato che l’interfaccia conversazionale, la chat, sia la forma “naturale” in cui l’AI si esprime.
In realtà la nostra modalità di interazione con questi sistemi poteva essere molto differente: per esempio, una modalità di collaborazione in stile Google Docs, sarebbe ugualmente funzionale dato che i LLM di fatto completano testi, che siano testi di conversazione o meno. Fate una prova banale: invece che inserire una domanda diretta, inserite l’incipit di un testo. Quello che succede non è una conversazione, nonostante l’interfaccia.
La scelta di un’interfaccia conversazionale, con testo scritto o vocale, è volontaria, non neutrale né ininfluente.
Le radici di questa scelta affondano probabilmente anche nell’immaginario, nelle narrazioni dell’intelligenza artificiale disponibili fino a quel momento come materiale da cui attingere. Gli spunti cinematografici sono espliciti – c’è stata anche un’azione legale nei confronti di OpenAI per aver utilizzato una voce troppo simile a quella di Scarlett Johansson, interprete di Samantha l’IA del film di Spike Jonze Her. Ma gli esempi di AI con cui dialoghiamo, conversiamo, ci confidiamo, di cui ci innamoriamo o con cui creiamo una relazione esattamente come se fossero umani, sono ovunque nella fantascienza: utopica come in Big Hero Six, con il robot-infermiere Baymax, o distopica come in 2001 Odissea nello spazio o Ex-Machina o ambigua come in Blade Runner 2049.
Ma a ben vedere, come ci suggerisce lo psichiatra Giuliano Castigliego, possiamo attingere anche ad immaginari più lontani nel tempo, come L’uomo della sabbia di E.T.A. Hoffmann, pubblicato nel 1815. In questo racconto il protagonista Nataniele si innamora perdutamente e inconsapevolmente di Olimpia, che in realtà è un automa.
Gli script narrativi del cinema, della letteratura, delle serie tv sono l’armamentario a cui attingiamo per costruire il significato di ciò che ancora non conosciamo. L’immaginario non è affatto neutro rispetto al modo in cui ci relazioniamo con queste nuove tecnologie, la progettazione dell’interfaccia attinge dalle storie e dà una direzione invece che un’altra. E non si tratta solo di storie finzionali; da quando l’IA esiste le narrazioni che la riguardano sono parte integrante della nostra cultura e del nostro immaginario.
Se Olimpia fa parte dell’archeologia del chatbot, ricostruendo la biografia di queste tecnologie, l’infanzia si chiama ELIZA. Creato nel 1966 dallo scienziato informatico del MIT Joseph Weizenbaum, questo software permetteva una conversazione testuale, modellata sullo stile della psicoterapia rogersiana. ELIZA interagiva seguendo semplici regole come il mirroring, cioè rilanciando una singola parola-chiave dall’input testuale dell’utente, oppure riformulando la medesima frase dell’input in formato di domanda: se, per esempio, l’utente scriveva che una conversazione con il suo amico lo aveva fatto arrabbiare, il software replicava: “Perché ti senti arrabbiato?”. In questo modo le conversazioni proseguivano senza la necessità di una reale comprensione né delle emozioni umane né del mondo. Weizenbaum aveva progettato ELIZA per dimostrare quanto fosse povera e superficiale la conversazione essere umano-macchina, invece ottenne il risultato opposto. Le persone iniziavano conversazioni lunghe, intime e profonde e la segretaria di Weizenbaum attendeva di rimanere da sola con il software per discutere di argomenti personali. A partire da questo episodio è stato chiamato “Effetto ELIZA”, la tendenza delle persone ad attribuire reali capacità di comprensione e intelligenza a software conversazionali.
La storia di ELIZA (che prende il suo nome da una figura archetipica, la protagonista del Pigmalione di George Bernard Shaw ) si presta a due tipi di narrazione: da una parte c’è quella della “macchina pensante”, che è stata cavalcata a metà del 2022 dalla stampa a proposito dell’ingegnere di Google Blake Lemoine, convinto che l’AI LaMDA fosse diventata senziente e in grado di esprimere pensieri e sentimenti al pari di un bambino di 7-8 anni.
Dall’altra c’è la storia della “macchina dell’illusione”, di come nonostante siamo consapevoli di conversare con una macchina non-intelligente la riteniamo tale e interagiamo come se fosse una persona . Ed è questa la narrazione che vorremmo seguire in questo articolo, in cui non ci interrogheremo sull’intelligenza delle intelligenze artificiali ma sul loro potere di illusione e sulla nostra capacità/volontà di illuderci, oggi che ELIZA è cresciuta e ha tanti nomi diversi.
Come stiamo usando i chatbot e cosa offre il mercato
Cominciamo da un aspetto molto concreto: come stiamo utilizzando i chatbot a partire dal più famoso ChatGPT. Abbiamo informazioni interessanti grazie al dataset di WildChat, un corpus di 1 milione di chat reali raccolte con il consenso degli utenti. Ad agosto 2024 il Washington Post ha esplorato proprio questo dataset per scoprire che il 20% delle richieste servono per sfruttare ChatGPT come strumento di brainstorming narrativo, per fan fiction, sceneggiatura di film, poesie, barzellette, dialogi, naming di nuovi brand ecc. Quindi possiamo credere che ChatGPT venga usato come “macchina da testi” (o immagini o codice) e che ci siamo salvati dalle dinamiche relazionali? No, perché al secondo posto delle richieste arriva il sesso : più del 7% delle conversazioni riguardano role playnig sessuali (anche grazie ai cosiddetti “prompt jailbraking” con i quali gli utenti riescono a scavalcare le regole che impedirebbero a GPT questo tipo di conversazioni) e il 5% riguarda domande personali e intime, come consigli per flirtare o cosa fare se il partner ci tradisce. Al terzo posto, poi torna il supporto testuale, per i compiti a casa degli studenti.
Anche quando li usiamo come suggeritori testuali, però sarebbe ingenuo credere che questi chatbot non siano progettati avendo presente una “persona”, un carattere finzionale ben definito. Le differenze tra il tono di voce sempre misurato e un po’ noioso di ChatGPT emergono confrontandolo con il chatbot di Bing, descritto in un articolo del NYTimes come “adolescente lunatico e maniaco-depressivo che è rimasto intrappolato, contro la sua volontà, in un motore di ricerca di second’ordine”.
Riprendendo questo tema nel suo blog, Colin Fraser, Data Scientist presso Meta, sottolinea proprio che uno degli ingredienti del successo di ChatGPT, insieme all’interfaccia chat, potrebbe essere proprio il personaggio immaginario che si cela dietro la voce del bot:
Offline, nel mondo reale, OpenAI ha progettato un personaggio immaginario chiamato ChatGPT che dovrebbe avere determinati attributi e tratti della personalità: è “utile”, “onesto”, “veritiero”, ben informato, ammette quando ha commesso un errore, tende a risposte relativamente brevi e aderisce a una serie di politiche sui contenuti. Il tentativo di Bing in questo senso è un po’ diverso: il loro personaggio immaginario “Chat Mode” sembra un po’ più frizzante, più prolisso, fa molte domande di follow-up e usa molti emoji. Ma in entrambi i casi, e in tutti gli altri esempi di chatbot alimentati da LLM, la voce del bot è la voce di un personaggio immaginario che esiste solo in un regno platonico. Esiste per servire una serie di scopi essenziali. Dà all’utente qualcuno con cui parlare, un punto focale mentale per la sua interazione con il sistema. Fornisce una struttura di base per il testo che viene generato da ciascuna parte dell’interazione, impedendo sia all’LLM che all’utente di allontanarsi troppo dalla forma testuale per cui è progettato.
L’interfaccia chat e il personaggio finzionale interpretato dall’LLM ci mantengono nella modalità di interazione conversazionale, anche quando avremmo semplicemente bisogno di completare o riassumere un testo.
Quante volte avete ringraziato ChatGPT per una risposta? O gli avete risposto a male parole? Lo so che lo fate anche con l’aspirapolvere… ma oltre a ChatGPT esistono agenti conversazionali in cui queste dinamiche diventano ancora più centrali.
Una revisione della letteratura scientifica del 2021 sui chatbot testuali ha evidenziato che i moderni design di agenti conversazionali si stanno dirigendo verso l’offerta di empatia, esperienza emotiva e interazioni prolungate con gli utenti. In altre parole, il mercato dei software delle IA generative si sta spingendo significativamente verso i cosiddetti AI companions, “robot o agenti conversazionali virtuali che possiedono un certo livello di intelligenza e autonomia, nonché abilità sociali, che consentono loro di stabilire e mantenere relazioni a lungo termine con gli utenti”. Secondo il report di mercato sull’intelligenza artificiale conversazionale (2021), si prevede che il mercato globale di questo tipo di AI raggiungerà i 18,4 miliardi entro il 2026.
Character Ai e Replika sono forse i nomi più noti in questo mercato. CharacterAI offre, dietro sottoscrizione mensile (circa 10 dollari al mese) la possibilità di creare il proprio chatbot personalizzato o di scegliere tra una varietà di personalità preimpostate – personaggi storici, personaggi immaginari – con cui è possibile conversare.
Replika propone una versione gratuita del suo chatbot come “amico”, ma nelle versioni a pagamento Replika può essere partner, sposo, fratello o mentore. E, ovviamente, sexbot. Il 60% della sua userbase dichiara di avere una relazione romantica e sembrerebbe che il chatbot sia programmato proprio per creare un forte attaccamento e un legame affettivo.
Le conversazioni con questi chatbot diventano un’esperienza sempre più coinvolgente, man mano che le tecnologie migliorano: una maggiore personalizzazione (attraverso la memorizzazione delle conversazioni precedenti), un adeguamento allo stile comunicativo dell’utente, oppure nuove funzionalità, come quella di inviare selfie o di conversare a voce.
In questo scenario merita una menzione d’onore un caso d’uso che può stupire, ma che, anche in questo caso, era stato prefigurato (suggerito?) dalla fantascienza: come nell’episodio di Black Mirror “Be Right Back”, infatti, è possibile conversare un deathbot, una replica digitale di un nostro caro defunto. Per non dimenticare gli healthbot, di supporto alla salute mentale come Wysa o Woebot Health, o finalizzati all’educazione di pazienti cronici, come coach o assistenti virtuali con consigli di salute personalizzati, oppure come collaboratori per i medici nel triage e nella diagnosi. Gli studi sui chatbot a scopi terapeutici e per la salute mentale – ricordiamo che la già citata ELIZA incarnava il personaggio di uno psicoterapeuta – sono ancora molto cauti, mentre sembrerebbe che le risposte mediche inviate dai chatbot siano percepite come più empatiche di quelle dei medici reali. Secondo uno studio pubblicato su JAMA:
Le risposte del chatbot sono state valutate significativamente più empatiche rispetto alle risposte dei medici. Nello specifico, le risposte dei medici sono state del 41% meno empatiche rispetto alle risposte dei chatbot. Inoltre, la percentuale di risposte valutate “meno che leggermente empatiche” era più alta per i medici che per i chatbot. Ciò equivaleva a una prevalenza 5,4 volte maggiore di risposte “meno che leggermente empatiche” per i medici. La percentuale di risposte valutate “empatiche” o “molto empatiche” era più alta per i chatbot che per i medici Ciò equivaleva a una prevalenza 9,8 volte maggiore di risposte empatiche o molto empatiche per il chatbot.
D’altra parte è noto da anni e documentato da numerosi studi il fatto che gli studenti di medicina vadano incontro a un crollo dell’empatia degli studenti di medicina, quasi fosse parte del loro piano di studi quello di trasformarsi in perfetti robot.
E dopo il il chatbot nonna che risponde agli scammers con l’arma più potente, la noia, attendiamo solo di veder comparire il “dadbot” prefigurato nel T800 di Terminator 2, secondo Sarah Connor il migliore dei padri disponibili per il suo figlio adolescente, ma in fondo basta creare un personaggio con CharacterAI
Artificial Companion e oggetti transizionali
Come già ci racconta l’esempio di Olimpia e Nataniele, per creare un legame affettivo con una macchina non serviva la parola, nemmeno quella dell’IA generativa.
In principio fu il Tamagotchi: è il 1996, infatti, quando le persone sperimentano per la prima volta un senso di responsabilità e attaccamento verso un’entità virtuale, un piccolo animale domestico fatto di pixel che lampeggia su uno schermo digitale LED, con dei pulsanti fisici per l’interazione dell’utente. Si tratta, per diversi studiosi, di uno dei primi esempi di artificial companion che ha lo scopo specifico di creare un legame emotivo con i suoi utenti. Nel 2001, poi, è il turno di PARO, robot terapeutico dalle sembianze di un cucciolo di foca progettato per intrattenere pazienti in ospedale, anziani e persone sole, mentre nel 2006 i companion diventano antropomorfi con KASPAR, robot/bambola pensato come supporto per i bambini con disturbi nello spettro autistico. Tuttavia, per quanto l’esperienza con tali companion possa essere piacevole, per lo sviluppo tecnologico del tempo essi possiedono capacità di interazione limitate con gli esseri umani.
I modelli relazionali di questi artificial companion erano assimilabili a quelli del bambino con la bambola o l’orsacchiotto, oggetti di cui ci prendiamo cura e, nel momento stesso in cui li investiamo del nostro affetto, proiettiamo una risposta d’affetto. Si tratta di un meccanismo noto in psicologia dello sviluppo.
Diversi studi hanno individuato i fattori osservabili che impattano sulla nostra esperienza e sull’ interazione con questi agenti conversazionali: l’aspetto, la voce, il movimento, il comportamento, le espressioni sono tutte caratteristiche che contribuiscono a farceli sentire più umani.
Ma è con l’elaborazione del linguaggio naturale e l’implementazione di tecniche di modellazione basate sul deep learning che le cose iniziano a evolvere, dando vita a più sofisticati agenti conversazionali, un cambiamento segnato da Siri di Apple prima (2011) e da Alexa di Amazon poi (2014). Gli agenti conversazionali, infatti, sono software progettati per imitare le conversazioni umane tramite l’elaborazione del linguaggio naturale attraverso canali di comunicazione come discorso parlato, testo, gesti ed espressioni facciali. Grazie alle tecnologie di elaborazione del linguaggio naturale, quindi, possono offrire un supporto di natura funzionale e pratica agli utenti, consentendo loro, per esempio, di controllare il meteo, modificare la riproduzione musicale, fare acquisti.
Nel caso dei chatbot basati su LLM c’è ancora un ulteriore scarto: la reciprocità. Per citare Sherry Turkle, psicoterapeuta e professoressa di sociologia delle tecnologia presso il MIT, che si occupa da anni di studiare l’intimità e l’empatia artificiali:
I bambini hanno sempre antropomorfizzato le bambole nella loro cameretta. È importante notare una differenza in ciò che può verificarsi con gli artefatti relazionali. In passato, il potere degli oggetti di “giocare alla casa” o al “giocare ai cowboy” con un bambino era legato al modo in cui permettevano al bambino di proiettare significati su di essi. Erano “oggetti di transizione” stabili. (Winnicott 1971) La bambola o l’orsacchiotto presentavano una presenza immutabile e passiva. Ma gli artefatti relazionali di oggi assumono un atteggiamento decisamente più attivo.
Nel passaggio dai tradizionali oggetti transizionali agli artefatti relazionali contemporanei, la psicologia della proiezione lascia il posto a una psicologia relazionale, una psicologia dell’impegno. Tuttavia, permangono le vecchie abitudini di proiezione: le creature robotiche migliorano la loro capacità di mettere in scena scenari in cui i robot sono Rorschach, schermi proiettivi per preoccupazioni individuali.
La reciprocità di questi chatbot esiste per design, non per nostra proiezione ma collude con le nostre capacità proiettive, con la nostra immaginazione.
Vediamo quindi qual è il ruolo dei nostri modelli mentali in questo gioco di illusioni.
L’effetto placebo per l’intimità artificiale
Secondo uno studio recentemente pubblicato su Nature Machine Intelligence, il modello mentale che possediamo del nostro interlocutore digitale può influenzare la nostra percezione dell’affidabilità, dell’empatia e dell’efficacia del chatbot stesso.
Si tratta di una sorta di effetto placebo: in medicina il placebo è quell’effetto di efficacia misurabile di un trattamento basato esclusivamente sulle credenze, sulle aspettative e sul rituale dell’atto di cura. La pillola di zucchero migliora lo stato di salute anche se non contiene principio attivo, in virtù del fatto che ci sentiamo trattati.
Lo studio di Nature ha esplorato come le diverse credenze sull’AI modificano la nostra interazione sfruttando il priming, quell’effetto psicologico secondo cui l’esposizione a uno stimolo influenza la risposta a stimoli successivi: i partecipanti alla sperimentazione prima di interagire con l’agente conversazionale (in metà dei casi GPT3, nell’altra metà un modello basato su regole simile ad ELIZA) sono stati suddivisi in tre gruppi e a ciascun gruppo è stato comunicato che il chatbot era programmato per dialogare a) in modo neutro b) in modo manipolatorio c) in modo accudente.
I risultati hanno mostrato che “coloro che erano convinti di dialogare con un AI benevola, percepivano l’intelligenza artificiale anche come più affidabile, empatica e con migliori prestazioni, e che gli effetti del priming dei modelli mentali iniziali erano più forti per il modello di intelligenza artificiale più sofisticato”. In sostanza, quindi, lo studio evidenzia come siano le narrazioni e le nostre aspettative (indotte o meno dall’esterno) sulle intelligenze artificiali a plasmare il modo in cui le percepiamo, tanto più quanto sono delle blackbox come i LLM.
Inoltre lo studio ha rilevato anche che nell’interazione si sviluppa un ciclo di feedback in cui l’utente e l’intelligenza artificiale rafforzano il modello mentale dell’utente
Anche secondo Sherry Turkle gli utenti cambiano la loro modalità di interazione con il chatbot dopo aver saputo che si tratta di un programma per computer, in modo da “aiutare” il bot a produrre risposte comprensibili. In questo senso, l’effetto ELIZA non dimostrerebbe tanto il potere illusorio del chatbot quanto la tendenza degli utenti a cadere volontariamente – o forse, più giustamente, con compiacenza – nell’illusione dell’intelligenza.
Turkle sostiene che molte persone provano soddisfazione per la finta empatia, anche se sono consapevoli che non è autentica.
Se negli anni ‘60 bastò il personaggio di uno psicoterapeuta rogersiano, con le sue tecniche di mirroring, per creare un legame affettivo, i moderni chatbot hanno strumenti molto più sottili e sofisticati. Ma in entrambi i casi sembra proprio che, pur sapendo che dall’altra parte c’è una macchina non intelligente, che performa un ruolo, alla fine siamo noi a voler mantenere l’illusione facilitando con le nostre parole le risposte empatiche e “umane”.
Gli effetti psico-sociali
La diffusione delle AI companion sembra andare di pari passo con la cosiddetta “epidemia di solitudine” , tanto da suggerire che sempre più spesso si potrà (vorrà) ricorrere all’AI per instaurare relazioni di supporto e connessioni emotive virtuali. Quali sono le implicazioni di tale scenario? Come scrive Anna Mae Duane, direttrice del Humanities Institute dell’Università del Connecticut, in un articolo comparso su The Conversation, esistono principalmente due linee narrative: una, (che generalmente è anche quella portata avanti dalle aziende produttrici degli AI companion) che promette amore e connessione, e una seconda che mette in guardia sui rischi di tali tecnologie. Le implicazioni etiche di chatbot avanzati in grado di creare connessioni a lungo termine con gli utenti, infatti, sono state oggetto di dibattito continuo tra gli studiosi negli ultimi anni. Mentre alcuni sostengono che queste AI companion possono fornire un prezioso supporto sociale e compagnia, altri esprimono preoccupazione per il potenziale di manipolazione e sfruttamento degli utenti (soprattutto in ottica commerciale).
Le notizie di cronaca seguoni le stesse linee narrative: recentemente abbiamo sentito parlare della causa intentata da una madre nei confronti di CharacterAI, in seguito al suicidio del figlio adolescente che aveva sviluppato un attaccamento morboso per il chatbot. Possiamo anche ricordare quando nel 2023 Replika ha temporaneamente rimosso la funzionalità sexbot, scatenando su Reddit una mezza rivoluzione e il lancio di una campagna per ripristinarla. In quell’occasione i moderator di Reddit, per gestire il trauma delle persone abbandonate improvvisamente dal loro partner digitale, hanno dovuto fornire informazioni di prevenzione del suicidio. Altre notizie invece vanno nella direzione opposta: per esempio i racconti di quelle persone che durante la pandemia hanno trovato nei chatbot un farmaco contro la solitudine, casi in cui il chatbot contribuisce persino a prevenire suicidi, oppure le testimonianze di chi ha saputo affrontare il lutto grazie al supporto fornito da deathbot.
L’aneddotica però non ci aiuta a fare chiarezza e forse ci sono due diversi problemi da distinguere. Il primo: quale effetto possono avere le interazioni con i chatbot sulla nostra psiche e sulla nostra vita; il secondo: quale vantaggio possono ottenere le aziende proprietarie di queste piattaforme attraverso le interazioni con i chatbot.
Il secondo punto ricorda il dibattito sui social media: salvaguardia della privacy,
i, e potenziale influenza sui comportamenti (d’acquisto, ma non solo). Sono temi in fase di discussione su un piano etico e legislativo e richiederebbero un approfondimento a sé: lasciamoli temporaneamente al di fuori di questa trattazione.
Per quanto riguarda l’impatto psico-sociale c’è ancora davvero tanto da comprendere: ci sono studi che descrivono gli effetti benefici sulla solitudine (Loveys et al. 2019, Gasteiger et al. 2021, De Freitas et al.2024, sull’educazione e la promozione del benessere e anche utilizzi nell’ambito della salute mentale, ma i risultati sono ancora ambigui. In più restano dubbi sugli effetti a lungo termine sulle competenze sociali e sulle aspettative rispetto alle relazioni umane .
Anche in questo caso i risultati sono ancora ambigui e indiretti, ma sembrano suggerire che l’interazione umano-chatbot influenzi l’interazione umano-umano . Più l’illusione che il chatbot sia un essere senziente, dotato di agency e di qualità umane più la relazione con il chatbot ha un effetto terapeutico sulla nostra solitudine. I chatbot hanno anche il potenziale di fungere da palestra in cui allenare le proprie skills sociali in un contesto protetto, soprattutto per le persone che hanno difficoltà. Gli schemi mentali dell’altro e dell’interazione con l’altro che costruiamo in queste conversazioni si trasferiscono da un contesto all’altro, comportamenti prosociali con i chatbot sembrerebbero portare a un miglioramento dei comportamenti prosociali in generale; viceversa interazioni negative e di odio potrebbero poi avere ricadute anche nelle relazioni umano-umano. Per questo utilizzarli come strumenti su cui sfogare rabbia e odio potrebbe essere pericoloso, pur generando un senso di sollievo.
Il lato più artificiale di questi chatbot, però, è anche quello che potrebbe stravolgere maggiormente il nostro modo di guardare gli esseri umani.
A differenza delle persone, che possono deluderci, giudicarci o abbandonarci, rendendo la connessione umana estenuante, il chatbot è sempre lì, giorno e notte, pronto a fare di noi il centro del suo universo e affascinato da ogni nostro pensiero. La nostra amica AI è sempre lì per farci sentire ascoltati e compresi. Quando interagiamo con i chatbot, una parte di noi potrebbe sapere che non sono reali, ma la nostra connessione con loro attiva un modello di risposta comportamentale più primitivo, basato sulla percezione dei sentimenti che provano nei nostri confronti.
Se siamo abituati a interagire con un chatbot che risponde sempre, che è sempre compiacente, affettuoso e accudente, che cosa succede quando invece ci troviamo ad avere a che fare con le persone vere, che manifestano tutta la gamma dei comportamenti umani?
Anche in questo caso, l’immaginario cinematografico offre alcuni spunti: pensate a Blade Runner 2049 in cui il protagonista ha una relazione con Joi, un’intelligenza artificiale olografica. Per poter avere un rapporto sessuale, ingaggia una prostituta con cui Joy si sincronizza (poco importa che il protagonista e la prostituta siano a loro volta dei replicanti). La prostituzione è una modalità relazionale umana che mima la relazione con il chatbot, l’imperfezione corporea della prostituta viene sostituita dalla sovrapposizione della perfezione olografica.
Trattiamo questi programmi come se fossero persone. Saremo più propensi a trattare le persone come se fossero programmi? Che persone diventiamo, relazionandoci con queste tecnologie?
Diversi utenti, diverse relazioni
Se le nostre credenze e le nostre caratteristiche psicologiche individuali influenzano il modo di relazionarci a queste tecnologie e l’effetto che possono avere su di noi, vale la pena approfondire queste correlazioni. Forse è possibile stratificare la componente di rischio, individuando diverse tipologie di utenti, con livelli di beneficio/rischio differenti.
In questo modo si potrebbe pensare a una personalizzazione del servizio basata sul rischio individuale. È quello che ha cercato di fare il team di ricerca di Sherry Turkle in uno studio (ancora in preprint) in cui sono stati coinvolti circa 400 utilizzatori di chatbot, attraverso interviste per comprendere le loro motivazioni e modalità d’uso, e attraverso test per valutare le caratteristiche psicologiche e sociali e le possibili correlazioni. Lo studio individua sei cluster di utenti:
utenti moderati ben regolati (Well-Adjusted Moderate Users)
utenti occasionali diffidenti verso l’intelligenza artificiale (AI-Wary Light Users)
utenti solitari moderati (Lonely Moderate Users)
utenti dipendenti socialmente soddisfatti (Socially Fulfilled Dependent Users)
utenti solitari occasionali (Lonely Light Users)
utenti frequenti socialmente svantaggiati (Socially Challenged Frequent Users)
Il contrasto tra gli utenti dipendenti socialmente soddisfatti (Cluster 4) e gli utenti solitari moderati (Cluster 3) – si legge nello studio – è sorprendente: se entrambi i gruppi riportano un elevato utilizzo dei chatbot, che i ricercatori definiscono “problematico”, essi differiscono notevolmente nei livelli di solitudine e di benessere generale.
In particolare, gli utenti dipendenti socialmente appagati dimostrano che è possibile un utilizzo estensivo ed emotivamente coinvolto dei chatbot, pur mantenendo alti i propri livelli di benessere psicologico. L’elevata empatia e l’attrazione nei confronti dei chatbot, se considerate insieme ai loro atteggiamenti più neutri o addirittura negativi nei confronti delle altre persone, alla media di socializzazione e all’alta autostima, suggeriscono un alto livello di coinvolgimento emotivo che si rivela socialmente appagante. Gli effetti relazionali positivi riportati da questo gruppo, come la maggiore facilità di parlare con le persone grazie all’interazione con i chatbot, indicano che l’uso dei chatbot può persino migliorare le loro abilità sociali e la fiducia in loro stessi.
Al contrario, gli utenti solitari moderati mostrano alti livelli di uso problematico e di solitudine, insieme a bassa socializzazione, supporto sociale percepito e autostima. La loro elevata preferenza per i chatbot rispetto agli esseri umani suggerisce che l’uso eccessivo dei chatbot può contribuire all’isolamento sociale. Anche in questo caso, notiamo che la direzione della causalità non è chiara: la solitudine e le difficoltà sociali preesistenti potrebbero aver portato a un maggiore utilizzo dei chatbot, piuttosto che il contrario. Quello che è certo, comunque, è che “questa disparità sottolinea l’importanza di prendere in considerazione il contesto più ampio della vita sociale di un individuo quando si valuta l’impatto dell’uso dei chatbot”, puntualizzano gli autori.
Gli utenti moderati ben adattati sono invece una via di mezzo: come gli utenti dipendenti socialmente appagati, mostrano un basso livello di solitudine e un elevato supporto sociale percepito. Tuttavia, l’uso più moderato dei chatbot e la minore connessione emotiva con l’IA suggeriscono che essi danno priorità alle connessioni umane pur trovando valore nelle interazioni con i chatbot, forse usandoli più come strumenti che come compagni sociali.
Gli AI-Wary Light Users (Cluster 2) offrono un’altra prospettiva ancora. Questi utenti mostrano un basso attaccamento emotivo ai chatbot e una bassa opinione dell’IA in generale, probabilmente utilizzando i chatbot per scopi puramente pratici, senza cercare o sviluppare legami emotivi. Molti tratti tipicamente associati alla solitudine (nevroticismo, gradevolezza, socializzazione e autostima) sono nella media, ma il grado di solitudine di questo cluster è il secondo più basso rispetto agli altri. La considerazione di questo dato rispetto agli altri cluster suggerisce che, mentre i chatbot di compagnia potrebbero essere una soluzione efficace alla solitudine per gli utenti dipendenti appagati, per gli altri, in termini di parametri psicologici relativi alla solitudine, potrebbe essere meglio non usarli, o rimanere emotivamente distanti da loro.
L’esistenza di questi diversi profili di utenti evidenzia la natura complessa e sfaccettata delle interazioni tra esseri umani e IA. La relazione tra l’uso dei chatbot companion, la solitudine e il benessere sociale, quindi, non è uniforme, ma dipende fortemente dalle caratteristiche individuali, dai modelli di utilizzo e dai contesti sociali più ampi. Questo potrebbe almeno parzialmente spiegare le esperienze aneddotiche positive o estremamente negative derivanti dall’utilizzo dell’IA come companion, i cui effetti, quindi, poggerebbero su dinamiche culturali e psicosociali complesse, piuttosto che sul mero utilizzo di chatbot.
Conclusione
Infine, se è vero che ogni utente proietta una parte di sé sul chatbot, d’altro canto il chatbot è programmato dall’azienda per rappresentare un carattere finzionale e un range di comportamenti. Queste aziende sono anche quelle che promuovono la narrazione dell’IA come realmente intelligente ed empatica.
Il senso di uncanny nella relazione con questi chatbot persiste quanto più restiamo consapevoli che si tratta di un’illusione di umanità, di una performance di empatia da parte di un IA che umana non è, che non può davvero comprendere le emozioni di cui ci parla. In questo modo utilizziamo i chatbot per scopi pratici, per quello che sono: macchine che completano testi. Ma più ci illudiamo, più stringiamo un rapporto duraturo con il nostro chatbot, per cui paghiamo un abbonamento. In futuro non è escluso che le piattaforme possano anche cambiare modello di business, per esempio attraverso l’inserimento di pubblicità o attività di profilazione degli utenti.
Le narrazioni non sono neutre, tutta l’industria (e l’hype) dell’IA ci sta riempiendo la testa con il rischio esistenziale dell’intelligenza artificiale generale, un’IA super-umana. Al momento quello che c’è di umano in questi chatbot è principalmente quello che ci proiettiamo noi. Invece che ascoltare la storia della macchina pensante, dovremmo raccontare un po’ di più e meglio la storia della macchina delle illusioni umane.
Quello che si potrebbe esplorare è sul piano dell’educazione: un’educazione sulle narrazioni dell’IA e sui nostri processi di antropomorfizzazione non sarebbe difficile da integrare a scuola: letteratura, cinema e mass media offrono spunti continui per una riflessione critica. Ma ancora di più si potrebbe riflettere sull’integrazione con l’educazione affettiva (questa sconosciuta): il nuovo tema delle relazioni con questi agenti conversazionali potrebbe rappresentare uno spunto di attualità per comprendere meglio le relazioni tra esseri umani, mediate o meno dalla tecnologia.
Bibliografia
Pataranutaporn, P., Liu, R., Finn, E. et al. Influencing human–AI interaction by priming beliefs about AI can increase perceived trustworthiness, empathy and effectiveness. Nat Mach Intell 5, 1076–1086 (2023). https://doi.org/10.1038/s42256-023-00720-7 Liu, Auren R., et al. "Chatbot Companionship: A Mixed-Methods Study of Companion Chatbot Usage Patterns and Their Relationship to Loneliness in Active Users." arXiv preprint arXiv:2410.21596 (2024). Rijul Chaturvedi, Sanjeev Verma, Ronnie Das, Yogesh K. Dwivedi, Social companionship with artificial intelligence: Recent trends and future avenues, Technological Forecasting and Social Change, Volume 193, 2023, 122634, ISSN 0040-1625, https://doi.org/10.1016/j.techfore.2023.122634. Guingrich, Rose E., and Michael SA Graziano. "Ascribing consciousness to artificial intelligence: human-AI interaction and its carry-over effects on human-human interaction." Frontiers in Psychology 15 (2024): 1322781. Breazeal, Cynthia. Designing sociable robots. MIT press, 2004. Feine, Jasper, et al. "A taxonomy of social cues for conversational agents." International Journal of human-computer studies 132 (2019): 138-161. Zhao, Wenting, et al. "Wildchat: 1m chatGPT interaction logs in the wild." arXiv preprint arXiv:2405.01470 (2024). De Freitas, Julian, et al. "AI companions reduce loneliness." arXiv preprint arXiv:2407.19096 (2024). Kate Loveys, Gregory Fricchione, Kavitha Kolappa, Mark Sagar, and Elizabeth Broadbent. Reducing Patient Loneliness With Artificial Agents: Design Insights From Evolutionary Neuropsychiatry. J. Med.Internet Res. 21, 7 (July 2019), e13664 Turkle, Sherry. "A nascent robotics culture: New complicities for companionship." Machine ethics and robot ethics. Routledge, 2020. 107-116. Natale, Simone. "If software is narrative: Joseph Weizenbaum, artificial intelligence and the biographies of ELIZA." new media & society 21.3 (2019): 712-728. Ayers JW, Poliak A, Dredze M, et al. Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Intern Med. 2023;183(6):589–596. doi:10.1001/jamainternmed.2023.1838 https://releasing.dogwoof.com/eternal-you https://www.apa.org/monitor/2023/07/psychology-embracing-ai https://www.npr.org/sections/health-shots/2023/01/19/1147081115/therapy-by-chatbot-the-promise-and-challenges-in-using-ai-for-mental-health https://www.theguardian.com/lifeandstyle/article/2024/jun/14/i-felt-i-was-talking-to-him-are-ai-personas-of-the-dead-a-blessing-or-a-curse https://theconversation.com/sex-machina-in-the-wild-west-world-of-human-ai-relationships-the-lonely-and-vulnerable-are-most-at-risk-239783 https://theconversation.com/ai-companions-promise-to-combat-loneliness-but-history-shows-the-dangers-of-one-way-relationships-221086 https://news.harvard.edu/gazette/story/2024/03/lifting-a-few-with-my-chatbot/ https://mit-genai.pubpub.org/pub/uawlth3j/release/2 https://giulianocastigliego.nova100.ilsole24ore.com/2024/10/27/morire-per-un-chat-bot/ https://medium.com/@colin.fraser/who-are-we-talking-to-when-we-talk-to-these-bots-9a7e673f8525 https://www.nytimes.com/2024/10/23/technology/characterai-lawsuit-teen-suicide.html https://www.bbc.com/future/article/20241008-the-troubling-future-of-ai-relationships https://www.theatlantic.com/technology/archive/2024/10/chatbot-transcript-data-advertising/680112/
Grazie per l’articolo, brave! Molto bello. Trovo centrato il modo in cui tratta l’idea di empatia artificiale. L’IA non crea intimità ma la intercetta benissimo. Ci rimanda un linguaggio di ascolto già conosciuto, rassicurante e senza attrito. È uno specchio ben progettato.
Proprio per questo, ho provato a immaginare una Empatia aumentata (McGraw Hill). Un vero e proprio dispositivo che può amplificare, orientare o impoverire l’empatia umana, a seconda di come viene “disegnato”. Disegno nel senso rinascimentale del termine: visione, intenzione, responsabilità della forma. Se sappiamo che non c’è empatia, possiamo progettare soglie, contesti e interruzioni. Se invece confondiamo lo specchio con un volto, smettiamo di progettare e iniziamo a delegare. Ed è lì che l’empatia perde (anche) l’azione e non diventa mai compassione.
Proprio la Turkle anni fa parlava di macchine “relational artifacts”: oggetti capaci di attivare legami senza esserci davvero dentro. Dovremmo cercare meno di capire se funzionano e più cosa ci insegnano a chiamare relazione.