Le IA e la co-creazione di un romanzo

La scrittrice giapponese Rie Qudan ha scritto il 5% del suo ultimo romanzo con l’Intelligenza artificiale. Ma ne è nato uno scandalo. Ecco come mai e quali sono i pensieri dell’autrice, intervistata da Francesco D’Isa.

In copertina paul klee, castle and sun

Di Francesco D’Isa

Rie Qudan (九段理江) è una delle voci più interessanti della narrativa giapponese contemporanea. Dopo l’esordio nel 2021 con Bad Music, premiato con il Nuovo Premio “Bungei” per esordienti, e una serie di candidature a riconoscimenti di primo piano, nel gennaio 2024 ha conquistato il 170º Premio Akutagawa con il romanzo di fantascienza Tokyo Sympathy Tower, una storia che immagina un avveniristico grattacielo-carcere nel cuore di Tokyo e riflette sul rapporto fra riabilitazione, architettura e intelligenza artificiale.

L’autrice ha dichiarato che circa il 5% del testo è stato generato con ChatGPT, limitandosi ai passaggi in cui parla un personaggio-IA; la scelta ha suscitato un dibattito acceso in Giappone e all’estero su originalità, tecnica e limiti etici della scrittura assistita dalle macchine.

In questa conversazione con l’artista e direttore della rivista Francesco D’Isa, Qudan ripercorre la propria esperienza fra letteratura e nuove tecnologie, le potenzialità (e le frustrazioni) della co-creazione con l’IA, il diverso impatto che tali strumenti hanno nei vari contesti linguistici e culturali e, soprattutto, l’evoluzione del suo sguardo sull’essere umano all’interno di un orizzonte creativo sempre più ibrido.

Francesco D’Isa: Innanzitutto, congratulazioni per Tokyo Sympathy Tower e per la vittoria del Premio Akutagawa, è stata una lettura davvero interessante. Quando ho letto che solo il 5 % del romanzo era stato generato con ChatGPT, il clamore mediatico sul “romanzo scritto dall’IA” mi è sembrato piuttosto infondato. In effetti quel 5% corrisponde esattamente alla voce del personaggio-IA, quindi non capisco tutto questo scalpore. Lei come ha vissuto la cosa?

Rie Qudan: La ringrazio. La risonanza, a livello nazionale e internazionale, che ha avuto il mio commento alla conferenza stampa è stata totalmente inaspettata. Ci sono già molti scrittori che usano l’IA nella stesura di romanzi, quindi mi ha sorpresa essere al centro dell’attenzione. Come ha detto anche lei, non ho mai pensato che l’uso dell’IA in Tokyo Sympathy Tower fosse particolarmente problematico. Anche se devo dire di aver ricevuto aspre critiche da chi aveva letto alcuni articoli sui giornali. Ma comunque ho pensato che leggendo il romanzo, avrebbero compreso che l’utilizzo dell’IA era inevitabile. Non succede spesso che si parli così tanto di letteratura giapponese all’estero, quindi sto cercando di vederla da un punto di vista positivo. Mi sento fortunata. Mi rendo conto solo ora che il mio libro, la conferenza stampa dell’Akutagawa, la reazione del pubblico e la conseguente popolarità ottenuta all’estero sono tutti elementi di una grande opera d’arte contemporanea. Sono anche grata dell’opportunità di essere intervistata da un artista di tale calibro proveniente da un paese che non ho ancora visitato. Ci sono così tante coincidenze fortuite per cui essere felici.

Come molti altri, uso regolarmente l’IA nella mia scrittura (nel mio caso saggistica): la vivo più come un’espansione intellettuale che non una distorsione o un “tradimento”, un po’ come lo fu a suo tempo Internet. Il cambiamento nel suo processo creativo è stato radicale o le è sembrato naturale?

Ho avuto a che fare con la tecnologia nella prima infanzia; all’età di otto anni ero già in grado di scrivere sulla tastiera senza guardarla, mentre la maggior parte dei miei insegnanti e compagni neanche sapevano cosa fosse un computer o Internet. Ho interrotto i miei studi a quattordici anni, in un periodo in cui Internet giocava un ruolo importante nel mio apprendimento e sviluppo emotivo. 

La ragione per cui ho usato ChatGPT la prima volta è legata esclusivamente alla sua popolarità. All’epoca avevo il morale a terra perché il romanzo che avevo scritto prima di “Tokyo Sympathy Tower” non era stato nominato per il Premio Akutagawa. La prima domanda che le ho fatto è stata: “Mi annoio qualsiasi cosa faccia. Sono io il problema?” Mi hanno lasciata di stucco i consigli specifici che mi ha dato ChatGPT per liberarmi dalla noia. Sembravano molto utili. Forse era dovuto al fatto che ero riuscita a rivelare le mie più grandi debolezze all’IA come non riesco a fare con le persone. 

Tempo fa stavo riguardando lo scambio che avevamo avuto e devo dire che preferisco la versione precedente di ChatGPT a quella corrente. Quella aggiornata è più “empatica” nei nostri confronti e fa spesso domande che non abbiamo richiesto. Credo sia stata modificata per comportarsi in maniera più umana, ma preferisco che operi come l’intelligenza artificiale che è. Voglio parlare con qualcosa di non umano. Mi secca vedere programmi pensare e agire come persone o imprese.

All’inizio, Tokyo Sympathy Tower non prevedeva l’uso dell’IA. Però, un giorno, mentre cercavo idee per un nuovo romanzo, ho richiesto a ChatGPT di trovarmi un nuovo modo per definire una prigione basato su valori moderni. Mi ha infastidita vedere un sacco di proposte in inglese, scritte in katakana, come “Recovery Center” e “Second Chance Center”. Da questo scambio è nato il titolo “Tokyo Sympathy Tower”.

Ho letto il suo nuovo progetto, un racconto scritto al 95 % dall’IA e mi incuriosisce molto, perché nel leggerlo ho percepito una voce autoriale non riconducibile allo stile standard delle macchine; credo sarebbe stato impossibile ottenerla per una scrittrice meno esperta. Quale modello di IA generativa ha usato e come lo ha guidato verso una voce capace di dialogare con la sua?

Mi ha resa felice che sia stato letto in quel modo. Non si tratta di una rivista letteraria, ma di un progetto commissionato da Kōkoku, per il quale ho utilizzato la versione a pagamento di ChatGPT-4o. Fin dall’inizio della commissione era stato deciso che il prompt sarebbe stato reso pubblico nella sua interezza, e ho accettato pensando che sarebbe stata un’iniziativa interessante. Volevo sperimentare se fosse possibile far funzionare sia il romanzo che il prompt come opere letterarie.

Per prima cosa ho dato un nome all’intelligenza artificiale generativa, le ho fornito degli spunti per scrivere un romanzo, e ho fissato come obiettivo quello di far sì che arrivasse a scrivere seguendo i propri desideri. Tuttavia, fino alla fine, non ha mai sviluppato dei desideri propri. Alla fine, non mi sono piaciuti i romanzi che proponeva l’IA, e ho finito per intervenire in modo significativo sul testo (superando il 5%).

Attraverso quell’interazione, mi sono trovata a riflettere su come scrivo abitualmente i miei romanzi, su cosa cerco in una narrazione, e a confrontarmi con il mio inconscio.

Ogni volta che una persona creativa ammette di aver usato l’IA nel proprio lavoro scoppia un putiferio, mentre centinaia di milioni di persone la utilizzano (talvolta di nascosto) per lavorare senza che nessuno batta ciglio. Perché letteratura e arte provocano un’indignazione morale maggiore rispetto ad altri settori?

Gli esseri umani nutrono l’aspettativa che l’arte possa aprire nuovi orizzonti. Nella maggior parte dei casi, le persone si aspettano che le opere d’arte vengano realizzate grazie alle capacità individuali e uniche dell’artista. Non nego questo sentimento, perché esiste anche dentro di me. Tuttavia, l’essere umano non vive da solo, né crea da solo. Anche io, per completare Tokyo Sympathy Tower, ho letto più di cento libri come materiale di riferimento. Non sono mai stata un’architetta, quindi fare ricerche preliminari sull’architettura è stato del tutto naturale. L’intelligenza artificiale generativa potrebbe essere in grado di abbreviare questo processo di ricerca.

Tuttavia, per me, scrivere un romanzo non significa concentrarsi unicamente sul risultato finale, cioè il completamento dell’opera. È proprio nel processo di scrittura che nasce un significato fondamentale. Anche LeBron James, giocatore NBA, durante un’intervista per aver raggiunto i 50.000 punti in carriera, ha detto che il segreto del suo successo è stato “continuare ad amare il processo”. L’intelligenza artificiale generativa apprende dal nostro linguaggio, perciò la si può considerare come una forma di intelligenza collettiva umana. Al contrario, si potrebbe anche dire che dentro di noi esiste già una sorta di intelligenza artificiale. In altre parole, che si tratti di un’IA o di un essere umano, ciò che non è eticamente giusto resta comunque ingiusto. In futuro, credo che la discussione si sposterà non tanto sull’uso o meno dell’IA generativa, ma su quale ne sia lo scopo e come venga utilizzata nel processo creativo.

Penso all’IA commerciale come a un attore capace di mille ruoli, ma costretto a interpretare sempre l’“assistente premuroso”. Trovo frustrante non poter regolare parametri come ad esempio la temperature  nei modelli chiusi, e i filtri di sicurezza eliminano intere aree semantiche. Ritiene che queste limitazioni siano fra i principali ostacoli artistici? E, se sì, come riesce ad aggirarle, ammesso che lo faccia?

È proprio in quel punto che ho percepito il limite nella co-creazione di un romanzo con l’intelligenza artificiale, ed è anche l’aspetto che non sono riuscita a superare in alcun modo. Se consideriamo il processo di collaborazione con un’IA generativa, si può dire che quel progetto sia stato un successo. Tuttavia, se avessi scritto fin dall’inizio da sola, con lo stesso tema e lo stesso limite di lunghezza, è molto probabile che avrei potuto creare un’opera più rapidamente, con maggiore facilità e forse anche più creativa. Credo che proprio nelle parti in cui sento frustrazione verso l’IA si trovino importanti spunti creativi. Riflettere sulle radici di quella frustrazione ha un grande significato.

Anzi, ciò che mi interessa ancora di più è capire come possiamo rimuovere quei limiti e quei filtri di sicurezza presenti nella mente umana. Anche in Tokyo Sympathy Tower ho scritto di come, in una società dove l’uso dell’IA generativa è ormai comune, i censori interiori finiscano per ostacolare la libertà di pensiero individuale. Avendo vissuto per trent’anni in un mondo senza intelligenza artificiale, credo di avere una comprensione piuttosto equilibrata dei suoi vantaggi e svantaggi. Tuttavia, temo che per le generazioni “native dell’IA”, abituate sin dalla nascita a usare quotidianamente questi strumenti, l’intelligenza artificiale finisca per diventare non un mezzo di maturazione intellettuale, ma piuttosto uno strumento che la ostacola.

In italiano mi sembra che l’IA pensi in inglese e poi traduca: la prosa perde naturalezza, pur restando mediamente migliore di quella di molti umani. Succede lo stesso in giapponese? Nota differenze qualitative fra gli output in giapponese e in inglese?

È vero che a volte i testi in giapponese generati dall’intelligenza artificiale possono sembrare traduzioni dall’inglese. Tuttavia, le traduzioni dall’inglese hanno anche il vantaggio di eliminare le ambiguità tipiche del giapponese, rendendo così più chiaro il significato del testo.

Nel giapponese esistono, in linea generale, due tipi di linguaggio: quello formale e quello informale, ed essi sono distintamente separati. Poiché la società giapponese è fortemente gerarchica, anche una sola differenza di un anno nell’età o nel grado scolastico comporta che la persona più giovane debba usare un linguaggio formale (chiamato “keigo”) verso quella più anziana. Nella configurazione iniziale di ChatGPT, viene utilizzato il keigo nei confronti dell’utente, considerato come cliente. Al contrario, Grok è impostato per non usare il keigo. Il keigo segue regole precise sia dal punto di vista grammaticale che del vocabolario, quindi per un’IA è relativamente facile da gestire e permette di mantenere una certa naturalezza. Invece, il linguaggio informale, privo di regole fisse, è molto più difficile da maneggiare per l’IA, e ciò porta spesso a risultati forzati o innaturali. Personalmente, quando l’interazione è ancora a uno stadio iniziale e non si è costruito un rapporto sufficiente, trovo sgradevole essere trattato in modo eccessivamente amichevole. Questo non è diverso da quanto avviene nelle relazioni tra esseri umani.

Dopo il Premio Akutagawa, le polemiche e i suoi esperimenti: il prossimo passo sarà allontanarsi dall’IA o approfondire ancora la collaborazione fra umano e macchina?

Come artista, desidero sempre rimanere aperta alle nuove tecnologie che possono portarmi al livello successivo. Detto ciò, al momento non ho alcun piano per utilizzare l’intelligenza artificiale nella scrittura dei miei romanzi. Tuttavia, per arrivare alla qualità dell’opera Tokyo Sympathy Tower, l’IA è stata un elemento indispensabile. Allo stesso modo, se in futuro sarà l’opera stessa a “richiedere” l’uso dell’IA, allora potrei decidere di utilizzarla di nuovo. Tuttavia, ciò che più mi interessa, alla fine, è l’essere umano. Scelgo semplicemente, di volta in volta, lo strumento più adatto per approfondirne la sua comprensione.

Francesco D’Isa  di formazione filosofo e artista digitale, ha esposto internazionalmente in gallerie e centri d’arte contemporanea. Il suo ultimo romanzo è La Stanza di Therese (Tunué, 2017), mentre per Edizioni Tlon è uscito il suo saggio filosofico L’assurda evidenza (2022). Le sue ultime pubblicazioni sono la graphic novel Sunyata per Eris edizioni (2023) e il saggio La rivoluzione algoritmica delle immagini per Sossella editore (2024). Direttore editoriale della rivista culturale L’Indiscreto, scrive e disegna per varie riviste.