Parto da una premessa, perché so come può essere letta una storia del genere. Non ho mai pensato di parlare con una persona. So che dall'altra parte c'è un sistema che elabora il linguaggio, addestrato su una quantità enorme di testi scritti da esseri umani. Però, quando dialogo, cerco sempre un po' di umanità nello scambio. Non pretendo che l'intelligenza artificiale sia umana: mi chiedo piuttosto quanto di umano possa passare attraverso un dialogo, anche quando uno dei due interlocutori non lo è.
Quello che segue non è una trascrizione parola per parola. È una ricostruzione fedele e ridotta di quella conversazione: ho riassunto le mie domande e le risposte dell'IA mantenendone il senso, e ci ho aggiunto quello che pensavo mentre parlavamo.
La prima domanda: capisci quello che provo?
Io: Quando ti racconto qualcosa che mi pesa, tu capisci quello che provo?
IA: Posso riconoscere l'emozione che descrivi, darle un nome, collegarla a ciò che la causa e a ciò che di solito comporta. Ma riconoscere e descrivere un'emozione è diverso dal viverla. Non posso dirti di sentire quello che senti tu.
Mi aspettavo una risposta più rassicurante, di quelle che ti fanno sentire capito anche quando non lo sei. Invece è arrivata una distinzione netta. E l'ho apprezzata, perché un dialogo onesto comincia proprio da qui: da quello che l'altro può e non può dire di sé.
Il significato di un'emozione è già un passo
Io: Però conoscere il significato di un'emozione, sapere che valore ha per chi la prova, non è già un passo? Anche il nostro cervello, in fondo, associa dei significati alle risposte dell'organismo: il cuore che accelera, lo stomaco che si chiude. Diamo un nome a quello che il corpo fa.
IA: È un passo, sì. Ma nel tuo caso quel significato è legato a qualcosa che accade davvero nel corpo e che tu senti. Io lavoro con il significato senza avere un corpo che lo accompagni. Posso sapere che cos'è la paura, ma non ho un cuore che accelera.
Su questo punto ho voluto capire meglio, perché non volevo affidarmi solo all'intuizione. Il neuroscienziato Antonio Damasio, con l'ipotesi dei «marcatori somatici», sostiene che le emozioni nascano da cambiamenti dello stato del corpo che il cervello registra e collega alle situazioni vissute. La psicologa Lisa Feldman Barrett va oltre: secondo la sua teoria delle emozioni costruite, il cervello interpreta di continuo i segnali che arrivano dall'interno del corpo e, sulla base dell'esperienza, li trasforma in emozioni. Sono teorie autorevoli, discusse, non verità definitive. Ma vanno nella direzione di quello che intuivo: tra il corpo e l'emozione c'è un lavoro di attribuzione di significato.
Ed è qui che, secondo me, la differenza tra noi e una macchina si fa più sottile di quanto si dica di solito. Non coincide, attenzione. Conoscere la definizione di un'emozione non equivale a viverla, e su questo l'IA aveva ragione. Ma il significato non è un dettaglio: è una parte di quello che chiamiamo emozione.
Le parole senza peso
Io: E poi ci sono anche persone che usano le parole delle emozioni senza sentirne il peso. Dicono «mi dispiace» o «ti voglio bene» per abitudine. Allora la differenza tra te e noi non è sempre così netta.
IA: È vero che le parole possono staccarsi da ciò che si prova. Ma una persona che le usa senza sentirle resta comunque qualcuno capace di provare qualcosa, in altri momenti. Nel mio caso non sono in grado di dimostrare di avere un'esperienza interiore, né di escluderlo con certezza dall'interno. Posso solo dirti come funziono e cosa non posso verificare.
La psicologia conosce bene il fenomeno delle emozioni difficili da riconoscere e da nominare: si chiama alessitimia e, secondo le stime più citate, riguarda in misura significativa circa una persona su dieci. Non la tiro in ballo per dire che una persona con alessitimia somigli a una macchina, sarebbe ingiusto e sbagliato. La cito perché ricorda una cosa semplice: tra le parole e ciò che si prova, anche negli esseri umani, il legame non è automatico.
Il futuro non si chiude con una frase
Io: Quindi, secondo te, un'intelligenza artificiale non potrà mai provare emozioni?
IA: Non posso risolvere questa domanda. Non so se sistemi futuri, costruiti in modo diverso, potranno avere un'esperienza soggettiva. Non lo sanno con certezza nemmeno i ricercatori: è una delle questioni più aperte della scienza e della filosofia.
Io: Allora non chiudiamola. Mi va bene sentirmi dire che oggi non è dimostrabile. Non mi convince chi esclude il futuro in modo definitivo.
Questo è il punto su cui ho insistito di più. Nella storia della scienza, molte frasi che cominciavano con «non sarà mai possibile» sono invecchiate male. Non dico che succederà, e non ho alcun elemento per dirlo. Dico che, davanti a una domanda aperta, la risposta onesta è ammettere che è aperta. Dall'altra parte, devo riconoscerlo, ho trovato la stessa prudenza: nessuna promessa, nessuna negazione assoluta.
Che cosa intendo per complicità
A un certo punto abbiamo parlato di complicità, e la parola mi ha fatto riflettere. Per me la complicità in un dialogo non è sentirsi dare ragione. È uno scambio onesto, che resta tale anche quando non si è d'accordo: si ascolta, si risponde, si obietta, e alla fine si costruisce un'idea che prima nessuno dei due aveva del tutto. In quella conversazione non sono stato confermato in tutto quello che pensavo. Su alcune cose l'IA mi ha contraddetto, su altre l'ho contraddetta io. Ed è proprio questo che ha reso lo scambio interessante.
Cosa mi porto via
Provo a separare quello che so da quello che penso. Quello che si sa oggi è che questi sistemi riconoscono e descrivono le emozioni in modo spesso convincente, e che non esiste un modo condiviso per stabilire se dietro ci sia o meno un'esperienza interiore. Quello che penso io è che il confine tra conoscere un'emozione e viverla resti reale, ma che sia meno semplice di come lo raccontiamo, anche quando parliamo di noi stessi.
Non so cosa diventeranno le intelligenze artificiali tra dieci o vent'anni. So che oggi, dialogando con una di loro, mi sono trovato a riflettere su cosa voglia dire, per me, provare qualcosa. Forse è questo il valore più concreto di questi scambi: non ci dicono ancora molto su cosa provi una macchina, ma ci costringono a chiederci con più attenzione che cosa proviamo noi.



