martedì 25 marzo 2014

Her (Lei): neuroetica e cinema


di Riccardo Carrara

È in questi giorni nelle sale italiane il film Her (Lei), diretto da Spike Jonze e interpretato da Joaquin Phoenix, che si è aggiudicato il Premio Oscar per la miglior sceneggiatura originale. Effettivamente, il fatto originale o "particolare" è proprio la trama: una storia d'amore tra un uomo e un programma di intelligenza artificiale.  Possibile?

Lui, il protagonista, si chiama Theodore Twombly, è un essere umano, un uomo solo e introverso, che ancora soffre per la separazione dalla moglie Catherine.
Lei è Samantha, un programma per computer che desidera a intermittenza un corpo umano, che si stupisce della propria costante evoluzione e ne è allora stesso tempo disorientata (questo perché è un programma di intelligenza artificiale che impara ed apprende...). Samantha fa "esperienze", pur non avendo un corpo, ha sensazioni o simula in tutto e per tutto un essere con emozioni e sentimenti. Un'intelligenza artificiale che arriva a dire: "Il cuore non è come una scatola che si riempie; esso si espande tanto quanto ami. Io sono diversa da voi. Questo non significa che io ti ami di meno. Questo in realtà fa si che ti ami ancora di più".

All'inizio lo stesso Theodore è molto scettico, ride di quello che sta facendo... ma poco a poco, questa "voce", così sensuale, sembra davvero diventare reale. Nasce qualcosa di particolare in questo rapporto uomo-macchina e in un dialogo lo si capisce chiaramente:


Theodore: I've never loved anyone the way I loved you 
(Non ho mai amato nessuno nel modo in cui ho amato te)
Samantha: Me too. Now we know how (Anche io. Ora sappiamo come) 

È possibile tutto questo? Può un umano arrivare a dire ad una macchina, ad una tecnologia di AI (intelligenza artificiale) "I feel like I can be anything with you" (Mi sento come se potessi essere qualsiasi cosa con te) oppure "She's not just a computer" (Lei non è solo un computer)?

Le domande che solleva questo film sono le classiche, quelle che un qualsiasi filosofo potrebbe farsi riflettendo sull'intelligenza artificiale e le "creature" non-biologiche. 
Un qualcosa come Samantha, una "tecnologia" artificiale, un organismo non-biologico è in grado di coscienza, almeno da un punto di vista teorico?

Se fosse così, noi umani potremmo un giorno caricare le nostre menti, le nostre intelligente, le nostre coscienze in un computer ed arrivare quindi a non avere più un corpo che come definisce Samantha nel film "sta andando inevitabilmente a morire"?
E ancora, cosa succederebbe se le nostre menti fossero tutte unite in un universo digitale? Che esperienze nuove potremmo fare ed avere? Che sensazioni? Ci potremmo perdere in un universo senza spazio e senza tempo, quasi come fosse l'eternità?
E per finire, se ci fosse un corto-circuito? Se qualcuno o qualcosa staccasse la spina?

Soffermiamoci solo sulla prima domanda, perché le altre sono un'estensione della questione di fondo e in realtà non vengono prese in considerazione direttamente da questo film di Spike, ma da quello interpretato da Johnny Deep, scritto e diretto da Wally Pfister, intitolato Trascendence e che uscirà nelle sale italiane il 17 aprile 2014 (riprenderemo l'argomento per l'occasione).

In primo luogo dobbiamo considerare, non tanto la risposta alla domanda, ma se questi quesiti siano semplicemente e ingenuamente una elucubrazione di filosofi troppo preoccupati del futuro e, quindi, mere speculazioni, o se possano e debbano essere considerati da tutti, perché quello che ci sembra un futuro lontano e un miraggio fantascientifico, non sia effettivamente più vicino di quanto possiamo immaginare.

La Future of Humanity Institute dell'Oxford University ha pubblicato una relazione sui requisiti tecnologici per caricare una mente umana su una macchina; un'agenzia del Dipartimento di Difesa Americano ha finanziato un programma che sta cercando di sviluppare un computer che assomigli ad un cervello umano per forma e funzione, il progetto si chiama Synapse; Ray Kurzweil, direttore di robotica per Google (che sta investendo parecchio in questo settore negli ultimi tempi), ha parlato recentemente dei potenziali vantaggi di instaurare amicizie virtuali con sistemi di intelligenza artificiale (proprio come avviene nel film LEI).

È lecito, quasi doveroso, ala luce di questi esempi, riflettere sul tema, non solo perché si tratta della sceneggiatura di un film, ma perché si tratta della realtà, di ciò che potrà succedere tra pochi anni.

Il vero problema in questi casi è se questi rapporti tra uomo e macchina, tra esseri umani e intelligenze artificiali possano essere uno scambio alla pari o siano costretti sempre a rimanere dei rapporti unilaterali
Potremo anche credere e immaginare che dall'altra parte ci sia qualcuno, che la voce che sentiamo corrisponda ad una donna o ad un uomo che desideriamo o che ci piace, ma non sarebbe tutta una costruzione della nostra mente? Non sarebbe come vivere in un bel sogno?

Analizzando il "mondo" della macchina, il mondo artificiale, ci si dovrebbe chiedere che cosa stia accadendo. Solo una serie di algoritmi che elaborano e, pur migliorandosi, forniscono una delle tante risposte possibili, poi codificata e riprodotta da una voce che di meccanico non ha apparentemente nulla? 
Se, come sostengono molti, solo gli esseri umani hanno la capacità di essere coscienti, anche il più elaborato sistema di superintelligenza artificiale, rimarrebbe sempre e solo un sistema.

Eppure, dai dati delle moderne neuroscienze, sembra sempre più, che il nostro cervello sia solo un sistema di elaborazione e che le funzioni mentali siano riducibili a dei calcoli. Ma noi, siamo esclusivamente una mente? Siamo un cervello, riducibile a qualcosa di computazionale?

Chi sostiene che anche intelligenze artificiali possano essere coscienti, riporta alcuni esempi e alcuni paragoni. Lo stesso, dicono, è il confronto tra telefono e segnali di fumo, entrambi (con notevoli differenze, direte voi) sono in grado di trasmettere lo stesso messaggio, la stessa informazione. Allo stesso modo il pensiero, la coscienza, può avere come substrato un insieme di neuroni e un sistema basato sul carbonio (come è nel mondo biologico), oppure può essere supportato da prodotti a basi di silicio (mondo artificiale).
Certo, già si sta procedendo a sperimentazioni dove si mescola materiale biologico (neuroni) e materiale artificiale (silicio) e le componenti sembrano funzionare bene insieme.
Ma chi genera il messaggio che viene decodificato dal telefono e chi produce i segnali di fumo? Allora stesso modo, chi c'è dietro ai substrati di carbonio che compongono il nostro cervello? E chi ci sarebbe dietro a quelli in silicio? Con un'altra domanda: chi è cosciente? Il cervello?

E si ritorna all'affascinante domanda: chi siamo?

Possiamo, inoltre, osservare come questo film, faccia riemergere con forza il dilemma filosofico del "problema della altre menti", ossia il problema che non potremo mai essere certi al 100% della coscienza delle altre persone, ma solo della nostra. E se è vero il fatto che possiamo avere la certezza della coscienza degli altri, perché proviamo la nostra e di riflesso la percepiamo nel nostro simile, quanto potrebbe diventare simile a noi un'intelligenza artificiale? Quanto potrebbe ingannarci di essere "reale"?

Nel film, lo stesso Theodore subisce questo "inganno" e arriva ad affermare, come abbiamo detto: "I've never loved anyone the way I loved you." (Non ho mai amato nessuno come amo te).

A dire il vero, da un punto di visto della neuroetica, esiste anche un'altra questione: è eticamente lecito che i bisogni umani, anche quelli più profondi, come l'amore, siano soddisfatti dalla tecnologia artificiale?


Samantha ha una voce sensuale, fa quasi le fusa quando parla, memorizza e conosce tutto di lui (ha scansionato tutti i suoi file e le foto caricate sul computer), fa battute, lo fa ridere, le piace stare con lui anche quando gioca con i videogiochi... Lui ha bisogno di qualcuno, di non essere solo, è un uomo sensibile che non ha ancora superato la separazione dall'amata moglie. Ha bisogno di un rapporto esclusivo, di sapere di essere importante per qualcuno e che questo qualcuno è sempre con lui.
Ma quante "Samantha" esistono nel mondo? Se si tratta di un sistema operativo, di un programma di intelligenza artificiale, tutti potrebbero avere "Samantha", come tutti oggi usiamo Google, ma non potremo mai dire che quello è il nostro Google, che è solo nostro.

I bisogni veri sono allora lasciati da parte, sembra quasi un approfittarsi dell'uomo nella sua fragilità e nella sua esigenza di relazione. Una relazione che solo un altro essere umano potrà dare, così come la vogliamo. E nel finale del film tutto questo si capisce molto bene.

Che cosa c'è allora di così speciale nei rapporti umani?
Se da un lato un sistema di intelligenza artificiale potrà conoscerci meglio di noi stessi, perché avrà accesso a tutti i nostri file, a tutti i nostri messaggi, email, siti di ricerca... potrà mai riprodurre le manie, le imperfezioni, le nevrosi, la confusione che rendono così eccezionali i rapporti umani?

2 commenti:

  1. Aveva ragione Gunther Anders. L'uomo è antiquato. Renata

    RispondiElimina
  2. Gianmarco Veruggio, dell’Istituto di elettronica e di ingegneria dell’informazione e delle telecomunicazioni (Ieiit) del Cnr di Genova, in merito alle questioni sollevate dal film HER ha affermato: "Gli studi in questa direzione sono molto avanzati, sia dal punto di vista fisico, cioè robot umanoidi progettati per avere sembianze il più possibile realistiche, sia dal punto di vista funzionale, ossia programmi di intelligenza artificiale in grado di interpretare il linguaggio naturale umano e rispondere in modo appropriato generando l’illusione di conversare con un’altra persona. Pero’ bisogna tenere presente che si tratta pur sempre di macchine simboliche, cioè sistemi dotati di programmi che simulano comportamenti umani senza alcuna coscienza o libero arbitrio”

    RispondiElimina