Ian McEwan e le Macchine come noi

Articolo di: 
Teo Orlando
McEwan

Mantova, 7 settembre 2019: nella penombra dell'aula affrescata della rinascimentale Loggia del Grano fa il suo ingresso Ian McEwan, con un'allure disinvoltamente british, ma senza inutili ostentazioni e con quella compassatezza che gli è possibile proprio perché è consapevole di essere ormai una star della letteratura mondiale. La conferenza stampa ruoterà, com'è inevitabile, sul suo ultimo romanzo, Machines Like Me, appena apparso nell'accuratissima traduzione italiana di Susanna Basso, per i tipi della Einaudi (Macchine come me. E persone come voi).

Fin dal primo giorno della sua comparsa nelle librerie inglesi, il romanzo ha suscitato più di una controversia: si tratta di un romanzo "di genere", ossia di fantascienza o meglio di fantastoria con tratti distopici? Oppure, come tutte le opere dei grandi autori, non è incasellabile in un genere preciso? Certo, il titolo fa eco a Io, robot di Isaac Asimov. Ma il romanzo appare piuttosto come un esercizio di storia controfattuale, tra avanzamenti tecnologici e, paradossalmente, disfatte militari dovute proprio all'uso di tali progressi da parte dei "nemici": infatti, nel 1982, anno in cui è ambientato il romanzo, la marina britannica naviga da Portsmouth fino alle Falklands, quando un devastante attacco argentino pone bruscamente fine alla guerra e le Falklands diventano Las Malvinas: il tutto dovuto all'uso delle tecnologie informatiche di cui sono dotati i sistemi di contraerea argentina, venduti dai francesi ma di invenzione britannica.... L'umiliazione della sconfitta costringe Margaret Thatcher a lasciare l'incarico e porta al potere un politico che prepara l'inaspettata uscita del paese dall'Europa. Siamo quindi al limite precario di una reminiscenza che altera totalmente la realtà accompagnata da una profezia minacciosa, con chiare allusioni al presente. Come osserva l'autore, "Only the Third Reich and other tyrannies decided policy by plebiscites and generally no good came from them" ("Soltanto il Terzo Reich e altri regimi totalitari definivano la propria linea di governo su base plebiscitaria e, di norma, i risultati non erano incoraggianti", p. 236). Il sistema plebiscitario – osserva McEwan – non può decidere di una norma relativa a questioni così complesse.

Ma l'evento più decisivo per la trama del romanzo è costituito dal fatto che il Regno Unito, come peraltro tutto il mondo, in questo penultimo decennio del XX secolo è precocemente informatizzato (si noti che nel mondo "reale" nel 1982 il computer più evoluto era l'Apple II, che oggi ci sembra poco più di un giocattolo). Ciò è dovuto al fatto che lo scienziato Alan Turing (allievo del filosofo e logico Ludwig Wittgenstein a Cambridge, decrittatore dei codici segreti durante la II guerra mondiale e pioniere dell'intelligenza artificiale), invece di essere stato perseguitato a morte per la sua omosessualità, ha potuto portare a termine una serie di notevoli invenzioni, fino ad arrivare al risultato più sbalorditivo, quello che McEwan definisce "un mito della creazione trasformato in realtà, un atto di mostruoso narcisismo". Ossia, la costruzione di androidi così perfezionati da essere "una versione migliore e più moderna di noi stessi" (p. 3). 

Questi androidi diventano rapidamente prodotti dell'elettronica di consumo sicché viene messo in commercio il "primo autentico umano artificiale dotato di aspetto fisico e intelligenza realistici, movimenti ed espressioni facciali verosimili" (p. 4). Una delle prime persone ad acquistarne uno con 86.000 sterline (frutto dell'eredità materna) è il narratore del romanzo, il nerd Charlie Friend: "Robot, androidi, replicanti erano la mia passione" (p. 14), ci informa. Charlie ha 32 anni e vive da solo in un piccolo appartamento a Clapham, nella zona sud-ovest di Londra, dove gioca in borsa da un computer di casa senza molto successo. Charlie preferirebbe una androide Eva, ma sono stati tutte vendute, sicché deve accontentarsi di un Adam. L'altro elemento chiave della trama è l'inattesa relazione di Charlie con la sua vicina Miranda, di dieci anni più giovane e dottoranda in storia sociale. Da qui nasce una singolare triangolazione, propiziata dal fatto che Charlie considera la sua proprietà del nuovo dispositivo come un'impresa comune, una sorta di genitorialità digitale che avvicinerà lui e Miranda. Ma i suoi piani verranno messi a dura prova quando una delle prime azioni del neo-cosciente Adam consiste nel lanciare un avvertimento a Charlie sul passato di Miranda.

Al cuore del romanzo c'è la questione morale, come McEwan subito si preoccupa di sottolineare nel corso della conferenza: siamo in presenza di una donna che vuole la sua vendetta, perché l'uomo ha commesso atti malvagi. Ma la donna deve mentire. Viceversa, un essere umano artificiale può ricevere principi morali ma non l'interpretazione di quei principi che gli diamo. Sappiamo che è sbagliato mentire ma sappiamo anche che talora è necessario mentire a fin di bene (le cosiddette white lies). Non è possibile programmare un algoritmo per insegnare a un computer a mentire a fin di bene. Adam è razionale e prende decisioni diverse dalle nostre. Proprio come gli psicopatici che ragionano secondo una loro logica, ma è diversa dalla nostra. 

Un passo cruciale del libro è quando McEwan chiarisce come il modello tradizionale dell'intelligenza artificiale, che immagina il ragionamento umano come se fosse il gioco degli scacchi, non è plausibile:

"Il punto è che gli scacchi non sono adatti a rappresentare la vita. Sono un gioco a sistema chiuso che dispone di regole indiscutibili e valide in modo assoluto su tutta la scacchie- ra. Ciascun pezzo ha limiti molto precisi e accetta il proprio ruolo; lo svilupparsi di una partita è chiaro e incontestabile a ogni stadio, e la fine, quando arriva, non è mai ambigua. È un gioco a informazione perfetta. Ma la vita, a cui appli- chiamo la nostra intelligenza, è invece un sistema aperto. Caotico, pieno di trappole e finte, di equivoci e incertezze. E cosí pure la lingua: non un problema da risolvere, né uno strumento per risolvere problemi. Piú simile a uno specchio, anzi, a miliardi di specchi che, ammassati come nell’occhio composto di una mosca, riflettono, deformano e modellano il nostro mondo a diverse distanze focali" (pp. 165-166).
(‘The point is, chess is not a representation of life. It’s a closed sys- tem. Its rules are unchallenged and prevail consistently across the board. Each piece has well-defined limitations and accepts its role, the history of a game is clear and incontestable at every stage, and the end, when it comes, is never in doubt. It’s a perfect information game. But life, where we apply our intelligence, is an open system. Messy, full of tricks and feints and ambiguities and false friends. So is language – not a problem to be solved or a device for solving prob- lems. It’s more like a mirror, no, a billion mirrors in a cluster like a fly’s eye, reflecting, distorting and constructing our world at different focal lengths').

Il paragone con gli scacchi, come è stato osservato in conferenza stampa, ricorda il passaggio dalla prima alla seconda fase della filosofia del linguaggio di Ludwig Wittgenstein, maestro di Alan Turing. Con molto humour britannico, McEwan ha osservato di sapere di essere in Italia, ossia al centro della civiltà europea, quando nella conferenza stampa ti viene chiesto di commentare se Wittgenstein ha cambiato idea. So di essere al centro della civiltà europea. Ma la questione non è tanto Wittgenstein, ma proprio gli scacchi in sé

Per molto tempo abbiamo pensato al gioco degli scacchi come un microcosmo dell'intelligenza umana e abbiamo pensato che se potessimo inventare una macchina capace di battere gli uomini agli scacchi avremmo inventato l'intelligenza artificiale. Non a caso Alan Turing era un ottimo scacchista. Ma alla fine ci rendiamo conto che gli scacchi sono un pessimo modello dell'intelligenza umana. Sono un sistema chiuso perché entrambi i giocatori sono in grado di prevedere le mosse che faranno. È un sistema di informazione chiuso perfetto. Ma la vita umana non è così. La maggior parte delle nostre scelte non hanno a che fare con mosse come quelle della torre. La vita è un sistema aperto e anche la lingua deve essere aperta.

Il gioco degli scacchi è comunque un terreno esemplificativo per lo scrittore: quando un computer ha battuto Kasparov, il campione del mondo, si è capito che era semplicemente più veloce a gestire calcoli ed operazioni, non più intelligente. Certo oggi riesce a fare alla scacchiera sacrifici incredibili, prevedendo anche 33 mosse successive. Ma la vita è imprevedibile e piena di dubbi anche nella più banale delle nostre azioni, e un computer per funzionare come il nostro cervello dovrebbe essere grande come un salone d'onore. Quando 18 mesi fa il programma Deep mind fu congegnato come perfetto giocatore di scacchi compì mosse che nessun essere umano avrebbe eseguito. L'evoluzione dell'intelligenza artificiale ci metterà di fronte a uno specchio ponendoci di fronte a un riflesso della nostra vita emotiva. Sulle nostre spalle in fondo abbiamo una macchina composta da un miliardo di neuroni, raffreddata a liquido.

Ma perché l'intelligenza artificiale diventi realmente un pericolo nel mondo "reale" ci vorrà tempo, osserva lo scrittore: "è come se a riva avessimo appena bagnato le dita dei piedi nell'acqua. C'è un intero oceano ancora da scoprire davanti a noi. Siamo ai primordi di quello che potrebbe essere un cambiamento di civiltà". Si pensi ai big data e alle automobili a guida autonoma: si pensi se in una situazione di crisi il veicolo a guida autonoma deve decidere se proteggere il conducente o il pedone. È un tema da filosofi (il trolley problem). Ma le decisioni morali non possono essere prese da una macchina.

McEwan osserva poi che avrebbe potuto scegliere qualsiasi periodo storico. Ma ha un pregiudizio verso i romanzi che si svolgono nel futuro. Preferisce "predire" il passato. Il presente è il risultato più fragile dei risultati possibili. Se non ci fosse stato lo sviluppo del cristianesimo forse avremmo avuto la rivoluzione industriale nell'VIII secolo. Ha scelto la guerra delle Falklands e ha rovesciato il risultato per misurare le conseguenze sia per il Regno Unito sia per l'Argentina. Siamo poco bravi a prevedere il futuro: ad esempio nessuno avrebbe previsto il successo dei social media su internet e la trasformazione in fatti delle voci di corridoio.

Aggiunge poi di aver scritto un pamphlet sulla Brexit, in cui deve molto a Franz Kafka - risponde. Parla di uno scarafaggio (cockroach) che, dopo una notte piena di sogni difficili (la citazione viene pari pari dall'incipit di uno dei racconti più famosi di Kafka, Die Verwandlung, La metamorfosi) si sveglia e si trova in un corpo molto più grande e sgradevole, quello del Primo ministro inglese. Ma anche nel romanzo assistiamo a una singolare metamorfosi: quella di Adam, che si rivela più colto, informato, affascinante e simpatico del proprietario.

La mente artificiale che può essere trasferita su un altro supporto significa che l'intelligenza può rimanere anche se la macchina venisse distrutta: questo rappresenterebbe l'immortalità che a noi è preclusa. Noi mortali, che viviamo una vita breve, siamo stati capaci di costruire una macchina potenzialmente immortale. Nel romanzo, McEwan inserisce una scena nella quale Charlie si presenta al futuro suocero assieme ad Adam. E scopre che il suo interlocutore ha preso Adam per il genero e lui per il robot, solo perché il primo ha discettato di Montaigne e Shakespeare, mentre lui ha bofonchiato qualcosa su un libro di informatica.

Pubblicato in: 
GN36 Anno XI 11 settembre 2019
Scheda
Titolo completo: 

Presentazione di Ian McEwan, Macchine come me. E persone come voi, trad. it. di Susanna Basso, Torino, Einaudi, 2019 (Edizione originale: Machines Like Me. And People Like You, London, Jonathan Cape, 2019).

Mantova, Festival della Letteratura, 7 settembre 2019.