BY Harry de Quetteville
Le storie sono sempre state vitali per Yuval Harari, lo storico e filosofo israeliano. La capacità unica della nostra specie di essere legata e unita da narrazioni intangibili, anche attraverso gli oceani, era al centro di Sapiens , la sua cronaca incredibilmente popolare sull’ascesa della nostra specie, che lo ha catapultato allo status di veggente dopo la sua pubblicazione in inglese quasi un decennio fa.
Forse è per questo che oggi è così profondamente preoccupato per l’ascesa di uno sfidante alla nostra maestria nel raccontare storie: l’intelligenza artificiale (IA).
“Questa è la prima tecnologia nella storia per creare storie”, dice Harari, 47 anni, parlandomi dalla sua casa alla periferia di Tel Aviv. Per lui, nulla potrebbe essere una dimostrazione di potere più grande. Perché a suo avviso, la nostra credenza collettiva nelle “storie” – di fede, finanza e nazione tra le altre – ha alimentato il dominio dell’umanità sulla Terra. Il denaro ci ha permesso di prosperare, per esempio, ma che valore hanno i cinque dollari che hai in tasca se il negoziante li considera solo un pezzetto di carta blu?
Ora anche l’IA è in grado di tessere tali incantesimi, dimostrando che il potenziale della tecnologia sia per il bene che per il male, un tempo considerato lontano e teorico, è ora immediato e reale. Ecco perché Harari ha aggiunto il suo nome a una lettera il mese scorso, firmata da migliaia di esperti tra cui Elon Musk , chiedendo una moratoria sulla ricerca di software come Chat GPT, un modello di intelligenza artificiale che può interagire con gli umani in un testo creativo dalle sfumature quasi inquietanti.
Altri programmi possono fare lo stesso con immagini e suoni. “La nuova generazione di IA non si limita a diffondere i contenuti prodotti dagli esseri umani. Può produrre il contenuto da solo”, afferma Harari. “Prova a immaginare cosa significhi vivere in un mondo in cui la maggior parte dei testi e delle melodie e poi delle serie TV e delle immagini sono create da un’intelligenza non umana. Semplicemente non capiamo cosa significhi. Quali potrebbero essere le conseguenze della conquista della cultura da parte dell’IA?”
Esistono già esempi banali. La scorsa settimana una rivista tedesca è stata criticata per aver pubblicato quella che sembrava essere un’intervista esclusiva con Michael Schumacher , quando in realtà il testo era stato generato dall’IA imitando l’ex pilota paralizzato. Harari suggerisce che l’intelligenza artificiale andrà presto molto oltre, evocando un mondo in cui “vai online e discuti con qualcuno su qualche questione politica. Forse ti mandano anche un video di se stessi che parlano. Ma non c’è nessuna persona dietro. È tutta intelligenza artificiale.
Nella sua distopia, il falso digitale sintetico non sarebbe nemmeno un essere umano qualsiasi. Poiché siamo influenzati in modo unico da chi ci è vicino, potrebbe sembrare un amico o un parente che cerca di convincervi del valore di un prodotto o della sua posizione sul cambiamento climatico, sui vaccini o sull’immigrazione. Si tratterebbe, dice, di un potere di manipolazione del discorso pubblico mai visto prima, che farebbe sembrare banali gli scandali sull’influenza dei social media degli ultimi 10 anni, che si pensa abbiano già giocato un ruolo nelle elezioni dal Brasile all’America. Jeremy Fleming, capo del GCHQ, ha avvertito il gabinetto che la disinformazione dell’IA rappresenta una minaccia significativa .
“Questa è una minaccia soprattutto per le democrazie, più che per i regimi autoritari, perché le democrazie si basano sulla conversazione pubblica”, afferma Harari. “La democrazia è fondamentalmente una conversazione. Persone che parlano tra loro. Se la conversazione viene presa in mano dall’intelligenza artificiale, la democrazia è finita”.
Ma quale effetto potrebbe avere la tecnologia se scatenata maliziosamente sul campo di battaglia, da regimi totalitari? Un sistema di intelligenza artificiale di Google, ad esempio, ha imparato da solo il bengalese senza essere addestrato a farlo.
“Il regime nazista si basava su tecnologie come treni, elettricità e radio. Non avevano strumenti come l’intelligenza artificiale”, dice Harari. “Un nuovo regime nel 21° secolo avrà strumenti molto più potenti. Quindi le conseguenze potrebbero essere molto più disastrose. È qualcosa a cui non so se l’umanità potrà sopravvivere”.
Anche le conseguenze più banali hanno il potenziale per essere rivoluzionarie, dice. “Un altro pericolo è che molte persone potrebbero trovarsi completamente senza lavoro, non solo temporaneamente, ma prive delle competenze di base per il futuro mercato del lavoro. Potremmo raggiungere un punto in cui il sistema economico considera milioni di persone completamente inutili. Questo ha terribili conseguenze psicologiche e politiche”.
È l’autonomia dell’intelligenza artificiale a renderla così diversa. Tuttavia, persino Harari, che si è fatto un nome per la riduzione di argomenti complessi, sembra frustrato dalla sua incapacità di far sì che il resto di noi lo veda in modo così profondo come lui.
“Dobbiamo capire che l’IA è la prima tecnologia della storia in grado di prendere decisioni da sola. Può prendere decisioni sul proprio utilizzo. Può anche prendere decisioni su di voi e su di me. Non si tratta di una previsione futura. Sta già accadendo”.
Discute casi noti in cui il software di intelligenza artificiale è stato utilizzato per esaminare i richiedenti di prestito o decidere se i prigionieri debbano ricevere la libertà condizionale. “Quindi il potere si sta allontanando per la prima volta nella storia. Abbiamo inventato qualcosa che ci toglie il potere. E sta accadendo così in fretta che la maggior parte delle persone non capisce nemmeno cosa sta succedendo. Dobbiamo assicurarci che l’IA prenda buone decisioni sulle nostre vite. Questo è qualcosa che siamo molto lontani dal risolvere”.
Come altri, ora sposa la regolamentazione per gestire il potere dell’IA, sfruttando le sue promesse e prevenendo la catastrofe. Nella mente di Harari, tali regole emulerebbero le tutele mediche. “Un’azienda farmaceutica non può immettere sul mercato un nuovo farmaco senza prima passare attraverso un lungo processo normativo. È davvero bizzarro e spaventoso che le aziende possano semplicemente rilasciare strumenti di intelligenza artificiale estremamente potenti nella sfera pubblica senza misure di sicurezza simili”.
Tali misure dovrebbero essere applicate dal governo, insiste. Aspettarsi che l’industria tecnologica si regoli da sola è da pazzi. “Con tutto il rispetto per Elon Musk e Zuckerberg o gli altri capi delle grandi aziende tecnologiche, non sono stati eletti da nessuno, non rappresentano nessuno se non i loro azionisti e non c’è motivo di fidarsi di loro”. Come per dimostrare il punto di Harari, Musk ha annunciato il proprio chatbot AI pochi giorni dopo aver firmato la lettera che denunciava la ricerca di altri.
Forse non sorprende quindi che Harari tenga il proprio telefono spento, “in un cassetto”. Lo chiama “uno smartphone di emergenza” per quando viaggia all’estero, che è molto di più nell’ultimo decennio, da quando è diventato una superstar intellettuale globale.
“È diventato davvero impossibile fare alcune cose senza uno smartphone”. Si pensa al tentativo di ordinare un taxi durante un viaggio all’estero, senza riuscirci. Quello che non gli manca dal suo schermo tascabile, tuttavia, è il flusso di informazioni che lo distraggono dal suo cervello. Si dichiara “a dieta di informazioni”.
“Ci sono troppe informazioni spazzatura”, dice. “È come il cibo. Per la maggior parte della storia umana, abbiamo cercato disperatamente di ottenere più cibo. E ora siamo nella situazione opposta. Dobbiamo stare molto attenti sia alle quantità ma anche alla qualità del cibo che assumiamo”.
Egli contrappone l’attenzione e la scelta attiva della “lettura” a questo “consumo” passivo e occhialuto di informazioni. È difficile immaginare che Harari faccia qualcosa in modo così sconsiderato. Ama il tempo e la pace per comporre i suoi pensieri e da tempo è appassionato di meditazione per assicurarsi di essere mentalmente sintonizzato per tenere a bada le distrazioni. “Sono appena tornato da un ritiro di meditazione di due mesi”, racconta. “Si può dire che faccia parte della dieta informativa… un periodo per disconnettersi e permettere alla mente di disintossicarsi da tutta la spazzatura che ingeriamo”.
Harari può prendersi così tanto tempo libero grazie alla sicurezza finanziaria che la sua fama gli ha portato (in un profilo del New Yorker si dice che il suo compenso per un singolo discorso di 24 minuti ammonti a diverse centinaia di migliaia di dollari). Ma il suo interesse per la meditazione è precedente al suo successo, e il suo istinto di fermarsi, riflettere su grandi temi e creare connessioni tra di essi risale ancora più indietro nel tempo, quando scoprì che crescere da gay lo rendeva una sorta di outsider, che guardava al resto della società, cercando di spiegarla. “L’Israele degli anni ’80 era così omofobico”, dice.
È cresciuto vicino ad Haifa, nel nord di Israele, figlio minore precocemente brillante (ha due sorelle maggiori) di Shlomo – un appaltatore della difesa – e Pnina Harari. Alla fine dell’adolescenza si è orientato verso la storia medievale, che ha studiato all’Università ebraica di Gerusalemme fino al 1998, quando si è trasferito al Jesus College di Oxford per completare il dottorato.
Harari è tornato in Israele nel 2003, l’anno in cui la Hebrew U (come è conosciuta l’Università ebraica) ha iniziato a tenere un corso di base per laureandi chiamato “Introduzione alla storia del mondo”. In quanto specialisti, gli accademici affermati tendevano a rifuggire da un corso così ampio, così Harari, nuovo e giovane membro della facoltà, si trovò a insegnarlo. Nervoso, scrisse i testi per le sue 20 lezioni. Sarebbero diventati la base di Sapiens.
Ma questo per far sembrare semplice il suo percorso verso la fama e la ricchezza. Infatti il manoscritto del Sapiens fu più volte rifiutato in Israele, e poi, quando finalmente trovò un editore, languì non tradotto per diversi anni. Harari ha persino fatto ricorso alla traduzione in inglese e ha utilizzato il servizio di stampa su richiesta di Amazon.
Una lotta che forse non avrebbe avuto la determinazione di portare avanti senza la grinta di suo marito, Itzik Yahav, incontrato su un sito di incontri nel 2002. Yahav non solo ha contribuito a far decollare la carriera di Harari, ma è stato un fattore chiave per far sì che in seguito volasse così in alto, al punto che ora ha un ufficio ben fornito che fa invidia ad altri intellettuali pubblici. “Se fossi stato solo io, sarei crollato o mi sarei arreso da tempo”, ha detto Harari di Yahav.
Da allora Harari ha pubblicato altri due grandiosi libri di storia: Homo Deus (2016) e 21 Lessons for the 21st Century (2018). L’anno scorso ha pubblicato il suo primo libro per bambini, Unstoppable Us: How Humans Took Over the World, e Sapiens è stato anche adattato in una serie di graphic novel. Ma la sua preoccupazione più urgente oggi è lo stato della sua stessa nazione, in particolare i piani della coalizione guidata da Benjamin Netanyahu per sfoltire i poteri della Corte Suprema di Israele , che attualmente funge da unico freno al potere legislativo.
“Il governo sta fondamentalmente cercando di instaurare una dittatura qui”, dice Harari, con una punta di ironia nella sua solita metodicità. “Penso che ci sia una reale minaccia alla sopravvivenza della democrazia israeliana”. Secondo Harari è “assolutamente vero” che gli israeliani e le aziende israeliane se ne stanno andando perché “il governo sta cercando di smantellare i controlli e gli equilibri della democrazia israeliana”.
“Se il parlamento israeliano approva una legge che, ad esempio, toglie il diritto di voto ai cittadini arabi – e alcuni politici hanno parlato proprio di tale legge – l’unica istituzione che può intervenire, abbattere una tale legge è la Corte Suprema. “
Afferma che alcuni membri della coalizione vogliono essere in grado di “truccare le elezioni”, “hanno già preparato una lunga lista di leggi e regolamenti che discrimineranno i cittadini arabi, le donne, le persone LGBT, le persone laiche” e “hanno opinioni messianiche e una forte convinzione della supremazia ebraica”.
Sebbene le misure siano state sospese sulla scia di enormi proteste di piazza, “la crisi è ancora in corso”, afferma. “E se il governo avrà successo, Israele seguirà la stessa strada di Turchia e Russia, che potrebbero ancora tenere elezioni periodiche, ma non sono più realmente democrazie”.
I paragoni con il governo ungherese di Viktor Orban sono fuori luogo, afferma, perché Israele è “una grande potenza militare con capacità nucleari e anche con capacità informatiche che hanno una portata globale. I cittadini del Regno Unito dovrebbero preoccuparsi di ciò che accade in Israele perché potrebbe destabilizzare l’intero Medio Oriente con conseguenze immediate anche per l’Europa”.
Il mio tempo con l’oracolo sta volando. Se avessi pagato, avrei già superato il milione di dollari. Consideriamo la guerra in Ucraina (“le conseguenze per l’intera umanità potrebbero essere tragiche”); il cambiamento climatico (“sento dire che il cambiamento climatico è qualcosa che le democrazie sono intrinsecamente incapaci di affrontare perché è un problema a lungo termine. Non credo che sia vero”); blocco del Covid (“nelle prime fasi della pandemia, quando ancora non sapevamo a cosa andavamo incontro, le misure estreme erano più giustificate”); diritti dei transgender (“La mia posizione personale è tradizionale. Penso che il sesso sia un fenomeno biologico oggettivo, mentre il genere è culturale”); l’incoronazione (“È molto difficile in un singolo Paese far convivere decine di milioni di persone e metterle d’accordo su qualcosa. In Gran Bretagna, la famiglia reale ha un ruolo simbolico molto importante”). Alla fine si parla di felicità. Harari conclude Sapiens notando che, nonostante il grande aumento della nostra prosperità, l’umanità “sembra scontenta come sempre”. Lo stesso vale per lui?
“La mia vita è cambiata completamente [con la fama]”, dice. “Dieci anni fa nessuno voleva intervistarmi su nulla. Quindi avevo molto tempo per leggere libri e scrivere le mie cose. La fama a livello personale, di solito, crea solo più problemi”. A conti fatti, però, gli amici, la meditazione e la terapia, e l’essersi liberato delle ansie della giovinezza significano che “ora sono più felice”.
È un modo ottimistico di concludere una discussione con un uomo che, come alcuni oracoli del passato, viene occasionalmente criticato per aver servito un’analisi cupa della condizione dell’umanità senza offrire alcun rimedio (il suo libro più famoso si conclude con: “Il regime Sapiens sulla Terra ha prodotto finora ben poco di cui possiamo essere orgogliosi”).
Ma alla fine non è la sua capacità di descrivere con eleganza tante potenziali catastrofi che mi inquieta profondamente, quanto la sua incapacità di dire perché la nostra specie ha l’abitudine di creare scompiglio. Le sue parole mi risuonano nelle orecchie: “Il meglio che posso dire è che la storia è piena di errori. Molti eventi importanti non sono il risultato di forze inevitabili della storia. Sono semplicemente il risultato di esseri umani che commettono errori terribili. La cosa fondamentale da assumere è che le persone sono fallibili. Le persone sono corruttibili. Una buona istituzione o un buon Paese sono quelli che godono di forti meccanismi di autocorrezione”.
Come la Corte Suprema di Israele. È una lezione che, secondo lui, non è solo fondamentale per la sopravvivenza della sua nazione come democrazia, ma per la sopravvivenza del mondo intero.
