I progressi rapidi e cruciali della tecnologia sono in grado di sconvolgere le persone, perché possono riverberarsi senza pietà, a volte, attraverso gli affari, l’occupazione e le sfere culturali. È questo il caso dell’attuale shock e stupore per i modelli linguistici di grandi dimensioni, come il GPT-4 di OpenAI. BY GLENN ZORPETTE – 17 MAGGIO 2023
È un esempio da manuale del misto di stupore e, soprattutto, di ansia che spesso accompagna un trionfo tecnologico. Ci siamo già passati molte volte, dice Rodney Brooks. Conosciuto soprattutto come ricercatore, accademico e imprenditore nel campo della robotica, Brooks è anche un’autorità nel campo dell’intelligenza artificiale: ha diretto il Computer Science and Artificial Intelligence Laboratory del MIT fino al 2007 e, prima ancora, ha ricoperto incarichi di facoltà alla Carnegie Mellon e a Stanford. Brooks, che ora sta lavorando alla sua terza startup robotica, Robust.AI, ha scritto centinaia di articoli e una mezza dozzina di libri ed è stato protagonista del film Fast, Cheap & Out of Control. È un raro leader tecnico che ha avuto una carriera stellare nel mondo degli affari e in quello accademico e ha comunque trovato il tempo di impegnarsi nella cultura popolare attraverso libri, articoli divulgativi, TED Talks e altre iniziative.
“Dà una risposta con assoluta sicurezza, e in un certo senso ci credo. E la metà delle volte è completamente sbagliata”.
-Rodney Brooks, Robust.AI
IEEE Spectrum ha incontrato Brooks al recente Vision, Innovation, and Challenges Summit, dove è stato premiato con la IEEE Founders Medal 2023. Ha parlato di questo momento dell’IA, che non considera con la stessa apprensione di alcuni suoi colleghi, e della sua ultima startup, che sta lavorando su robot per magazzini di medie dimensioni.
GZ: Lei ha scritto un famoso articolo nel 2017, “I sette peccati capitali della previsione dell’intelligenza artificiale”. In quell’occasione ha affermato di desiderare l’esistenza di un’intelligenza artificiale generale – in effetti, ha detto che è sempre stata la sua motivazione personale per lavorare nella robotica e nell’IA. Ma disse anche che all’epoca la ricerca sull’intelligenza artificiale generale non stava risolvendo molto bene i problemi di base che erano rimasti intrattabili per 50 anni. La mia impressione è che lei non pensi che l’emergere del GPT-4 e di altri modelli linguistici di grandi dimensioni significhi che un’intelligenza artificiale sarà possibile entro una decina d’anni.
Rodney Brooks: Ha esattamente ragione. E comunque, GPT-3.5 ha indovinato: gli ho chiesto di me e mi ha risposto che ero scettico. Ma questo non ne fa un’intelligenza artificiale.
I modelli linguistici di grandi dimensioni sono un po’ sorprendenti. Lo ammetto. E penso che ciò che dicono, in modo interessante, è che gran parte del nostro linguaggio è molto routinario, R-O-T-E, piuttosto che generato direttamente, perché può essere ridotto a questo insieme di parametri. Ma nell’articolo sui “Sette peccati capitali” ho detto che uno dei peccati capitali è il modo in cui noi esseri umani confondiamo la prestazione con la competenza.
Se posso approfondire un po’ questo concetto. Quando vediamo una persona con un certo livello di prestazione in un’attività intellettuale, come descrivere cosa c’è in un quadro, per esempio, da quella prestazione possiamo generalizzare sulla sua competenza nell’area di cui sta parlando. E siamo molto bravi in questo. Evolutivamente, è qualcosa che dovremmo essere in grado di fare. Se vediamo una persona fare qualcosa, sappiamo cos’altro sa fare e possiamo dare un giudizio rapido. Ma i nostri modelli per generalizzare da una prestazione a una competenza non si applicano ai sistemi di intelligenza artificiale.
L’esempio che ho usato all’epoca era, credo fosse un programma di Google che etichettava un’immagine di persone che giocavano a frisbee nel parco. E se una persona dice: “Oh, questa è una persona che gioca a frisbee nel parco”, si suppone che si possa farle una domanda come: “Puoi mangiare un frisbee?”. E lo saprebbero, ovviamente no; è fatto di plastica. Ci si aspetta solo che abbiano questa competenza. Che conoscano la risposta alla domanda: “Si può giocare a frisbee in una tempesta di neve? Oppure, quanto lontano può lanciare un frisbee? Può lanciarlo per 10 miglia? Può lanciarlo solo per 10 centimetri?”. Ci si aspetta tutta questa competenza da un’unica prestazione: una persona che dice: “Questa è una foto di persone che giocano a frisbee nel parco”.
“Ciò che i modelli linguistici di grandi dimensioni sono bravi a fare è dire come dovrebbe suonare una risposta, il che è diverso da come dovrebbe essere una risposta”. -Rodney Brooks, Robust.AI
Non otteniamo lo stesso livello di competenza dalle prestazioni di un modello linguistico di grandi dimensioni. Quando lo si interroga, si scopre che non ha l’inferenza logica che sembrava avere nella sua prima risposta.
Nelle ultime settimane ho usato modelli linguistici di grandi dimensioni per aiutarmi con la codifica davvero arcana che faccio, e sono molto meglio di un motore di ricerca. Senza dubbio perché si tratta di 4.000 parametri o token. O 60.000 token. Quindi è molto meglio di una semplice ricerca di 10 parole su Google. Più contesto. Così, quando sto facendo qualcosa di molto arcano, mi dà delle informazioni.
Ma quello che devo fare, e che continuo a sbagliare, è che risponde con estrema sicurezza a qualsiasi domanda io ponga. Risponde con assoluta sicurezza e io ci credo. Ma la metà delle volte è completamente sbagliata. Trascorro 2 o 3 ore a usare quel suggerimento e poi dico: “Non ha funzionato” e il programma fa un’altra cosa. Ora, questo non significa essere intelligenti. Non è come interagire. È cercare.
GZ: Sembra che lei non pensi che il GPT-5 o il GPT-6 faranno molti progressi su questi temi.
Brooks: No, perché non ha un modello sottostante del mondo. Non ha alcun legame con il mondo. È una correlazione tra linguaggi.
A proposito, consiglio un lungo post sul blog di Stephen Wolfram. L’ha anche trasformato in un libro.
GZ: L’ho letto. È superbo.
Brooks: Fornisce un’ottima comprensione tecnica. Ciò che i modelli linguistici di grandi dimensioni sono bravi a fare è dire come dovrebbe suonare una risposta, il che è diverso da come dovrebbe essere una risposta.
GZ: Non molto tempo dopo che ChatGPT e GPT-3.5 sono diventati virali lo scorso gennaio, OpenAI avrebbe preso in considerazione un’offerta pubblica di acquisto che valutava l’azienda quasi 30 miliardi di dollari. In effetti, Microsoft ha investito una cifra che è stata indicata in 10 miliardi di dollari. Crede che da questa applicazione uscirà mai qualcosa che giustifichi questo tipo di cifre?
Brooks: Probabilmente no. Mi risulta che l’investimento iniziale di Microsoft sia stato in termini di tempo per il cloud computing piuttosto che in termini di denaro. OpenAI ha certamente avuto bisogno di [tempo di cloud computing] per costruire questi modelli perché sono enormemente costosi in termini di calcolo necessario. Credo che quello che vedremo – e di recente ho visto un sacco di articoli sul boxing di modelli linguistici di grandi dimensioni – saranno interfacce linguistiche, input e output molto più fluide. Ma è necessario racchiudere le cose con attenzione, in modo che non esca la follia e che non esca l’invenzione.
“Penso che saranno migliori del programma Watson Jeopardy!, di cui IBM ha detto: ‘Risolverà la medicina’. Non è stato affatto così. È stato un flop totale. Penso che sarà migliore di quello”. -Rodney Brooks, Robust.AI
Quindi bisogna incasellare le cose, perché non è un database. Si inventa solo cose che suonano bene. Ma se lo si circoscrive, si può ottenere un linguaggio molto migliore di quello che abbiamo avuto in precedenza.
GZ: Quindi, quando il fumo si diraderà, pensa che avremo applicazioni importanti? Voglio dire, mettendo da parte la questione se giustificheranno gli investimenti o le valutazioni, ci sarà ancora un segno?
Brooks: Penso che sarà un’altra cosa utile. Sarà un input e un output linguistico migliore. Grazie al gran numero di token che vengono memorizzati, si ottiene un contesto migliore. Ma bisogna inscatolarla così tanto… Sto iniziando a vedere dei documenti su come mettere queste altre cose in cima al modello linguistico. E a volte si tratta di metodi tradizionali di IA, di cui tutti si erano dimenticati, ma che ora stanno tornando in auge come modo per inscatolare il tutto.
Ho scritto un elenco di circa 30 o 40 eventi di questo tipo negli ultimi 50 anni, in cui si pensava che sarebbe stata la prossima grande cosa. E molti di essi si sono rivelati dei veri e propri fallimenti. Sono utili, come i programmi per giocare a scacchi negli anni Novanta. Doveva essere la fine degli esseri umani che giocano a scacchi. No, non è stata la fine degli esseri umani che giocano a scacchi. Gli scacchi ora sono un gioco diverso e questo è interessante.
Ma solo per spiegare dove penso che arrivino i modelli linguistici di grandi dimensioni: Penso che saranno migliori del programma Watson Jeopardy!, di cui IBM ha detto: “Risolverà la medicina”. Non è stato affatto così. È stato un flop totale. Penso che sarà migliore di quello. Ma non l’AGI.
Una persona anziana molto famosa ha detto: “I radiologi saranno fuori dal mercato tra non molto”. La gente ha smesso di iscriversi alle specializzazioni in radiologia e ora c’è carenza di personale”. -Rodney Brooks, Robust.AI
GZ: E che dire di queste previsioni che prevedono la scomparsa di intere categorie di lavoro, come i paralegali e così via? È una preoccupazione legittima?
Brooks: Si sentono certamente queste cose. Qualche settimana fa stavo esaminando un rapporto governativo che diceva: “Gli avvocati scompariranno tra 10 anni”. Ho rintracciato l’autore e si trattava di un avvocato inglese che non sapeva nulla di IA. Ha detto: “Sicuramente, se è così buona, migliorerà così tanto che saremo senza lavoro in 10 anni”. C’è molto clamore per i disastri. Qualcuno suggerisce qualcosa e viene amplificato.
Lo abbiamo visto con i radiologi. Un anziano molto famoso ha detto: “I radiologi saranno fuori dal mercato tra non molto”. La gente ha smesso di iscriversi alle specializzazioni in radiologia e ora c’è carenza di personale. Lo stesso vale per la guida dei camion…. Ci sono così tanti annunci di tutte queste aziende che reclutano camionisti perché non ce ne sono abbastanza, perché tre o quattro anni fa si diceva: “La guida dei camion scomparirà”.
GZ: In realtà, sei o sette anni fa, si prevedeva che a quest’ora avremmo avuto auto a guida autonoma.
Brooks: Molte previsioni. Gli amministratori delegati delle principali aziende automobilistiche dicevano tutti che entro il 2020 o il 2021 o il 2022, all’incirca.
GZ: La guida autonoma completa, o livello 5, sembra ancora molto lontana. O mi sfugge qualcosa?
Brooks: No. È molto lontano. Penso che le cose di livello 2 e 3 nelle auto siano incredibilmente buone ora. Se si acquista un’auto nuova di zecca e la si paga bene, è straordinariamente buona. Il livello 5, o anche il livello 4, non tanto. Vivo nella città di San Francisco e da quasi un anno posso fare un giro dopo le 22:30 e prima delle 5:00 del mattino, se non è una giornata di nebbia: posso fare un giro su un veicolo Cruise senza conducente. Proprio nelle ultime settimane, Cruise e Waymo hanno raggiunto un accordo con la città per cui ogni giorno, mentre guido di giorno, vedo auto senza conducente.
GZ: GM avrebbe perso 561 milioni di dollari con Cruise solo nei primi tre mesi di quest’anno.
Brooks: È quanto gli è costato gestire questo progetto. Già. È molto lontano dal pareggio. Molto, molto lontano dal pareggio.
GZ: Quindi, credo che la domanda sia: anche un’azienda come la GM può arrivare da qui a lì, dove sta realizzando enormi profitti?
Brooks: Me lo chiedo anch’io. Abbiamo visto che molti sforzi sono stati interrotti. Non aveva senso che ci fossero così tante aziende diverse che cercavano di farlo. Forse, ora che ci siamo riuniti a uno o due sforzi e che ne siamo usciti, ci arriveremo gradualmente. Ma ecco un altro caso in cui il clamore, a mio avviso, ci ha rallentato. Negli anni ’90 sono state condotte molte ricerche, soprattutto a Berkeley, su quali sensori si potessero inserire nelle autostrade per aiutare le auto a guidare senza che il conducente prestasse attenzione. Quindi, inserendo dei sensori, modificando l’infrastruttura e cambiando le auto in modo che utilizzassero la nuova infrastruttura, si sarebbe ottenuta una guida senza attenzione.
“Uno dei processi standard ha quattro teraflop, quattro milioni di operazioni in virgola mobile al secondo, su un pezzo di silicio che costa 5 dollari. È semplicemente sbalorditiva la quantità di calcolo”. -Rodney Brooks, Robust.AI
Ma poi è arrivato il clamore: “Oh no, non ne abbiamo nemmeno bisogno. Tra qualche anno le auto si guideranno da sole. Non c’è bisogno di cambiare l’infrastruttura”. Così abbiamo smesso di cambiare le infrastrutture. E credo che questo abbia rallentato l’intero percorso dei veicoli autonomi per i pendolari di almeno 10, forse 20 anni. Ora alcune aziende stanno ricominciando a farlo.
Ci vuole molto tempo per rendere queste cose reali.
GZ: Non mi piace molto guidare, quindi quando vedo le foto delle riviste popolari degli anni Cinquanta di persone sedute in auto a cupola, l’una di fronte all’altra, quattro persone che si divertono a giocare a carte sull’autostrada, non posso che partecipare.
Brooks: Assolutamente sì. E come specie, l’umanità, abbiamo cambiato più volte la nostra infrastruttura di mobilità. All’inizio del 1800 c’erano i treni a vapore. Abbiamo dovuto apportare enormi modifiche alle nostre infrastrutture. Abbiamo dovuto costruire binari piatti in tutti i Paesi. Quando abbiamo iniziato ad adottare le automobili, a cavallo tra il XIX e il XX secolo, abbiamo cambiato le strade. Abbiamo cambiato le leggi. Le persone non potevano più camminare in mezzo alla strada come prima.
Abbiamo cambiato l’infrastruttura. Quando si passa da treni guidati da una persona a treni a guida autonoma, come quelli che si vedono negli aeroporti e in alcuni paesi, l’infrastruttura cambia completamente e non è possibile che una persona cammini sui binari. Abbiamo cercato di fare questa transizione [alle auto a guida autonoma] senza cambiare l’infrastruttura. È sempre necessario cambiare l’infrastruttura se si vuole fare un cambiamento importante.
GZ: Di recente lei ha scritto che non ci saranno applicazioni robotiche valide che sfrutteranno in modo significativo la potenza delle GPT. Ma alla luce di ciò, c’è qualche altra via di sviluppo dell’IA che si rivelerà più vantaggiosa per la robotica, o più trasformativa? Oppure, in alternativa, l’IA e la robotica divergeranno per un po’, mentre enormi risorse saranno destinate a modelli linguistici di grandi dimensioni?
Brooks: Beh, permettetemi di dare un’interpretazione molto positiva. C’è stata una trasformazione. Ci vuole solo un po’ più di tempo per arrivarci. Le reti neurali convoluzionali sono in grado di etichettare le regioni di un’immagine. Non si tratta di percepire nello stesso modo in cui percepisce una persona, ma possiamo etichettare ciò che c’è. Insieme alla fine della Legge di Moore e alla scalabilità di Dennard, questo sta permettendo ai progettisti di silicio di uscire dall’idea di un PC più veloce. Ora stiamo assistendo a pezzi di silicio molto economici e molto efficaci che vengono inseriti in una fotocamera. Invece di ottenere un’immagine, ora si ottengono etichette, etichette di ciò che è presente. Ed è dannatamente buono. Ed è molto economico. Uno dei processi standard ha quattro teraflop – quattro milioni di milioni di operazioni in virgola mobile al secondo – su un pezzo di silicio che costa 5 dollari. La quantità di calcoli è semplicemente sbalorditiva.
L’applicazione a questa etichettatura sarebbe limitata alla virgola mobile, a 16 bit. Non lo vediamo ancora in molti robot, ma molte persone lo stanno usando e stanno costruendo, sperimentando e arrivando al prodotto. Si tratta quindi di un caso in cui l’AI, le reti neurali convoluzionali – che, tra l’altro, applicate alla visione hanno 10 anni – faranno la differenza.
“Amazon ha davvero reso la vita difficile agli altri fornitori facendo [robotica nel magazzino]. Ma l’80% dei magazzini negli Stati Uniti non ha alcuna automazione; solo il 5% è fortemente automatizzato”. -Rodney Brooks, Robust.AI
Ed ecco uno dei miei altri “sette peccati capitali della previsione dell’IA”. Si tratta della velocità con cui le persone pensano che i nuovi prodotti verranno implementati. Ci vuole un po’ di tempo per implementarle, soprattutto quando si tratta di hardware, perché si tratta di un sacco di cose che devono essere bilanciate. Ci vuole tempo. Come le auto a guida autonoma.
GZ: Tra le principali categorie di robotica – robot da magazzino, robot collaborativi, robot di produzione, veicoli autonomi – quali sono le più interessanti al momento o quali di queste sottodiscipline hanno registrato la crescita più rapida e interessante?
Brooks: Personalmente mi occupo di robot di magazzino per la logistica.
GZ: La sua ultima azienda si occupava di robot collaborativi.
Brooks: Si occupava di robot collaborativi nelle fabbriche. Quella società è stata un bellissimo successo artistico, un fallimento finanziario, ma…
GZ: Questa è la Rethink Robotics.
Brooks: Rethink Robotics, ma ora stiamo andando avanti, eravamo troppo in anticipo e ho fatto degli errori stupidi. Me ne assumo la responsabilità. Alcuni errori stupidi nel modo in cui abbiamo affrontato il mercato. Ma l’intera faccenda sta andando avanti. Ci vorranno altri 10 o 15 anni.
GZ: Lo faranno i robot collaborativi.
Brooks: Robot collaborativi, ma è quello che la gente si aspetta ora. I robot non hanno più bisogno di stare in gabbia. Possono stare fuori con gli esseri umani. Nei magazzini, abbiamo avuto sempre di più. Chi acquista prodotti a domicilio si aspetta che vengano consegnati a casa. COVID ha accelerato questo processo.
GZ: In alcuni posti la gente se lo aspetta il giorno stesso.
Brooks: Amazon ha reso la vita difficile agli altri fornitori. Ma l’80% dei magazzini negli Stati Uniti non ha alcuna automazione; solo il 5% è fortemente automatizzato.
GZ: E quelli sono probabilmente i più grandi.
Brooks: Sì, sono quelli più grandi. Amazon ne ha un numero enorme, per esempio. Ma c’è un gran numero di magazzini che non hanno automazione.
GZ: Quindi si tratta di magazzini di medie dimensioni?
Brooks: Sì. 100.000 metri quadrati, qualcosa del genere, mentre quelli di Amazon tendono a essere più di un milione di metri quadrati e si ricostruiscono completamente [intorno all’automazione]. Ma questo 80% non verrà ricostruito. Devono adottare l’automazione in un flusso di lavoro esistente e modificarlo nel tempo. Ci sono alcune aziende che hanno avuto successo e credo che ci sia molto spazio per altre aziende e altri flussi di lavoro.
“I magazzinieri non sono soggetti ai capricci dell’automazione. Possono prendere il controllo. Quando il robot fa chiaramente qualcosa di stupido, possono semplicemente afferrarlo e spostarlo, e il robot si ripara”. -Rodney Brooks, Robust.AI
GZ: Per la sua attuale azienda, Robust.AI, questo è il suo obiettivo.
Brooks: È quello che stiamo facendo. Brooks: È quello che stiamo facendo.
GZ: Qual è la vostra visione? Avete un programma, una suite software chiamata Grace e una piattaforma hardware chiamata Carter.
Brooks: Esattamente. E permettetemi di dire qualche parola al riguardo. Partiamo dal presupposto che ci saranno persone nei magazzini in cui ci troviamo. Ci saranno persone per molto tempo. Non ci saranno luci spente e automazione totale, perché l’80% dei magazzini non ricostruirà tutto e non metterà milioni di dollari di attrezzature. Le cose verranno inserite gradualmente. Stiamo quindi cercando di rendere i nostri robot umano-centrici, come li chiamiamo noi. Sono consapevoli delle persone. Utilizzano reti neurali convoluzionali per capire che si tratta di una persona, per vedere da che parte è rivolta, per vedere dove sono le sue gambe, dove sono le sue braccia. È possibile tracciare tutto questo in tempo reale, 30 fotogrammi al secondo, proprio davanti alla telecamera. E sapere dove sono le persone, chi sono. Sono persone, non ostacoli, quindi bisogna trattarle con rispetto.
Ma la magia del nostro robot è che sembra un carrello della spesa. Ha un manubrio. Se una persona si avvicina e lo afferra, ora è un carrello della spesa o un carrello motorizzato che può essere spostato. Così [i magazzinieri] non sono soggetti ai capricci dell’automazione. Possono prendere il controllo. Quando il robot fa chiaramente qualcosa di stupido, possono semplicemente afferrarlo e spostarlo, e il robot si ripara.
GZ: Lei è insolito per un tecnologo perché pensa in modo ampio e diffuso e non ha paura di avere un’opinione sulle cose che accadono nella conversazione tecnica. Stiamo vivendo tempi davvero interessanti in questo strano mondo postpandemico in cui molte cose sembrano essere in una sorta di inflessione. C’è qualche grande progetto che la riempie di speranza e ottimismo? Quali sono le grandi iniziative tecnologiche che le danno speranza o entusiasmo?
Brooks: Beh, ce n’è una di cui non ho scritto, ma che ho conosciuto e seguito. Il cambiamento climatico rende l’agricoltura più difficile e più incerta. Per questo si sta lavorando molto sull’agricoltura indoor, cambiando il modo di fare agricoltura da quello che abbiamo fatto per i 10.000 anni in cui noi, come specie, abbiamo fatto agricoltura e che conosciamo, alla tecnologia indoor, combinandola con l’ingegneria genetica dei microbi, combinandola con un sacco di calcoli, l’apprendimento automatico, ottenendo i giusti loop di controllo. Ci sono cose fantastiche su piccola scala in questo momento, che producono cibo interessante e buono in modi che sono molto più puliti, usano molta meno acqua e mi fanno sperare che saremo in grado di avere un approvvigionamento alimentare sostenibile. Non solo orribili schifezze da mangiare, ma anche cose che ci piacciono, con un impatto sul pianeta molto più ridotto di quello che hanno gli animali da allevamento e l’uso diffuso di fertilizzanti, che inquinano le riserve idriche. Penso che possiamo arrivare a un sistema buono e pulito per fornire cibo a miliardi di persone. Sono molto fiducioso al riguardo. Penso che stiano accadendo molte cose interessanti. Ci vorranno 10, 20, 30 anni prima che diventi di uso comune, ma già oggi, nel mio negozio di alimentari a San Francisco, posso comprare lattuga coltivata al chiuso. Quindi stiamo già assistendo alla diffusione delle verdure a foglia. Ne arriveranno molte altre.
