Episode Transcript
Available transcripts are automatically generated. Complete accuracy is not guaranteed.
(00:00):
Per la prima volta nella storia della United States Robots and Mechanical Man Corporation,
(00:06):
un robot era andato distrutto a causa di un incidente avvenuto sulla Terra.
Non era colpa di nessuno.
Il mezzo aereo era stato distrutto in volo e un'incredula commissione investigatrice
si chiedeva se avrebbe avuto il coraggio di dichiarare che, secondo le prove raccolte,
era stato colpito da una meteorite.
Nient'altro, infatti, avrebbe potuto disporre di una velocità tale da eludere lo schivamento
(00:30):
automatico.
Niente avrebbe potuto provocare un danno del genere se non un'esplosione nucleare, il
che era impensabile.
C'era inoltre da tener conto dell'avvistamento di una grande luminosità in cielo un attimo
prima che il veicolo esplodesse, e l'avvistamento era stato effettuato dall'osservatorio di
Flagstaff, non da un dilettante, e del ritrovamento di un pezzo di ferro d'origine meteoritica
(00:56):
conficcato di recente nel terreno a un chilometro circa dalla località del disastro.
Mettendo insieme tutto questo, che conclusione era logico trarre?
Tuttavia, prima non era mai successo niente di simile e le probabilità contrarie erano
immensamente superiori a quelle favorevoli.
Tuttavia, capita a volte che possa verificarsi anche un'improbabilità infinitesimale.
(01:19):
Nell'ufficio dell'iOS Robotics, i come e i perché passavano in seconda linea.
L'unica cosa che contava era questa, un robot era andato distrutto.
Il fatto era di per sé stesso angoscioso.
Più angoscioso ancora perché il JN-5 era un prototipo, il primo dopo 4 precedenti tentativi
che fosse entrato in funzione.
(01:41):
L'angoscia poi diventava abissale se si pensi che il JN-5 era un tipo di robot completamente
nuovo e diverso dagli altri costruiti prima.
Infine, non c'erano parole sufficienti a descrivere l'angoscia per il fatto che il
JN-5 aveva compiuto una cosa di capitale importanza prima di andare distrutto e forse il suo operato
(02:01):
era ormai perduto per sempre.
Il fatto che insieme al robot fosse morto il robo psicologo capo della ditta era un particolare
di secondaria importanza che valeva sì e no la pena di menzionare.
Sigla!
Benvenuti su Pensieri in Codice, il podcast dove si ragiona da informatici, con Valerio Galano.
(02:25):
Quella che ti ho appena letto è l'introduzione di un racconto di Isaac Asimov intitolato
Intuito Femminile.
Qualche episodio fa, precisamente nel numero 127, ho letto e commentato un altro racconto,
(02:46):
sempre di Asimov, il cui titolo era, invece, Tutti i guai del mondo, e i feedback sono
stati così numerosi e così positivi che ho deciso di fare il bis.
Chissà che non ne venga fuori perfino una serie.
Per oggi, quindi, ho scelto questo Intuito Femminile perché l'ho trovato particolarmente
attuale per via di alcune notizie che sono uscite di recente e sulla base di varie ricerche
(03:11):
scientifiche che mi è capitato di leggere in questo periodo.
Ora, però, bando alle ciance, anche perché non voglio rischiare di farti spoiler, e quindi
non ti anticipo altro e ti auguro, semplicemente, buon ascolto.
Clinton Madarian era entrato nell'azienda dieci anni prima.
(03:34):
Per cinque, aveva lavorato senza mai lamentarsi sotto l'arcigna supervisione di Susan Calvin.
La genialità di Madarian era così evidente che Susan Calvin l'aveva tranquillamente promosso
scavalcando altri senza dare spiegazioni, cosa di cui del resto non si sarebbe degnata
al direttore delle ricerche Peter Bogart, ma, d'altro canto, nel caso specifico le spiegazioni
(03:58):
non sarebbero state necessarie, tanto il motivo era evidente.
Madarian era l'opposto della famosa dottoressa Calvin sotto molti ed evidenti aspetti.
Non era così grasso come poteva lasciar supporre il suo doppiomento, ma aveva una presenza
imponente mentre Susan passava quasi inosservata.
Il faccione massiccio, la folta a chioma rossastra, la carnagione accesa, la voce tonante, la
(04:24):
risata sonora e soprattutto l'irrefrenabile sicurezza di sé e la spavalderia con cui
sbandierava il proprio successo facevano di lui una personalità preponderante.
Quando finalmente Susan Calvin andò in pensione, rifiutando a priori qualsiasi forma di festeggiamento
con particolare riferimento al pranzo di addio in suo onore in modo talmente deciso che i
(04:47):
mass media non comunicarono nemmeno la notizia, Madarian prese il suo posto.
Lo occupava esattamente da un giorno quando diede l'avvio al progetto JN.
Per attuarlo era necessario uno stanziamento di fondi molto più cospicuo di quello che
la US Robots avesse stanziato per qualsiasi altro progetto, ma per Madarian questo era
(05:09):
un particolare trascurabile.
Vale ogni soldo che ci spendiamo, Peter, disse, e mi aspetto che tu convinca il consiglio
direttivo.
Spiegami perché, disse Bogart chiedendosi se Madarian l'avrebbe accontentato.
Susan Calvin non aveva mai dato spiegazioni.
Madarian invece disse certo e si sistemò comodamente in poltrona nell'ufficio del direttore.
(05:32):
Bogart lo guardava con qualcosa di molto simile al rispetto.
I suoi capelli, un tempo neri, erano ormai quasi bianchi e dentro meno di dieci anni
sarebbe andato anche lui in pensione come Susan Calvin.
Questo avrebbe segnato la fine del gruppo originale che aveva fatto della US Robots un'azienda
di importanza mondiale, rivale del governo per complessità e importanza.
(05:55):
Ma ne lui, ne quelli che si erano già ritirati, si erano mai assuefatti all'enorme espansione
della ditta.
Questa però era la nuova generazione.
I nuovi dirigenti si trovavano a proprio agio nel colosso.
Non provavano nei suoi confronti quello stupore che confinava con la reverenza.
Tiravano dritto e, dopotutto, forse era meglio così.
(06:17):
Propongo di iniziare la costruzione di robot privi di costrizioni, disse Madarian, senza
le tre leggi, ma...
No, Peter, credi che non sia capace di pensare ad altre costrizioni?
Che diamine!
Hai pur contribuito al progetto dei primi cervelli positronici.
Devo proprio dirti io che, oltre alle tre leggi, in quei cervelli non c'era un circuito
(06:37):
che non fosse progettato e fissato con precisione.
Abbiamo robot adatti a compiti specifici, altamente specializzati.
E tu adesso proporresti che, ferme restando le restrizioni delle tre leggi, i circuiti
possano restare aperti.
Non è difficile.
Già, non è difficile, commentò seccamente Boggart.
(06:57):
Le cose inutili non sono mai difficili.
Il difficile è fissare i circuiti e rendere utili i robot.
Perché?
Fissare i circuiti richiede uno sforzo notevole perché il principio di incertezza è importante
nella massa di positroni e bisogna minimizzare l'effetto incertezza.
Ma perché dobbiamo?
Se combiniamo le cose in modo che il principio abbia la preponderanza sufficiente a consentire
(07:20):
l'opposizione a circuiti imprevedibili, otterremo un robot imprevedibile.
Un robot creativo, precisò Madarian con un briciolo di impazienza.
Peter, se il cervello umano possiede qualcosa di cui il cervello dei robot è privo, questo
è una sfumatura di imprevedibilità che deriva dagli effetti dell'incertezza a livello subatomico.
(07:42):
Ammetto che non sia mai stato possibile dimostrare questo effetto nell'ambito del sistema nervoso,
ma senza di esso il cervello umano non sarebbe superiore a quello robotico.
E tu credi che inserendo questo effetto nel cervello di un robot, quello umano non sarebbe
più superiore?
Esattamente, confermò Madarian, e continuarono a discutere per un bel pezzo.
(08:09):
L'idea di creare una macchina intelligente è senza dubbio un concetto affascinante già
di per sé.
Affascinava Asimov nel 1969, quando pubblicò Intuito Femminile e tanti altri racconti,
e affascina sicuramente anche molti di noi tutt'oggi.
Pensaci, chi non vorrebbe avere al proprio fianco un Jarvis come quello del personaggio
(08:32):
Marvel Iron Man, o una Andromeda come quella dell'omonima serie di Gene Roddenberry?
I modelli di machine learning moderni, d'altronde, come possono non essere considerati varie strade
con le quali si sta tentando di raggiungere un tale obiettivo.
Nello specifico di questo racconto, Asimov pone l'attenzione su un aspetto particolare
(08:54):
che spesso nelle serie tv e nei film è dato piuttosto per scontato.
Un aspetto che, come vedremo più avanti, si evolverà in un secondo tratto altrettanto
importante.
Insieme, queste due caratteristiche intrinseche nell'essere umano sono elementi fondamentali
per considerare un'intelligenza come tale, anche senza sfociare in un dibattito filosofico
(09:16):
sulla stessa definizione di intelligenza.
E quelle di cui sto parlando sono le peculiarità della mente umana che noi normalmente chiamiamo
creatività e intuito.
La creatività è già entrata in gioco, mentre di intuito si parlerà a breve.
Il dottor Madarian, infatti, come vedremo tra poco, vuole realizzare un cervello positronico
(09:38):
che sia in grado di svolgere compiti e formulare nuove idee sulla base di informazioni eterogene
incamerate in modo naturale e non schematicamente prestabilito.
Che sia creativo, insomma.
E in effetti, nel racconto come nella nostra realtà attuale, la creatività sembrerebbe
proprio essere l'ultima caratteristica che ancora separa nettamente l'intelligenza artificiale
(10:03):
da quella naturale.
Di recente, però, sono stati pubblicati alcuni studi scientifici che suggeriscono che questa
disparità non resterà tale ancora per molto.
Secondo tali studi, che trovi in descrizione, è infatti possibile che, a poco a poco, anche
quest'ultimo baluardo della superiorità del cervello umano stia venendo superato.
(10:24):
Anche se di fatto ancora non conosciamo pienamente come funziona al proprio interno un modello
di machine learning generativo, per capirci parlo di GPT e compagni, negli ultimi mesi
sono stati effettuati vari esperimenti per esplorarne le potenzialità e fra questi alcuni
molto interessanti erano volti a valutarne le capacità creative.
(10:47):
Messi di fronte a dei test utilizzati normalmente per misurare la creatività negli umani, i
migliori chatbot basati sui maggiori large language model si sono rivelati in grado
di superarne i quesiti con una certa facilità.
Nello specifico, le prove a cui mi riferisco si concretizzano in attività come scrivere
(11:08):
racconti originali o trovare per certi oggetti utilizzi differenti da quelli canonici.
I chatbot interrogati hanno saputo generare risposte che hanno quantomeno sorpreso i ricercatori.
I modelli linguistici infatti hanno dimostrato di essere in grado di rispondere alle domande
dei test perfino meglio della media degli esseri umani con cui sono stati confrontati.
(11:30):
Si tratta senza dubbio di risultati interessanti, di cui probabilmente sentiremo nuovamente
parlare in futuro, e che fanno pensare che l'intelligenza artificiale supererà a breve
quella naturale.
Ma prima di lasciarci prendere dall'entusiasmo, teniamo ben presente una cosa.
Nel caso di una IA, superare un test di creatività non vuol dire necessariamente essere creativa.
(11:55):
Non avendo possibilità di verificarne il funzionamento e i dati di training, infatti,
non è possibile per i ricercatori escludere che essa sia stata allenata proprio su risposte
ai suddetti test, e sia dunque questo il motivo per cui è in grado di superarli.
In altre parole, i modelli potrebbero stare semplicemente ripetendo risposte che hanno
assimilato precedentemente all'interno di tutto il materiale con il quale sono stati
(12:19):
addestrati, e se così fosse non potremmo certo definirli creativi.
Altri studi, invece, nei quali sono stati messi in competizione esseri umani e large
language model, hanno fatto emergere il fatto che, in linea generale, il livello di creatività
di entrambi si equivale nel caso in cui i soggetti umani non sono particolarmente creativi.
(12:40):
Anzi, l'ago della bilancia pende addirittura verso i modelli generativi.
Tuttavia, se si confrontano invece i soggetti migliori presi sia tra gli esseri umani che
tra i chatbot, i risultati evidenziano che in creatività l'intelligenza naturale supera
ancora di gran lunga quella artificiale.
Il concetto, quindi, sembra essere che una IA generativa riesce ad essere mediamente
(13:04):
creativa ma non brillante in tal senso, e sicuramente non è in grado di tenere il passo
con quelli che sono i picchi di intelligenza ed inventiva tipici della nostra specie.
Il consiglio direttivo non aveva la minima intenzione di lasciarsi convincere facilmente.
(13:26):
Scott Robertson, il più importante azionista, disse
«È già abbastanza difficile dirigere l'industria dei robot così com'è, con l'ostilità latente
dell'opinione pubblica sempre pronta a passare a vie di fatto.
Se la gente si convince che i robot saranno incontrollati, oh, non venitemi a parlare delle
tre leggi.
L'uomo della strada non crederà più che basteranno a proteggerlo quando sentirà la
(13:47):
definizione «senza controllo».
«Non è mica obbligatoria», disse Madarian, «possiamo chiamare il robot intuitivo».
«Un robot intuitivo?», commentò qualcuno.
Un sorriso serpeggiò lungo la tavola.
Madarian afferrò l'idea al volo.
«Sì, un robot femmina.
I nostri robot naturalmente sono asessuati, e lo sarà anche questo, ma noi li abbiamo
(14:11):
sempre considerati di genere maschile.
Gli abbiamo dato nomi maschili, abbiamo sempre detto lui, lo, gli, riferendoci a loro.
Questo, invece, se consideriamo la natura della struttura matematica del cervello che
ho proposto, cadrà nel sistema di coordinate JN.
Il primo robot sarà JN1, e contavo che l'avremmo chiamato John1.
(14:33):
Purtroppo, credo che il livello medio di originalità dei creatori di robot non vada oltre, ma perché
non chiamarlo invece Jane1?
«Se dobbiamo spiegare al pubblico quello che intendiamo fare, diremmo che stiamo costruendo
un robot femmina dotato di intuito».
«E che differenza farebbe?», obiettò Robertson, scrollando la testa.
(14:54):
«A quanto dici, progetti di togliere l'ultima barriera che in linea di principio rende il
cervello robotico inferiore a quello umano.
Quale credi che sarà la reazione dell'opinione pubblica?
Perché?
Avreste intenzione di divulgare la notizia?», chiese Madarian.
Ci pensò un po', e poi disse «Sentite, una delle convinzioni più diffuse è che
(15:14):
le donne sono meno intelligenti degli uomini».
Su molte facce si dipinse per un attimo un'espressione d'angustia, mentre gli occhi si volgevano
verso il punto dove un tempo era solita sedere Susan Calvin.
«Se annunciamo la fabbricazione di un robot femmina, non importa come sarà, la gente
si farà distinto all'idea che è mentalmente arretrata.
(15:35):
Ci basterà pubblicizzare il robot come Jane 1, senza bisogno di aggiungere altro.
Non c'è niente da temere».
«In verità ci sono parecchie altre cosette», disse a questo punto con la massima calma
Peter Bogart.
«Madarian e io abbiamo revisionato tutti i calcoli a fondo e posso assicurare che la
serie Jane, John o Jane che sia, non presenta il minimo pericolo.
(15:57):
Saranno dei robot meno complessi e intellettualmente meno capaci in senso ortodosso di molte altre
serie da noi progettate e costruite.
Ci sarà un unico fattore in più che possiamo pure abituarci a chiamare intuito».
«Chissà quali effetti avrà», borbottò Robertson.
«Madarian ha suggerito una funzione.
Come sapete, è stato creato in teoria il principio del balzo spaziale.
(16:20):
L'uomo in teoria può raggiungere velocità superiori a quella della luce, visitare sistemi
stellari e tornare in pochissimo tempo, qualche settimana al massimo.
«Non è una novità», osservò Robertson.
«E senza i robot non sarebbe stato possibile».
«Esatto, ed è perfettamente inutile, in quanto la supervelocità si può raggiungere
(16:40):
solo una volta, per dimostrazione, e di conseguenza la nostra azienda non ne ricava che un vantaggio
minimo.
Il balzo spaziale è rischioso, richiede una enorme quantità di energia e di conseguenza
è enormemente costoso.
Se però dovessimo attuarlo, sarebbe bello poter scoprire e riferire l'esistenza di
un pianeta abitabile.
(17:01):
Chiamatela necessità psicologica.
Spendere circa 20 miliardi di dollari per un unico balzo e tornare solo con dei dati
scientifici provocherebbe le proteste dei contribuenti.
Riferire invece che è stato scoperto un pianeta abitabile farebbe di noi dei colombo interstellari
e nessuno penserebbe al denaro speso.
E allora?
(17:22):
E allora dove possiamo trovare un pianeta abitabile?
Oppure, mettiamola così, quale stella nell'ambito delle possibilità del balzo, quale delle
300.000 stelle e sistemi solari nell'ambito di 300 anni luce ha le maggiori probabilità
di possedere un pianeta abitabile?
Disponiamo di un'infinità di dati su tutte le stelle distanti fino a 300 anni luce e sappiamo
(17:44):
che quasi tutte hanno un sistema planetario, ma quale possiede un pianeta abitabile?
Quale dobbiamo visitare?
Lo ignoriamo?
Uno dei presenti chiese.
In cosa potrebbe esserci utile a questo riguardo il robot Jane?
Madarian stava per rispondere, ma poi fece un cenno a Boggart che afferrò al volo.
Il suo parere come direttore avrebbe avuto più peso.
(18:06):
La cosa non andava molto a genio a Boggart, se la serie JN si rivelava un fiasco il fatto
di esporsi ad esso e sostenerla avrebbe fatto di lui il capo espiatorio.
D'altro canto, non era molto lontano il giorno in cui sarebbe andato in pensione e gli sarebbe
piaciuto ritirarsi circondato da un'aureola di gloria.
Forse la cosa andava attribuita alla gran sicurezza di sé di Madarian.
(18:30):
Comunque sia, Boggart si era ormai persuaso che la cosa avrebbe funzionato.
Probabilmente controllando e studiando i dati sulle stelle sarà possibile calcolare la
probabilità della presenza di pianeti abitabili tipo Terra.
Bisogna capire bene i dati, interpretarli in modo creativo e fare i raffronti del caso.
Il che finora non è mai stato fatto, o se qualche astronomo se n'è occupato non è
(18:52):
stato abbastanza in gamba da capire cosa aveva scoperto.
Un robot del tipo JN può fare i raffronti e stabilire i rapporti molto più rapidamente
dell'uomo.
In un giorno vagherebbe le possibilità e scarterebbe i dati negativi che un uomo impiegherebbe
dieci anni a esaminare, per di più non avrebbe i preconcetti e le convinzioni dell'uomo.
(19:13):
Seguì un pesante silenzio, che Robertson ruppe per dire
«Ma si tratta di probabilità, no?
Supponiamo che il robot dica la stella che ha più probabilità di avere un pianeta abitabile
introdotta nei luce è l'Umachetta 17, o che so io.
E allora noi andiamo a vedere e scopriamo che la probabilità è solo una probabilità
e che non ci sono pianeti.
(19:34):
Cosa faremo in questo caso?»
Ma Darian non si dette per vinto.
«Sarà sempre una vittoria per noi», disse.
Perché vorrà dire che il, cioè la robot, ci avrà detto questo in seguito a date e
deduzioni.
Si tratterà di un enorme passo avanti in campo astronomico e sarà sempre valsa la
pena di aver provato anche se non faremo il balzo vero e proprio.
(19:57):
Inoltre potremo esaminare, per esempio, i dati sui 5 più probabili sistemi dotati di pianeti
abitabili e le probabilità che uno dei 5 abbia un pianeta abitabile sarebbero superiori
al 90%, sarebbe la certezza, e tirarono avanti ancora per un bel pezzo.
A questo punto del racconto abbiamo il primo accenno al concetto di Robot Femmina, uno
(20:25):
dei temi principe di questo racconto che pervaderà un po' tutta la narrazione che verrà approfondito
in modo interessante più avanti.
Per questo motivo anche noi avremo modo di parlarne a dovere fra un po' e quindi preferisco
concentrarmi su un altro aspetto di ciò che abbiamo appena letto, qualcosa di meno evidente
forse ma che trovo comunque molto interessante, e parlo dell'impiego da trovare per la nuova
(20:51):
tipologia di intelligenza.
Madarian ha pensato di utilizzare il nuovo cervello positronico intuitivo, o creativo,
per effettuare dei calcoli probabilistici che per gli umani richiederebbero un impegno
in un tempo pressoché improponibili.
Questa è una sorprendente intuizione da parte di Asimov, perché anticipa di decenni un
utilizzo dell'intelligenza artificiale che oggi è ampiamente diffuso nell'ambito della
(21:15):
ricerca e sviluppo, e che si fonda principalmente sul reinforcement learning.
Si tratta di una tipologia di machine learning, questa, che viene impiegata in moltissimi
campi e discipline per effettuare i più disparati tipi di studi e ricerche tecnologiche.
A tali algoritmi viene affidato il compito di sondare centinaia di migliaia di opzioni
o di strategie al fine di individuare relazioni invisibili agli esseri umani ed elaborare
(21:41):
le migliori soluzioni possibili a determinati problemi.
In parole più semplici, gli algoritmi di reinforcement learning sono in grado di esplorare
un numero immenso di possibilità, ciascuna leggermente differente dalla precedente, fino
ad individuarne una o un gruppo ristretto che si avvicini il più possibile al risultato
richiesto.
Ne abbiamo già parlato anche qui su Pensieri in Codice, ad esempio nell'episodio 119 su
(22:05):
Alphadev, in cui abbiamo scoperto insieme come questa IA abbia inventato un nuovo algoritmo
di ordinamento dei dati.
Ma in pratica, le reti ad apprendimento per rinforzo sono utilizzate ogni giorno da industrie
o enti di ricerca per i più disparati obiettivi.
Creare nuovi farmaci, nuovi materiali, nuove strategie, nuovi software, nuovi metodi di
(22:29):
sviluppo e moltissimo altro ancora.
L'intero processo viene predisposto da un team di esperti, e poi una volta avviato lasciato
interamente all'intelligenza artificiale, in modo che essa possa portare al risultato
sulla base delle restrizioni, dei parametri e degli obiettivi prestabiliti.
L'assenza di interazione umana, in teoria, proprio come ipotizza Madarian per il suo
(22:55):
robot JN, dovrebbe ridurre al minimo la presenza di preconcetti e bias.
Nel racconto, poi, gli azionisti della iOS Robots, definendo questo nuovo tipo di robot
come incontrollato, sottolineano il fatto che i circuiti aperti non permetterebbero
di prevedere in anticipo le decisioni prese dal cervello positronico.
(23:18):
Anche questo è un parallelismo interessante con le nostre moderne IA generative.
Difatti, negli attuali modelli non è possibile in alcun modo conoscere o verificare il modo
in cui essi arrivano ai risultati che restituiscono.
Lo abbiamo già detto tante volte, i Large Language Model, ad esempio, ma non solo, anche
(23:39):
i generatori di immagini o di video, sono in effetti delle blackbox il cui interno non è
osservabile o conoscibile nemmeno dai loro creatori.
Per quanto riguarda, invece, l'interazione tra la IA e le persone comuni, Asimov già
ne intuiva l'importanza e noi, che oggi quell'interazione la stiamo letteralmente vivendo, sappiamo
(24:02):
che non tutto sta andando per il verso giusto.
Ci stiamo accorgendo che è fondamentale che chiunque utilizzi software basato su machine
learning, in qualsiasi ambito, al di là del semplice divertimento, ne conosca i limiti
intrinseci e sia in qualche modo in grado di gestirli.
E se negli ambienti scientifici e altamente specializzati come la medicina, l'ingegneria,
(24:29):
la meccanica e simili, una certa sicurezza è garantita da protocolli, certificazioni
e controlli di qualità che esistevano già ben prima del boom del machine learning, per
l'uomo della strada, come definito nel racconto, tutto ciò non è affatto scontato.
Con la diffusione su larga scala delle intelligenze artificiali generative, infatti, un chatbot,
(24:53):
o per i più smanettoni, un modello in grado di generare testi, immagini o video, è divenuto
facilissimo da riperire e da utilizzare.
Chiunque può installarne uno su un PC da un migliaio di euro o poco più.
La facilità d'uso, però, non implica automaticamente la conoscenza dei limiti né tantomeno delle
(25:14):
implicazioni dovute all'utilizzo di questi strumenti, e se vogliamo dirla tutta non implica
nemmeno la buona fede.
Un utilizzo improprio o addirittura fraudolento è tutt'altro che remoto e ne abbiamo già
visti innumerevoli esempi.
Infine, in un interessantissimo saggio intitolato Intelligenza Artificiale e Fiducia, Bruce Schneier
(25:36):
parla proprio del rapporto tra le persone e le IA generative che sono in circolazione
e che ovviamente si diffonderanno sempre più nel prossimo futuro.
Secondo lo scrittore, che definisco scrittore per via del saggio ma che in realtà è anche
un esperto di criptografia, privacy e sicurezza informatica, l'aspetto principale da tenere
(25:58):
sotto controllo riguarda appunto la fiducia.
Secondo gli azionisti del racconto di Asimov, per il bene dell'azienda e quindi del loro
portafoglio, le persone devono fidarsi dei robot e pertanto Madarian deve fare tutto
quanto in proprio potere per far sì che ciò avvenga.
Schneier, nel saggio, fa notare che la fiducia è una caratteristica fondamentale per l'esistenza
(26:23):
della società umana, ma sottolinea anche il fatto che le nuove intelligenze generative
produrranno un'enorme confusione.
Esse sono degli strumenti, dei servizi, ma le persone inizieranno a considerarle come
figure amiche delle quali appunto fidarsi e alle quali affidarsi.
Le aziende detentrici dei più potenti modelli generativi, dice Schneier, cercheranno dunque
(26:49):
di approfittare di questa confusione per ottenere sempre più potere e ricchezza, e sarà compito
dei governi impedire che ciò avvenga, regolamentando non tanto le IAA ma direttamente le aziende
che le controllano.
Si tratta di un saggio davvero interessante, ti consiglio di leggerlo e come per tutto ciò
(27:10):
di cui ti parlo trovi il link anche di questo in descrizione.
I fondi stanziati non erano sufficienti, ma Madarian contava sull'abitudine di concederne
altri con facilità dopo aver tentennato prima di concedere lo stanziamento iniziale.
L'idea di aver buttato via 200 milioni di dollari quando concedendone altri 100 si poteva
(27:35):
salvare la situazione avrebbe senz'altro facilitato lo stanziamento degli altri 100
milioni.
Jane 1 fu finalmente costruita e messa in mostra, Peter Bogart la esaminò con grande
serietà e chiese, perché la vita sottile indebolisce la struttura meccanica?
Gli spiegò ridacchiando Madarian, se dobbiamo chiamarla Jane non vedo perché debba somigliare
(27:57):
a Tarzan.
Non va.
Bogart scrollò la testa, di questo passo la farai più grossa in alto per simulare
il seno ed è una cosa che potrebbe avere degli effetti spiacevoli, se le donne cominciano
a pensare che i robot sono fatti come loro si mettono in testa delle idee sbagliate e
non vorrai renderteli ostili spero.
Forse hai ragione, ammise Madarian, non esiste una donna sola che vorrebbe essere sostituita
(28:21):
da qualcosa che non ha nessuno dei suoi difetti.
Jane 2 non aveva la vita sottile, era un robot triste, che si muoveva poco e parlava ancora
meno.
Durante la costruzione Madarian era corso poche volte da Bogart per annunciargli trionfante
qualche novità e questo era segno che le cose non andavano bene.
Quando otteneva brillanti risultati, l'esuberanza di Madarian non aveva freni, non avrebbe esitato
(28:46):
a precipitarsi nella camera da letto di Bogart alle 3 di notte per dargli subito la bella
notizia senza aspettare il mattino, Bogart lo sapeva per esperienza.
Adesso invece Madarian era avvilito, il colorito acceso si era fatto pallido, le guance tonde
quasi cascanti.
Sicuro di indovinare, Bogart disse, non parla.
Oh per parlare parla, disse Madarian mettendosi pesantemente a sedere e mordicchiandosi il
(29:11):
labbro.
Qualche volta almeno.
Bogart si alzò e girò intorno al robot.
E quando parla immagino che dica cose priva di senso.
Beh, se non parla, non è una femmina, no?
Madarian tentò di abbozzare un sorriso ma ci rinunciò.
Il cervello, in isolamento funzionava, lo so, disse Bogart, ma quando è stato inserito
(29:32):
nell'apparato fisico del robot per forza ha subito delle modifiche.
Certo, si limitò ad ammettere Bogart, ma in modo imprevedibile e deludente.
Il guaio è che quando ci si trova a fare con il calcolo n-dimensionale dell'incertezza
le cose diventano… incerte?
Suggerì Bogart, stupito dalla sua stessa reazione.
(29:53):
La compagnia aveva investito somme ingentissime, erano già passati due anni e il risultato,
per dirla in termine eufemistico, era deludente.
E nonostante questo, lui era lì che si divertiva a punzecchiare Madarian.
Quasi furtivamente si chiese se non stesse punzecchiando invece l'assente Susan Calvin.
(30:13):
Madarian era di gran lunga più espansivo ed estroverso di quanto fosse mai stata Susan
Calvin, anche quando le cose andavano bene, ed era molto più vulnerabile di lei quando
andavano male, perché Susan non aveva mai ceduto alle avversità.
Così, Madarian offriva un facile bersaglio che ricompensava a Bogart di non essersi mai
(30:34):
potuto cavare quella soddisfazione con Susan.
Madarian non reagì all'ultima osservazione di Bogart così come avrebbe fatto Susan Calvin
e non come lei per disprezzo, ma solo perché non l'aveva sentita.
Il difficile sta nel saper distinguere, disse con l'aria di chi dà l'avvio a una discussione.
Jane 2 è bravissima nello stabilire i rapporti, ma poi non è capace di riconoscere una deduzione
(31:01):
valida da una che non lo è.
Non è un problema facile riuscire a stabilire come si deve programmare un robot in modo
che dia giudizi validi quando non sappiamo come mette in rapporto le cose.
Immagino che tu abbia pensato di abbassare il potenziale alla congiunzione del diodo
V21 e di...
No, no, no, lo interruppe Madarian in un diminuendo che finì in un sussurro.
(31:24):
Non si può rifare tutto, bisogna invece riuscire a trovare qual è il rapporto decisivo e trarne
le conclusioni.
Una volta stabilito questo, Jane sarà in grado di dare una risposta per intuito.
Però ci potremmo riuscire solo grazie a un colpo di fortuna.
A me pare, osservò seccamente Bogart, che se ci riuscissimo avremmo un robot capace
(31:45):
di intuizioni quali solo un genio fra gli esseri umani può avere, e solo poche volte
nella vita.
Esatto, confermò Madarian, annuendo vigorosamente.
L'ho pensato anch'io, ma non avrei osato dirlo.
Ti prego, non farne parola con il consiglio direttivo.
Ma vorresti sul serio un robot genio?
Cosa sono le parole?
Io sto cercando di ottenere un robot capace di mettere in correlazione le cose più svariate
(32:11):
a caso e in brevissimo tempo, e che sia contemporaneamente dotato di un elevatissimo quoziente di capacità
selettiva.
E sto tentando di tradurre questi concetti in equazioni positroniche.
Credevo di esserci riuscito, e invece no, non ancora.
Guardò deluso Jane II e disse, che senso hai, Jane?
La testa del robot si voltò verso di lui, ma Jane non emise alcun suono.
(32:35):
E Madarian sussurrò rassegnato, sta cercando il senso della mia domanda nei banchi dei rapporti.
Finalmente, Jane II disse con voce atona, non lo so.
Erano le prime parole che pronunciava.
Madarian alzò gli occhi al cielo.
Quello che fa è l'equivalente di elaborare le equazioni con soluzioni indeterminate.
Lo supponevo, disse Boggart.
(32:57):
Senti, Madarian, credi di poter riuscire ancora a combinare qualcosa o ci mettiamo una pietra
sopra riducendo le perdite a mezzo milione?
Oh no no no, ce la farò, borbottò Madarian.
Ma con Jane III non c'era ancora riuscito.
Il robot era inerte e Madarian pazzo di rabbia.
Colpa sua se si voleva andare a fondo, ma sebbene lui si sentisse deluso e umiliato gli
(33:21):
altri non aprirono bocca.
Si arrangiasse lui a rimediare, lui che si era sempre vantato di non aver mai fatto un
errore nei difficilissimi astrusi calcoli di matematica positronica.
ASIMOV ha appena sottolineato un aspetto fondamentale dell'intelligenza artificiale.
(33:42):
Madarian pronuncia queste parole.
Non è un problema facile riuscire a stabilire come si deve programmare un robot in modo
che dia dei giudizi validi quando non sappiamo come mette in rapporto le cose.
Ciò di cui sta parlando, in pratica, sono quelle che noi chiamiamo allucinazioni dei
modelli generativi.
(34:03):
In parole semplici, sta dicendo che non si può stabilire a priori se l'output prodotto
sia corretto se non si conosce con certezza il modo in cui il modello funziona internamente.
Noi lo vediamo accadere ogni giorno.
A volte i chatbot danno risposte totalmente insensate, dall'illustrare i benefici di correre
(34:27):
con le forbici in mano, fino allo sbagliare semplici calcoli matematici.
Il fatto è che inventare roba è esattamente quello per cui i modelli generativi sono stati
progettati, ed essi sono in grado di farlo in maniera veramente eccellente.
Il compito, ad esempio, di un large language model è quello di inventare nuovi testi mettendo
(34:50):
in fila una parola dietro l'altra, ed esso è bravissimo nel farlo.
Peccato che tirare fuori informazioni corrette da un LLM non è per nulla simile a reperirle
da un database.
Esse, infatti, all'interno del modello non sono strutturate, non sono esatte, non sono
precise e non sono nemmeno verificate.
(35:11):
Se noi guardassimo dentro un motore generativo non vedremmo informazioni come quelle prodotte
negli output, ma solo miliardi e miliardi di numeri, frutto dell'addestramento a cui
esso è stato sottoposto in precedenza.
Ogni volta che lo interroghiamo, il modello usa tutta una serie di combinazioni di questi
numeri per generare al volo un testo.
(35:33):
Ogni parola è frutto di una scelta effettuata tenendo conto del contesto e del peso statistico
ad essa associata.
Il software non ha alcuna contezza del significato del testo generato e nessuno può garantirne
il senso compiuto o la correttezza delle affermazioni.
Ma in generale, l'output prodotto appare sempre essere estremamente attendibile.
(35:57):
Questa cosa dipende dal fatto che la scelta delle parole è così impeccabile ed il risultato
finale è così ben scritto da farlo sembrare preso da una fonte di qualità come un libro
o un sito giornalistico, un'enciclopedia o una base dati.
Ma così non è.
Ogni somiglianza con la realtà è puramente casuale.
(36:19):
Come riportato nell'articolo Why Does AI Hallucinate sul sito Technology Review del
MIT, possiamo tranquillamente affermare che un LLM è molto simile ad una gigantesca palla
magica.
Di quelle che si agitano e poi dal liquido emerge una risposta a caso.
Anche di questo abbiamo già parlato nell'episodio 118 intitolato Come funziona chatGPT e gli
(36:42):
altri large language model.
In pratica, un modello di testo generativo non fa altro che predire la più probabile
parola successiva in una sequenza di parole esistente.
Pensato in questo modo, dovrebbe essere chiaro che in realtà qualsiasi output di qualsiasi
LLM è sempre un'allucinazione, solo che a volte ha senso rispetto alla realtà e a
(37:05):
volte no.
E a volte siamo noi ad attribuire a tali output significati più o meno concreti di
quanto siano in realtà.
Il problema, quindi, è proprio che, come dicevo poco fa, i modelli linguistici sono
così bravi nel fare quello che fanno che le loro risposte hanno sempre l'aria di essere
corrette, anche quando non lo sono.
(37:29):
Passò quasi un anno prima che fosse pronta Jane 4, ma Darian aveva ritrovato l'antico
entusiasmo.
Ce la fa, disse, ha un buon quotiente di selettività.
Era talmente sicuro che la presentò al consiglio perché la mettesse alla prova.
Niente problemi matematici che qualsiasi robot sarebbe stato capace di risolvere, ma problemi
(37:53):
i cui dati, senza essere imprecisi, erano tuttavia volutamente vaghi.
Non è una gran cosa, disse Bogart dopo la prova.
No, è addirittura elementare per Jane 4, ma sufficiente per una dimostrazione, non
credi?
Sai quanto abbiamo speso finora?
Andiamo, Peter, non saltar fuori con certi argomenti adesso.
Sai piuttosto quanto ci ha fruttato.
(38:14):
Sai bene che sono cose che non si possono fare dall'oggi al domani, e io ci ho faticato
sopra per tre anni.
Ma mentre mi ciaccanivo ho elaborato nuove tecniche di calcolo che ci faranno risparmiare
almeno 50.000 dollari per ogni tipo di cervello positronico che progetteremo in futuro.
Cosa te ne pare?
Beh, non cominciamo coi beh, e così è basta.
(38:35):
E inoltre sono sicuro che il calcolo n-dimensionale dell'incertezza può essere applicato in
molti altri campi, purché si abbia l'intelligenza sufficiente da scoprirli, e sarà la mia Jane
a farlo.
Appena avrò ottenuto il risultato che voglio la nuova serie JN renderà tanto da pagarsi
le spese nel giro di cinque anni, anche se dovessimo triplicare la somma investita
(38:56):
finora.
Cosa intendi con appena avrò ottenuto il risultato che voglio?
Jane 4 non va bene.
Sì, per funzionare funziona, ma può fare di più.
Intendo migliorarla.
Credevo di sapere quello che volevo quando l'ho progettata, ma adesso che l'ho messa
alla prova so quello che voglio, e ci riuscirò.
E ci riuscì, con Jane 5.
(39:18):
Impiegò un anno a produrla, ma alla fine ne fu completamente soddisfatto.
Jane 5 era più bassa e meno massiccia dei robot normali.
Senza essere una caricatura della donna come Jane 1, riusciva ad avere un'aria femminile
sebbene non possedesse alcun attributo femminile.
È il portamento, disse Boggart.
Muoveva le braccia con grazia, e quando si voltava dava l'impressione che si curvasse
(39:41):
leggermente.
Ascoltala, disse Madarian.
Come stai, Jane?
Godo di eccellente salute.
Grazie, disse Jane 5.
E la voce era indubbiamente femminile, un contralto dolce, conturbante.
Perché una voce simile, Clinton?
Chiese perplesso Boggart.
È importante dal punto di vista psicologico, spiegò Madarian.
(40:04):
Voglio che la considerino una donna, che la trattino come una donna.
Ma chi?
Madarian si ficcò le mani in tasca e guardò pensoso Boggart.
Vorrei che si potesse combinare per portarla a Flagstaff.
A Flagstaff?
E perché?
Perché è il centro mondiale della planetologia generale, no?
È là che studiano le stelle e cercano di calcolare le probabilità dell'esistenza di
(40:27):
pianeti abitabili, no?
Lo so.
Ma è sulla Terra.
Lo sapevo.
Lo sai che l'operato dei robot sulla Terra è sottoposto a rigidi controlli.
E poi che bisogno c'è di portarla laggiù?
Forniscile tutta una biblioteca di testi di planetologia generale e Jane li assorbirà.
No.
Peter, vuoi metterti in testa che Jane… non c'era più bisogno di indicarla con un
(40:49):
numero di serie, adesso quella era LA Jane.
Non è uno dei soliti robot logici, lei è intuitiva.
E allora?
Allora, come possiamo sapere cosa le occorre, di quali dati ha bisogno?
Per leggere libri può andar bene qualsiasi robot, si tratta di dati stabiliti e magari
anche sorpassati.
Jane deve avere informazioni recenti, di prima mano, capire i toni delle voci, afferrare
(41:14):
le sfumature.
Come diavolo facciamo a sapere quando i suoi meccanismi mentali si mettono in funzione,
quando comincia il clic clic e i dati si mettono in bell'ordine a formare uno schema logico?
Se lo sapessimo, potremmo fare da soli, senza bisogno di ricorrere a lei, ti pare?
Boggart cominciava a cedere.
Fai venire qui i planetologi, propose.
(41:36):
Non servirebbe, non trovandosi nel loro elemento, non reagirebbero in modo naturale.
Voglio che Jane li veda al lavoro, voglio che veda gli strumenti che adoperano, i loro uffici,
le loro scrivanie, tutto quello che può essere utile.
E voglio che tu faccia in modo che venga portata a Flagstaff, e basta con le discussioni.
Boggart ebbe per un attimo l'impressione di aver sentito parlare Susan, ma si riprese
(41:59):
e disse.
Troppo complicato.
Trasportare un robot sperimentale?
Jane non è sperimentale, è la quinta della serie.
Gli altri quattro non erano dei veri e propri modelli funzionanti.
Ma chi ti obbliga a informare il governo?
Gli chiese Madarian.
Non è di questo che mi preoccupo, posso sempre dimostrare che si tratta di un caso eccezionale.
Mi preoccupa l'opinione pubblica, in cinquant'anni abbiamo fatto molta strada e non vorrei ritrovarmi
(42:24):
al punto di partenza nel caso che perda il controllo.
Io non perderò nessun controllo, mai.
Non dire sciocchezze.
Senti, la US Robots può permettersi un aereo privato.
Atterriamo come se niente fosse nel più vicino aeroporto commerciale, confondendoci con
gli altri aerei e sistemiamo Jane in un bel furgone chiuso che la porterà a Flagstaff.
(42:45):
Naturalmente Jane sarà chiusa in una cassa e figurerà come strumento astronomico o qualcosa
del genere.
Nessuno saprà che la cassa contiene un robot.
Intanto gli uomini di Flagstaff saranno stati avvertiti e messi al corrente dello scopo
della nostra visita, e sarà a loro interesse far sì che la cosa non si sappia.
Boggart ci pensò su.
(43:05):
Se mai dovesse succedere qualcosa alla cassa durante il viaggio?
Non succederà niente.
Potremmo almeno disattivare Jane durante il trasporto, se mai qualcuno scoprisse...
No.
Peter, è impossibile.
Jane 5 non può essere disattivata.
Si potrebbero mettere in naftalina le informazioni ma non le associazioni di idee.
Questo, mai.
(43:26):
Impossibile.
E se qualcuno scopre che trasportiamo un robot funzionante?
Nessuno lo scoprirà.
Ancora tiene ampiamente banco il discorso di Schneier sulla fiducia, ma Darian vuole che
Jane si mescoli agli scienziati del centro di Flagstaff e che loro la considerino il
(43:47):
più possibile una di loro, che si fidino di lei.
Il motivo è semplice.
Vuole che loro si comportino in modo naturale come se avessero a che fare con una normale
collega.
Questo fatto aiuterà ad estrarre da loro tutta una serie di informazioni nel modo più
attendibile possibile, senza filtri.
(44:08):
Anche se Jane è un robot e le sue esembianze sono impossibili da confondere con quelle
di un essere umano, essa è stata comunque progettata per essere umanizzata il più
possibile dai suoi interlocutori, grazie ad un sapiente utilizzo della gestualità e della
voce.
Il risultato desiderato è che le persone la considerino in tutto e per tutto una donna
(44:33):
e che si comportino con lei come se fosse umana.
Tutta la schiera di chatbot che siamo abituati a conoscere sono stati resi disponibili al
grande pubblico esattamente con le stesse intenzioni, anche se con mezzi diversi.
I primi assistenti vocali, come Sirio o Cortana, avevano quasi tutti solo voci femminili, almeno
all'inizio.
(44:54):
Mentre ChatGPT, Gemini e tutti i chatbot di ultima generazione sono progettati per comportarsi
come si comporterebbe un essere umano, o almeno per provarci.
Mostrano il testo un po' per volta, quasi come a farci pensare che dall'altra parte
ci sia qualcuno che ha bisogno di tempo per pensare alle parole.
(45:14):
Provano a manifestare emozioni, si scusano quando gli diciamo che sbagliano, cercano
di mostrare empatia e comprensione per l'interlocutore.
Tutti questi comportamenti non sono intrinseci del modello, ma completamente artificiali
e programmati.
Esattamente al pari delle fattezze femminili e della voce di Jane, sono studiati per farci
(45:37):
dimenticare che stiamo interloquendo con un software.
Uno studio del Dipartimento di Scienze Cognitive di San Diego ha evidenziato come un modello
come GPT-4 sia stato in grado di superare tranquillamente il test di Turing.
Messo a confronto con vari soggetti umani, infatti, questi hanno creduto di stare chattando
(45:57):
con un umano ben nel 54% dei casi.
Inoltre, aspetto molto interessante, l'analisi dei ragionamenti e delle strategie attuate
dai partecipanti ha evidenziato come lo stile di scrittura e i fattori socio-emozionali
giochino un ruolo fondamentale in questo tipo di test, molto più delle nozioni di
(46:18):
conoscenza e intelligenza intese in senso tradizionale.
In altre parole, le persone si convincono di avere a che fare con altre persone molto
più facilmente se gli interlocutori mostrano emozioni e si interessano a loro o scrivono
in modo naturale piuttosto che se mostrano di conoscere l'argomento del discorso o di
saper ragionare correttamente.
(46:40):
La difficoltà di riconoscere di star parlando con una macchina poi apre la strada all'utilizzo
dei chatbot al posto degli esseri umani in svariate situazioni potenzialmente dannose,
senza voler necessariamente tirare in ballo la voce o addirittura il video.
Il solo fatto di chattare con un modello di intelligenza artificiale, magari a nostra
(47:02):
insaputa, è già una possibilità reale che potrebbe avere ripercussioni notevoli
sul nostro stile di vita.
Il modo in cui ci esprimiamo, anche solo i testi che scriviamo ogni giorno, infatti,
anche quelli dei semplici messaggi di una chat, sono intrisi di informazioni che ci
riguardano.
E non parlo solo di quei dati che andiamo intenzionalmente a inviare o dei metadati.
(47:25):
Nel nostro modo di scrivere, nelle parole che usiamo o nel modo in cui costruiamo le
frasi, sono racchiuse informazioni che un umano difficilmente è in grado di estrapolare,
ma che per una rete neurale sono semplicemente il pane quotidiano.
Secondo vari ricercatori, i maggiori chatbot sono in grado di inferire moltissime informazioni
(47:47):
riguardanti l'interlocutore, anche se la conversazione che stanno avendo riguarda tutt'altro.
Razza, posizione, lavoro, preferenze varie e molto altro possono essere estratte grazie
all'utilizzo di tutta una serie di correlazioni statistiche.
Sembra essere una capacità legata al modo in cui i modelli sono stati addestrati.
(48:08):
Pare che le enormi quantità di dati che gli vengano date in pasto e che, quasi sempre,
sono reperite dal web, gli infondano una sorta di sensibilità ai pattern di linguaggio.
Tali dati possono infatti essere correlati ad altri modi molto sottili e imprevisti,
portando a dedurre dettagli che non ci si aspetterebbe di poter conoscere.
(48:29):
Ad esempio, correlando l'utilizzo di certi dialetti o certe frasi, è possibile indovinare
il luogo di provenienza o il livello sociale di una persona.
Il concetto è complesso, ma possiamo semplificarlo dicendo che normalmente persone che frequentano
gli stessi ambienti o sono interessate alle stesse cose tendono a sviluppare sfumature
(48:52):
simili nel modo di esprimersi.
La somiglianza può essere impercettibile, magari l'uso di una parola in modo particolare
o la ripetizione di uno o più termini con frequenza maggiore o minore della media.
In ogni caso, gli algoritmi di machine learning, il cui compito è proprio scoprire e sfruttare
correlazioni statistiche all'interno di moli di dati enormi, sono bravissimi ad individuare
(49:16):
queste minime sfumature e, pertanto, possono facilmente categorizzare il proprio interlocutore
all'interno di un gruppo piuttosto che un altro.
Questi pattern consentono in pratica ai modelli di fare ipotesi su di una persona a partire
da ciò che digita.
Ad esempio, se una persona scrive che ha appena preso il tram del mattino, il modello potrebbe
(49:39):
dedurre che si trova in Europa, dove magari in quel momento è mattina e dove i tram sono
piuttosto comuni.
Questo è un esempio banale, ma poiché un algoritmo di machine learning può raccogliere
e combinare moltissimi indizi, anche umanamente impercettibili, gli esperimenti fatti hanno
dimostrato che esso può facilmente fare ipotesi incredibilmente accurate su moltissime informazioni
(50:05):
tra cui la provenienza, il sesso, le tendenze religiose, l'età e la razza dell'utente.
Ma Darian era deciso e un bel giorno l'aereo decollò.
Era un modernissimo computerjet automatico, ma per precauzione era salito a bordo anche
(50:25):
un pilota, un dipendente della USS Robots.
La cassa con Jane arrivò sana e salva all'aeroporto, fu trasferita sul furgone e raggiunse senza
incidenti i laboratori di ricerca a Flagstaff.
Peter Bogart ricevette la prima chiamata da Madarian meno di un'ora dopo che quest'ultimo
era arrivato a Flagstaff.
(50:45):
Madarian, manco a dirlo, era in estasi, non poteva aspettare.
Il messaggio arrivò via laser privato, schermato, mascherato, insomma impenetrabile, tuttavia
Bogart era esasperato.
Infatti, chi disponeva dell'adatta attrezzatura tecnica e fosse deciso a farlo, avrebbe potuto
benissimo intercettare il messaggio.
(51:06):
Il governo, per esempio.
L'unico motivo per cui poteva ritenerlo sicuro era che il governo non aveva ragione di intentare
di intercettarlo.
Così, almeno, sperava Bogart.
Per l'amor di Dio dovevi proprio chiamare, disse.
Ignorandolo, Madarian, tutto infervorato, disse, è stata un'ispirazione, un'idea geniale,
(51:28):
te l'assicuro.
Bogart rimase a fissare attonito il ricevitore, poi gridò in credulo.
Come?
Hai già avuto la risposta?
Ma no, dacci tempo, accidenti.
Dicevo della voce, sta a sentire.
Dopo averla portata dall'aeroporto a Flagstaff, abbiamo aperto la cassa e Jane è uscita.
Al vederla, tutti hanno fatto un passo indietro atterriti.
(51:50):
Se nemmeno gli scienziati capiscono il senso delle tre leggi della robotica, come possiamo
pretendere che lo capisca l'uomo della strada?
Così, al momento, ho pensato, non ci caverà un ragno dal buco, si rifiuteranno di parlare,
chiuderanno i laboratori a chiave per paura che dia i numeri.
Viene al punto.
Ma poi lei li ha salutati come sua abitudine.
(52:11):
Buongiorno, signori, ha detto con quella sua bella voce di contralto.
Sono felice di fare la vostra conoscenza.
È stato come un colpo di bacchetta magica, uno si è raddrizzato la cravatta, un altro
si è pettinato alla meglio con le dita.
Insomma, adesso tutti vanno pazzi per Jane, per via della voce, e non la considerano più
un robot, ma una donna.
(52:31):
Vuoi dire che parlano con lei?
E come?
Avrei dovuto programmarla con delle inflessioni erotiche, a quest'ora le avrebbero già chiesto
un appuntamento.
Guarda cosa significano i riflessi condizionati, gli uomini reagiscono alle voci da retta a
me.
Nei momenti più intimi, guardano?
No, caro mio, ascoltano la voce che sussurra all'orecchio.
(52:52):
Già, mi par di ricordare.
Dov'è Jane adesso?
Con loro.
Non la lasciano un momento.
Maledizione, seguila, non perderla mai di vista.
L'idea che l'aspetto e la voce femminile possano condizionare l'atteggiamento delle
persone verso una macchina è uno dei due temi dominanti di questo racconto.
(53:15):
Madarian aveva inizialmente scelto di definire il cervello creativo come femminile per timore
delle reazioni da parte dell'opinione pubblica.
Poi aveva dato fattezze femminile a Jane per inserirla coerentemente in un gruppo di soggetti
umani.
Infine le ha dato una voce sensuale per stimolare le interazioni.
E ha funzionato.
E funziona anche nella realtà, non solo nel racconto.
(53:38):
È notizia di un paio di mesi fa che OpenAI abbia provato a dare, all'ultima versione
del suo chat GPT, la voce di Scarlett Johansson, o comunque una così simile da risultare indistinguibile.
L'attrice ha dato la voce, qualche anno fa, all'intelligenza artificiale protagonista
del film Hair, e, secondo Sam Holtman, CEO di OpenAI, in quel film viene descritto in
(54:03):
modo molto accurato il modo in cui le persone si rapportano con le IA.
Ora, il motivo di una mossa del genere riguarda sicuramente la risonanza mediatica, ma non
solo.
Il fatto che gli esseri umani si interfaccino nei confronti di un software con voce femminile
in modo diverso da uno con voce maschile è noto già dal secolo scorso, e non vale solo
(54:26):
per i software.
Negli anni 90 il fenomeno fu già documentato nel libro The Media Equation, in cui gli autori
arrivano perfino a fare un discorso più ampio, affermando che le interazioni con computer,
televisione e le varie tecnologie di comunicazione per il cervello sono essenzialmente identiche
alle relazioni sociali reali.
(54:46):
Poi, tornando ancora più indietro, negli anni 70, sappiamo che le implicazioni psicologiche
del parlare con una macchina furono ampiamente studiate dall'informatico del Meet Joseph
Weizenbaum, che creò anche il primo rudimentale chatbot della storia, Eliza.
Eliza era una sorta di psicologo automatizzato che seguiva essenzialmente una strategia di
(55:11):
interazione nella quale rigirava le affermazioni dell'utente in forma di domanda.
Con sua grande sorpresa, Weizenbaum, che voleva in realtà dimostrare la superficialità di
uno scambio uomo-macchina di quel genere, si trovò di fronte a comportamenti che non
avrebbe mai immaginato.
Lo stesso scienziato affermò in seguito, cito,
(55:33):
«Ciò che non avevo però compreso è che un'esposizione, anche molto breve, a un programma
informatico relativamente semplice potesse provocare reazioni deliranti in persone altrimenti
decisamente normali».
Gli utenti instaurarono però immediatamente uno stretto rapporto con il chatbot, passando
ore di fila in sua compagnia per condividere conversazioni intime, fine citazione.
(55:56):
Un fenomeno, quello che abbiamo appena preso descritto dalle parole dello scienziato, che
prese successivamente proprio il nome di effetto Eliza.
La cosa assurda, sempre raccontata da Weizenbaum, fu che perfino la sua segretaria, che lo aveva
visto programmare il bot e che ne conosceva il funzionamento, un giorno, mentre chattava
(56:16):
con Eliza, chiese allo studioso di uscire dalla stanza, evidentemente con l'obiettivo
di avere una maggiore privacy nella conversazione con la macchina.
Detto questo, paradossalmente negli studi citati nel blocco precedente, è stato appurato
che Eliza ha superato il test di Turing nel 22% dei casi, quindi con un'efficacia pari
(56:38):
a meno della metà di chatGPT.
Tornando però alla questione della voce, sappiamo che in generale, questa è uno strumento
eccezionalmente potente di comunicazione e persuasione.
Vari esperimenti, tra cui alcuni effettuati anche su larga scala, hanno dimostrato che
aumentando o diminuendo la lunghezza del tratto vocale, si può indurre un'associazione mentale
(57:02):
a stereotipi di tipo maschile o femminile.
In pratica, la lunghezza del tratto vocale aiuta a definire il timbro di voce.
Mediamente, tale lunghezza è di poco meno di 17 cm per gli uomini e poco più di 14
per le donne.
Pertanto, si è visto, soprattutto in campo pubblicitario, che modificare il tratto vocale
(57:26):
aiuta a migliorare le performance di un annuncio quando questo riguarda un prodotto stereotipicamente
maschile o femminile.
È uno dei motivi per i quali, in generale, le pubblicità rivolte specificamente alle
donne sono raccontate da voci femminili e quelle rivolte agli uomini da voci maschili.
Nei chatbot, però, quest'utilizzo mirato della voce ha anche non pochi effetti collaterali.
(57:50):
Il fatto che le voci degli assistenti virtuali storicamente femminili contribuiscano ad aumentare
i pregiudizi di genere verso le donne non è affatto una novità.
L'argomento è ampiamente trattato, ad esempio, in un report pubblicato in collaborazione
dal Brookings Institution e dall'Istituto Italiano per gli Studi di Politica Internazionale,
(58:12):
che ha dato vita ad un paper che ti lascio in descrizione.
L'umanizzazione di questi strumenti, poi, assistenti o chatbot che siano, dissuade le
persone dal considerarli degli strumenti di sorveglianza, attività per la quale, invece,
come abbiamo già detto, possono facilmente essere impiegati.
E, infine, come risultati estremi di questa insistenza a indurre gli utenti a vedere le
(58:39):
IA come altri esseri umani, abbiamo anche varie storture.
Un esempio è Friend, l'IA progettata per diventare un amico del proprio utente, tenergli
compagnia, assecondare le sue inclinazioni e incoraggiare le sue idee.
Emblematico è il fatto che l'autore stesso di questo strumento ha tenuto a specificare
(59:00):
come esso non debba diventare l'unica persona, tra virgolette, con cui avere rapporti, evidentemente
già conscio del fatto che è proprio questa la piega che prenderebbero le cose.
Oppure, altro esempio interessante è il concorso di Miss AI, che ha premiato i realizzatori
(59:20):
delle migliori social media influencer generate artificialmente.
Qui trovo che il commento migliore a questa iniziativa sia proprio di una ricercatrice
della community di sviluppatori di AI, HugInFace, che ha affermato
«L'ennesimo passo avanti sulla strada dell'oggettificazione della donna con l'AI.
(59:41):
Come donna che lavora in questo campo, sono delusa, ma non sorpresa».
Le chiamate che Madarian fece in seguito durante i dieci giorni della sua permanenza
a Flagstaff furono poco frequenti e via via meno entusiaste.
Jane ascoltava attentamente e qualche volta rispondeva.
(01:00:04):
Era molto popolare, aveva accesso ovunque, ma quanto a risultati, zero.
«Proprio niente?» chiese Bogart.
«No, proprio niente non si può dire», rispose Madarian subito sulla difensiva.
«E' impossibile dire niente trattandosi di un robot intuitivo.
Noi non sappiamo cosa le passa per la testa.
(01:00:25):
Stamattina ha chiesto a Jensen cosa aveva mangiato per colazione.
Rossiter Jensen, l'astrofisico?»
«Ma sì», ed è saltato fuori che stamattina aveva bevuto solo una tazza di caffè.
«Vedo che Jane impara a parlare del più e del meno, ma non mi pare che per ottenere
questo valesse la pena di spendere tanto.
Non fare l'imbecille.
(01:00:47):
Tutto quello che dice Jane è importante, anche se non sembra a prima vista.
Aveva fatto quella domanda perché aveva a che fare con una sua associazione di idee,
ma come è possibile mai?
E come faccio a saperlo?
Se lo sapessi sarei come Jane e non avrei bisogno di lei.
Ma quella domanda doveva avere un significato particolare.
(01:01:08):
È stata programmata perché risponda alla domanda se esiste un pianeta con un optimum
di abitabilità a distanza e...
E allora fammelo sapere quando l'avrà fatto e non prima.
Non mi interessano le descrizioni dettagliate di tutte le sue possibili associazioni di
idee.
Boggart non si faceva illusioni e ogni giorno che passava si illudeva sempre meno che avrebbero
(01:01:29):
ottenuto qualcosa.
Così, quando invece arrivò la conferma del successo, non era preparato.
E arrivò proprio all'ultimissimo momento.
Il messaggio decisivo di Madarian arrivò sotto forma di un pacato sussurro.
Ormai aveva esaurito tutta la sua riserva di entusiasmo.
C'è riuscita, disse con voce pacata.
(01:01:49):
C'è riuscita.
Anch'io ormai mi ero dato per vinto.
Dopo aver assorbito tutte le informazioni possibili e immaginabili, averci rimuginato
sopra due o tre volte senza mai aver detto niente di sensato.
Sono in aereo.
Sto tornando.
Siamo appena partiti.
Boggart fece del suo meglio per dominarsi.
Senti, piantala con gli scherzi.
Dimmi solo se hai ottenuto la risposta sì o no.
(01:02:12):
Sì, sì.
Mi ha fatto i nomi di tre stelle entro un ambito di 80 anni luce che dice hanno dal
60 al 90% la probabilità di avere un pianeta abitabile.
La probabilità che ce ne sia almeno uno è del 97,2%.
Quindi è quasi certo che esista.
Appena arrivati, Jane spiegherà come ha fatto per giungere a questa conclusione e io ti
(01:02:36):
assicuro che l'astrofisica e la cosmologia saranno…
Ma sei proprio sicuro?
Credi che abbia le allucinazioni?
Ho anche un testimonio.
Quel povero diavolo è sobbalzato per lo sballordimento quando Jane di punto in bianco
ha cominciato a snocciolare la risposta con quella sua stupenda voce.
E in quel momento la meteorite colpì l'aereo, che si disintegrò.
(01:02:58):
Di Madarian e del pilota rimase qualche brandello di carne sanguinolenta.
Di Jane nessuna parte utilizzabile.
Alla US Robotics non ne aveva mai regnato una così profonda tristezza.
Robertson cercava di consolarsi pensando che la distruzione totale era almeno servita
(01:03:21):
a mantenere nascoste le illegalità di cui l'azienda si era resa colpevole.
Peter scrollò la testa ed espresse il suo profondo rammarico dicendo
«Abbiamo perduto l'occasione migliore che la ditta abbia mai avuto perché il pubblico
se ne facesse un'immagine indimenticabile, superando una buona volta quel maledetto complesso
di Frankenstein.
(01:03:41):
Sai cosa avrebbe significato per i robot se uno di loro fosse riuscito a risolvere il
problema dei pianeti abitabili dopo che altri robot avevano contribuito al progetto del balzo
spaziale?
I robot ci avrebbero aperto le porte della galassia.
E se noi poi fossimo riusciti a utilizzare i dati, a incanalarli nella direzione giusta?
(01:04:01):
Dio, è impossibile calcolare i benefici che ne avrebbe ricavato l'umanità e, fra parentesi,
anche noi.
«Ma non potremmo costruire un'altra Jane?»
disse Robertson.
«Anche se Madarian non c'è più?
Certo che potremmo, ma chi ci assicura che i rapporti, le associazioni porterebbero alla
stessa conclusione?
Chi ci dice che avremmo la probabilità di ottenere subito un risultato positivo?»
(01:04:25):
Come capita spesso ai principianti, Madarian forse ha avuto un colpo di fortuna e poi,
per compenso, un colpo di sfortuna.
Chi mai poteva prevederlo?
Una meteorite.
Incredibile.
Se almeno sapessimo cosa aveva detto Jane 5, Madarian aveva accennato a un testimonio.
«Già, ci ho pensato anch'io», disse Boggart.
(01:04:45):
«Credi che non mi sia già messo in contatto con Flagstaff?»
«Nessuno laggiù l'ha sentita dire qualcosa di particolare, qualcosa che potesse sembrare
la soluzione del problema dei pianeti abitabili.
E se mai l'ha pronunciata, nessuno l'ha sentita o ha capito che si trattava della risposta
che tutti aspettavano.
«Credi che Madarian possa aver mentito?
(01:05:06):
O che fosse diventato matto?
Forse, per proteggersi, vuoi dire che per salvare la propria reputazione fingeva di
aver ottenuto una risposta, e poi ha fatto in modo che Jane andasse distrutta per non
essere contraddetto.
Ma andiamo.
Di questo passo arriveremo a pensare che è stato lui a provocare lo scontro con la meteorite.
(01:05:27):
E allora cosa si fa?
Bisogna tornare a Flagstaff.
Se una risposta esiste, è là.
Devo scavare più a fondo.
Vado là e porto con me un paio di assistenti di Madarian, scandaglieremo tutto e tutti
a fondo.
Ma stammi a sentire, anche se c'è qualcuno che ha sentito Jane, come diceva Madarian,
cosa ci servirebbe saperlo, senza Jane che ci spiega come è arrivata a quella conclusione?
(01:05:51):
Tutto può servire.
Jane ha dato i nomi delle stelle, i numeri di catalogo probabilmente, perché nessuna
delle stelle che hanno un nome ha la probabilità di avere dei pianeti abitabili.
Se qualcuno riesce a ricordarsi che ha parlato, e ricorda anche i numeri di catalogo, o li
ha sentiti ma non li ricorda e consente a farli risalire alla memoria cosciente con
(01:06:13):
la psicosonda, beh, sarà già qualcosa.
Col risultato finale e i dati con cui Jane era stata programmata, potremmo riuscire
a ricostruire il ragionamento che ha seguito, scoprire qual è stata l'intuizione, e se
ci riusciremo, saremo salvi.
I ricercatori della US Robots non sanno come funziona un cervello positronico intuitivo.
(01:06:41):
E come potrebbero?
Non lo sapeva neanche il suo creatore, Badarian.
Ciò vuol dire che non possono, in alcun modo, ricostruire con un grado di attendibilità
sufficiente tutti i calcoli che deve aver svolto per formulare la tanto agognata risposta.
In questo senso, il cervello di Jane è davvero molto simile ad un modello di machine learning
(01:07:04):
generativo moderno.
Ho provato a chiedere a ChatGPT come faccio ad ottenere da un LLM due volte lo stesso
output e la sua risposta è stata, cito,
Nei modelli di linguaggio come GPT, ogni volta che viene fornito un input, il modello elabora
il contesto e genera una risposta in base a ciò che ha appreso durante il suo addestramento.
(01:07:28):
Quindi, anche se l'input è simile o identico, le risposte possono comunque variare a causa
della complessità e della natura probabilistica del modello.
Lo abbiamo già detto, no?
I modelli generativi, di testo, di immagini, di video o altro, sono generatori stocastici.
(01:07:50):
Per loro ogni risposta è un'allucinazione, un insieme di parole o pixel scelti su base
statistica.
Non conoscono il significato di ciò che scrivono, né sanno cosa è rappresentato nelle
immagini che producono.
Nessuna delle loro associazioni o risposte è frutto di un ragionamento per come lo intendiamo
(01:08:11):
noi.
Con delle premesse del genere è abbastanza comprensibile il fatto che ogni risposta sia
un unicum, una volta persa è persa per sempre.
Bogart tornò dopo tre giorni, silenzioso e completamente depresso.
Quando Robertson lo interrogò ansiosamente sui risultati, scrollò la testa.
(01:08:34):
Niente.
Niente?
Niente di niente.
Ho parlato con tutti a Flagstaff, tutti gli scienziati, tutti i tecnici, tutti gli studenti
che avessero avuto a che fare con Jane, con tutti quelli che l'avevano anche solo vista.
Non erano poi molti e bisogna dar credito a Madarian per la sua discrezione, aveva permesso
di vederla solo a quelli dotati di cognizioni planetologiche utili per lei.
(01:08:58):
In tutto erano ventitré gli uomini che l'avevano vista e di questi solo dodici avevano parlato
con lei.
Ho riesaminato un'infinità di volte tutto quello che Jane ha detto, si ricordavano abbastanza
bene di tutto.
E' gente in gamba, impegnata in studi importanti che interessano le loro specialità e quindi
avevano dei buoni motivi per ricordarsene.
(01:09:19):
Per di più avevano a che fare con un robot parlante, cosa di per sé stessa insolita
e che parlava come un'attrice della televisione.
Non avrebbero proprio potuto dimenticarsene.
Cosa ne diresti di una psicosonda, azzardò Robertson?
Se qualcuno di loro avesse avuto la sia pur minima idea che c'era qualcosa di interessante
(01:09:39):
gli avrei strappato il consenso a farsi sondare.
Ma non ne ho visto il motivo, e sondare due dozzine di uomini che vivono del proprio cervello
è una cosa inconcepibile.
Sinceramente non sarebbe stato di nessuna utilità.
Se Jane avesse citato tre stelle e detto che avevano pianeti abitabili sarebbe stato come
far scoppiare dei fuchi d'artificio nelle loro teste.
(01:10:01):
Non se ne sarebbero potuti dimenticare.
E allora vuoi dire che qualcuno di loro mente, disse Cooper Robertson.
Vuole tenersi per sé l'informazione per assicurarsene il merito in un secondo tempo?
Che vantaggio potrebbe ricavarne?
Obiettò Boggart.
A Flagstaff tutti sapevano esattamente il motivo della presenza di Madarian e di Jane,
(01:10:21):
e in secondo luogo sapevano perché ci ero andato io.
Se un bel giorno qualcuno a Flagstaff saltasse fuori con una teoria su un pianeta abitabile
completamente nuova e diversa, ma valida, tutti gli scienziati di Flagstaff e tutti i tecnici
della US Robots capirebbero immediatamente da dove viene.
Non riuscirebbe mai a farla franca.
Allora può darsi che Madarian si sia sbagliato.
(01:10:45):
Anche questo mi pare incredibile.
Come tutti i robot psicologi, Madarian aveva un carattere irritante, deve essere per questo
che preferiscono lavorare con i robot invece che con gli uomini, ma non era un imbecille.
Non poteva sbagliarsi su una cosa come questa.
E allora...
Ma Robertson aveva esaurito tutte le sue idee.
Si trovavano davanti a un muro cieco e per qualche minuto rimasero tutti e due a fissarlo
(01:11:09):
sconsolati.
Alla fine Robertson si riscosse.
Peter.
Sì?
Chiamiamo Susan.
Bogart si irrigidi.
Cosa?
Chiamiamo Susan e chiediamole di venire qua.
Perché?
Che cosa può fare?
Non lo so, ma è una roba psicologa anche lei e può darsi che capisca il comportamento
di Madarian meglio di noi.
Per di più Susan, o al diavolo, ha sempre avuto più testa di tutti quanti noi.
(01:11:34):
Ha quasi 80 anni e tu ne hai 70 e con questo?
Chissà, pensò Bogart sospirando, se la lingua pungente di Susan si era un po' smussata
da quando era andata in pensione.
Bene, concluse, le chiederò di venire.
Susan Calvin entrò nell'ufficio di Bogart guardandosi intorno, prima di fissare gli
(01:11:59):
occhi sul direttore delle ricerche.
Era molto invecchiata in quegli anni, i capelli erano di un bianco candido e la faccia si
era come era grinzita.
Era diventata talmente di afana da sembrare quasi trasparente.
Solo gli occhi, penetranti e inflessibili, erano rimasti quelli di sempre.
Bogart si fece avanti, tendendole la mano con calore.
(01:12:20):
Susan!
Susan Calvin gli strinse la mano e disse.
Non sei male per la tua età, Peter.
Se fossi in te non aspetterei fino all'anno venturo.
Ritirati adesso e lascia che si arrangino i giovani.
E così Madarian è morto.
Mi hai chiamato perché riprenda il mio posto?
(01:12:41):
Avete deciso di tenere in servizio i vecchioni fino a un anno dopo la morte fisica?
No, Susan, ti ho chiamato per… Lascio a mezzo la frase.
Non aveva la minima idea di come cominciare, ma Susan gli leggeva nel pensiero come aveva
sempre fatto, senza la minima difficoltà.
Si mise a sedere con cautela a causa delle giunture irrigidite e disse.
(01:13:05):
Peter, mi hai chiamato perché sei nei guai fino al collo, altrimenti preferiresti vedermi
morta piuttosto che entro il raggio di un chilometro da te.
Andiamo, Susan.
Non perdere tempo inconvenevoli.
Non avevo tempo da perdere quando avevo 40 anni e di sicuro non ne ho adesso.
La morte di Madarian e il fatto che tu mi abbia chiamato sono due avvenimenti eccezionali
(01:13:30):
e quindi deve esserci per forza un rapporto fra loro.
Il fatto che due avvenimenti eccezionali non siano in rapporto è di una probabilità talmente
scarsa che non vale la pena di prenderla in considerazione.
Comincia dal principio e non avere paura di fare la figura dello stupido.
Tanto lo so già da un pezzo.
(01:13:52):
Bogart si schiarì la voce con aria infelice e cominciò a parlare.
Susan Calvin ascoltò attentamente, sollevando di tanto in tanto la mano grinzosa per interromperlo
e interloquire con una domanda.
Ad un certo momento sbuffò con disprezzo.
Intuito femminile, è per questo che avete costruito il robot?
(01:14:13):
Voi uomini, davanti a una donna capace di arrivare a una conclusione logica e incapaci
di accettare il fatto che sia uguale o anche superiore a voi per intelligenza, inventate
quella cosa che chiamate intuito femminile.
È vero Susan, ma lasciami continuare.
Quando le parlò della voce di contralto di Jane, lei disse.
(01:14:36):
A volte è difficile scegliere fra il ribellarsi contro il sesso maschile o lasciare perdere
perché non ne vale la pena.
D'accordo, ma lasciami andare avanti.
Quando ebbe finito, Susan chiese.
Puoi cedermi il tuo ufficio per un paio d'ore?
Sì, ma...
Devo esaminare tutte le registrazioni, i documenti, la programmazione di Jane, le telefonate di
(01:15:01):
Madarian e i tuoi colloqui con quelli di Flagstaff.
Penso che mi possa servire quel bel telefono nuovo al laser e il tuo terminale del computer.
È possibile?
Naturalmente.
Bene, allora sgombra.
Non erano passati tre quarti d'ora che si avviò zoppicando alla porta.
(01:15:26):
L'aprì e fece chiamare Boggart.
Quando costui arrivò, era accompagnato da Robertson.
Entrarono e Susan salutò Robertson con scarso entusiasmo.
Boggart si sforzò di leggere le conclusioni sulla faccia di Susan, ma vedeva solo la faccia
di una vecchia arcigna che non aveva la minima intenzione di facilitargli le cose.
(01:15:46):
Eh, Susan, credi che si possa fare qualcosa?
Si azzardò a chiedere.
Oltre a quello che ho già fatto?
No, non c'è proprio niente.
Le labbra di Boggart si piegarono in una smorfia di delusione, ma Robertson chiese.
Che cosa hai già fatto, Susan?
La vecchia rispose.
(01:16:07):
Ho pensato un po', cosa che a quanto sembra non riesco a convincere nessun altro a fare.
Innanzitutto, ho pensato a Madarian.
Lo conoscevo bene, lo sapete.
Aveva un bel cervello, ma era estroverso in un modo eccessivamente irritante.
Pensavo che ti sarebbe piaciuto dopo aver sopportato me, Peter.
(01:16:29):
Boggart non riuscì a trattenersi dal dire.
Era un bel cambiamento.
E lui correva sempre a riferirti i risultati appena li aveva ottenuti.
Non è così?
Si, infatti.
E tuttavia, il suo ultimo messaggio, quello in cui ti comunicava che Jane gli aveva dato
la risposta, lo ha trasmesso dall'aereo.
(01:16:51):
Come mai ha aspettato tanto?
Perché non ti ha chiamato da Flagstaff subito dopo che Jane gli ha detto… quello che gli
ha detto?
Immagino che una volta tanto avesse sentito il bisogno di fare un controllo radicale e…
beh, non lo so.
Era la cosa più importante che gli fosse mai successa.
(01:17:12):
Può darsi che una volta tanto avesse sentito il bisogno di aspettare di essere sicuro al
cento per cento.
Al contrario, quanto più importante era la notizia, tanto meno avrebbe aspettato.
Ne sono sicurissima.
E se fosse riuscito a trattenersi, perché non avrebbe aspettato a parlare dopo essere
(01:17:33):
arrivato qui, in modo da poter controllare il risultato con tutte le attrezzature di calcolo
che questa azienda poteva mettergli a disposizione?
Per farla breve, da un punto di vista, ha aspettato troppo, e non abbastanza da un altro.
Robertson la interruppe.
Allora credi che avesse scoperto qualche intrigo?
(01:17:55):
Con aria disgustata, Susan lo interruppe dicendo.
Non fare, a gara con Peter, non fare osservazioni cretine.
Lasciami continuare.
Il secondo punto riguarda il testimonio.
Secondo la registrazione dell'ultima chiamata, Madarian ha detto, quel povero diavolo è
(01:18:16):
sobbalzato per lo sballordimento quando Jane, di punto in bianco, ha cominciato a snocciolare
la risposta con quella sua stupenda voce.
Queste sono le sue ultime parole, e allora dobbiamo chiederci, perché il testimonio
ha fatto un salto?
Madarian ha spiegato che tutti impazzivano per quella voce, avevano passato dieci giorni
(01:18:36):
con il robot.
Con Jane.
Perché il semplice fatto che si era messa a parlare dovrebbe averli sballorditi a tal
punto?
Penso che sia stata la meraviglia nel sentire Jane esporre la soluzione di un problema che
aveva fatto impazzire i planetologi per quasi un secolo.
Ma quella era proprio la risposta che si aspettavano da lei?
(01:18:59):
Era andata a Flagstaff per quello?
Inoltre, notate come si è espresso Madarian?
Dice che l'uomo è sobbalzato per lo sballordimento, non per la meraviglia, se notate la differenza.
Inoltre, la reazione è avvenuta quando Jane ha cominciato, di punto in bianco, in altre
parole, appena si è messa a parlare.
(01:19:20):
Se l'uomo fosse rimasto meravigliato per il contenuto del discorso di Jane, avrebbe
dovuto ascoltarla e capire quello che diceva.
E quindi Madarian avrebbe detto che aveva fatto un salto dopo averla sentita parlare.
Dopo.
Non quando.
E non avrebbe detto, di punto in bianco.
Non credo che si debba arzigogolare sull'uso di questa o di quella parola, obiettò con
(01:19:45):
un certo disagio Boggart.
E invece io posso, ribatteggiali da Susan, perché sono un robo psicologo e posso presumere
che anche Madarian seguisse lo stesso modo di ragionare in quanto era anche lui un robo
psicologo.
Dobbiamo quindi spiegarci queste due anomalie, lo strano ritardo di Madarian nel chiamare
(01:20:08):
e la strana reazione del testimone.
E tu sei in grado di spiegarle?
Naturalmente, rispose Susan.
Dal momento che mi servo della logica.
Madarian non ha tardato a comunicare le novità o al massimo ha tardato perché non poteva
telefonare prima.
Se Jane avesse risolto il problema a Flagstaff, avrebbe sicuramente chiamato da là.
(01:20:32):
Siccome invece ha chiamato dall'aereo, significa che Jane aveva risolto il problema sicuramente
dopo aver lasciato Flagstaff.
Ma allora…
Lasciami finire.
Lasciami finire.
Madarian non è stato portato dall'aeroporto a Flagstaff in un camion chiuso e Jane era
nella cassa?
Sì.
E immagino che saranno tornati da Flagstaff all'aeroporto con lo stesso mezzo, no?
(01:20:57):
Certo, naturalmente.
E non erano soli nel camion, vero?
In una delle sue telefonate, Madarian ha detto, siamo stati portati dall'aeroporto a Flagstaff.
Immagino di avere buoni motivi per dedurre che se erano stati portati, significa che al
volante del camion c'era un autista.
Santo Dio.
Il guaio con te, Peter, è che quando pensi al testimonio di una dichiarazione planetologica,
(01:21:22):
pensi a un planetologo.
Tu dividi gli esseri umani in categorie, la maggior parte delle quali disprezzi senza
nemmeno prenderle in considerazione.
Un robot non può comportarsi così.
La prima legge dice che un robot non può arrecare danno a un essere umano né può
permettere che, a causa del suo mancato intervento, un essere umano riceva danno.
(01:21:46):
Qualsiasi essere umano.
Questa è, in sostanza, la base del comportamento dei robot.
Un robot non fa distinzioni.
Per un robot, tutti gli uomini sono veramente uguali e anche per un robot psicologo che,
per deformazione professionale, tratta gli uomini a livello robotico.
Tutti gli uomini sono veramente uguali.
(01:22:09):
A Madarian non sarebbe venuto in mente di precisare che era stato l'autista a sentire
parlare Jane.
Per te un camionista non è uno scienziato, ma una semplice appendice animata del veicolo.
Per Madarian, invece, era un uomo e un testimonio.
Niente di più, niente di meno.
Bogert scosse la testa in credulo.
(01:22:31):
Ne sei proprio sicura?
Certo che ne sono sicura.
In quale altro modo, se no, puoi spiegare il secondo punto, la frase di Madarian circa
la sorpresa del testimonio?
Jane era chiusa nella cassa, no?
Ma non era disattivata.
Secondo le registrazioni, Madarian era rigorosamente contrario alla disattivazione di un robot intuitivo.
(01:22:53):
Inoltre, Jane 5, come i prototipi che l'avevano preceduta, era estremamente laconica.
Probabilmente Madarian non aveva pensato di ordinarle di starse nezzitta quando era chiusa
nella cassa, ed è stato proprio dentro la cassa che i pezzi del mosaico sono andati
finalmente a posto.
E allora, logicamente, il robot ha cominciato a parlare.
(01:23:16):
Improvvisamente, dall'interno della cassa è scaturita una bella voce di contralto.
E se tu fossi stato il camionista, cosa avresti fatto?
Certamente saresti rimasto sbalordito.
È un caso che non abbia provocato un incidente.
Ma se il testimonio era l'autista, perché non si è fatto vivo prima?
(01:23:38):
Perché?
Come faceva a sapere che era successa una cosa decisiva e che quello che aveva sentito
era importante?
Inoltre, non pensi che Madarian possa avergli dato una grossa mancia perché non riferisse
quello che aveva sentito?
Avresti voluto che si espargesse la notizia che un robot attivato veniva trasportato illegalmente
(01:23:58):
da un posto all'altro della Terra?
D'accordo, ma quel tizio ricorderà quello che ha sentito?
Perché no?
A te che consideri un camionista un gradino sopra alle scimmie potrà sembrare strano
che sia capace di ricordare.
Ma anche i camionisti hanno un cervello, sai?
Le dichiarazioni di Jane erano palesemente importanti ed è facile che se le ricordi.
(01:24:20):
Anche se ricorda male qualche lettera o qualche cifra, si tratta di un argomento ben definito.
Lo sai?
I 1500 sistemi di stelle nell'ambito di un'ottantina di anni luce, mi pare.
È possibile fare le scelte giuste e se sarà necessario si potrà ricorrere alla psicosonda.
I due uomini la fissarono con gli occhi sgranati.
(01:24:43):
Infine, Bogart, ancora incredulo, sussurrò.
Ma come fai a esserne certa?
Per un momento, Susan fu lì lì per rispondergli.
Perché ho telefonato a Flagstaff, stupido?
È perché ho parlato con l'audista che mi ha riferito quello che aveva sentito.
Perché ho controllato con il calcolatore di Flagstaff e ne ho ricavato le sole tre
(01:25:05):
stelle che corrispondono alle affermazioni di Jane.
È perché ho in tasca i nomi di queste stelle.
Ma non disse niente di tutto questo.
Lascia che si arrangino.
Si alzò con cautela e disse sardonicamente.
Mi chiedi come faccio a esserne certa?
Chiamalo intuito femminile.
(01:25:31):
Asimov ha scritto tanti racconti e romanzi su robot e intelligenze artificiali, e spesso
le sue previsioni, la sua fantascienza, non si è poi rivelata così distante dalla realtà.
È stato così anche nel caso di questo racconto.
Innanzitutto ha predetto il fatto che la IA sarebbe potuta essere in qualche modo creativa
(01:25:53):
e sarebbe potuta addirittura esserlo più dell'essere umano, almeno di alcuni esseri
umani.
Poi ha intuito che l'umanizzazione di queste macchine sarebbe stato un rimaldello utile
ad inserirle facilmente nella società civile e farle apprezzare particolarmente alle persone
comuni, ai non addetti ai lavori.
(01:26:13):
E infine ha illustrato i limiti che tali strumenti statistici avrebbero avuto, dall'insondabilità
del processo alla non riproducibilità del risultato.
In ogni caso, i modelli di Machine Learning sono ormai una realtà alla portata di tutti,
sono qui per restare e certamente non potranno che migliorare col tempo sotto ogni aspetto.
(01:26:36):
Ciò vuol dire che diventeranno più intelligenti degli esseri umani?
Questo io non lo so, non ho né le conoscenze né le competenze per dirlo, anche se, almeno
per ora, non ci scommetterei.
L'intelligenza artificiale può essere creativa o meno e intelligente o meno a seconda di
come intendiamo la creatività e l'intelligenza, e per come la vedo io, l'intelligenza si misura
(01:27:01):
nei suoi picchi e così dovrebbe essere anche per la creatività.
La stampa a caratteri mobili, o internet, o la Divina Commedia, o la Quinta di Beethoven
non sono certo frutto di un ingegno o di una creatività mediocre, ma sono la manifestazione
della sua massima espressione.
Negli studi di cui abbiamo parlato, in particolare quelli in cui i modelli generativi sono stati
(01:27:24):
usati dagli scrittori per produrre una serie di storie, è stato evidenziato che i benefici
ricevuti da vari soggetti sono stati piuttosto impari.
Gli autori meno creativi hanno tratto maggior giovamento dall'uso degli LLM, mentre quelli
già intrinsecamente creativi non hanno avuto alcun vantaggio.
Per contro, però, le storie generate con l'aiuto della IA sono risultate tutte molto simili
(01:27:51):
in termini di semantica e contenuto, nonché piene di frasi molto lunghe e di stereotipi.
E soprattutto sono risultate molto più simili tra loro rispetto a quelle scritte dagli esseri
umani da soli.
In altre parole, questi risultati indicano un aumento della creatività individuale, ma
anche il rischio di una perdita di varietà collettiva.
(01:28:13):
E questo potrebbe essere il più grande limite dei grandi modelli generativi.
Un aspetto molto importante per lo sviluppo di queste IA, infatti, sono le fonti di enormi
quantità di dati con le quali vengono allenate.
Questi dati sono stati essenzialmente messi insieme dall'umanità nel corso dei secoli.
(01:28:35):
Se a causa dell'impiego dell'IA la qualità delle informazioni diminuisce, secondo me
diminuirà anche di pari passo la qualità dei modelli risultanti dall'allenamento fatto
su tali fonti.
Al momento, l'unica riserva di dati abbastanza grande da essere utilizzata per creare modelli
sempre più potenti e con sempre più parametri è Internet, che ogni anno cresce in modo
(01:28:59):
esponenziale, ma c'è un problema.
Non so se te ne sei reso conto anche tu, ma dopo una manciata di mesi dal boom dell'IA
generativa, il web è letteralmente invaso da pagine chiaramente create tramite l'utilizzo
di LLM.
A me capita sempre più spesso che le ricerche online portino a pagine con testi artificiosamente
(01:29:22):
lunghi che non arrivano mai al punto, con errori logici e frasi a volte sconclusionate.
In pratica, l'IA, o meglio, l'utilizzo che se ne sta facendo, sta avvelenando il pozzo
stesso al quale le future IA si abbevereranno.
E se da un lato aumentano i contenuti appositamente realizzati, dall'altro si diluiscono i contenuti
(01:29:44):
originali prodotti dall'ingegno umano, che sono poi quelli che servono effettivamente
per far progredire i sistemi.
Questo fenomeno decreterà un nuovo stop nella crescita dell'IA, un nuovo inverno.
La verità è che, per usare le parole del filosofo Yuval Noah Harari, per ora abbiamo
(01:30:05):
evocato un'intelligenza aliena di cui sappiamo molto poco.
Ad essere sinceri però, almeno al momento, questa intelligenza sembra non essere in grado
di fare in autonomia quello che hanno fatto alcuni esponenti dell'umanità.
Anzi, in effetti, in autonomia non è in grado di fare proprio nulla.
A volerci riflettere bene, infatti, tutte le sue conquiste, anche quelle di cui abbiamo
(01:30:29):
parlato oggi e in altri episodi, non sono state conseguite dall'IA, ma dai ricercatori
che l'hanno utilizzata.
In altre parole, il machine learning non è la mente, ma lo strumento utilizzato dallo
scienziato, dall'inventore o dall'autore.
Secondo il più famoso campione di scacchi di tutti i tempi, Garry Kasparov, l'intelligenza
(01:30:52):
artificiale è uno strumento del quale non potremo e non dovremo fare a meno, ma che
dovremo utilizzare con consapevolezza e saggezza.
Un uomo debole più una macchina più un processo migliore sono superiori a una macchina
molto più potente lasciata da sola e, soprattutto, a un uomo forte con una macchina e un processo
(01:31:14):
inferiore.
Ed eccoci giunti alla fine di questo lunghissimo episodio, spero sia stato di tuo gradimento.
Ci è voluto un po' per pubblicarlo, lo so, ma tra la lunghezza, la quantità di fonti
che ho dovuto studiare, il tempo per riorganizzare il tutto, varie settimane per scriverlo e
(01:31:38):
un paio per registrarlo, poi è un periodo di lavoro assurdamente intenso, quindi meglio
di così non potevo fare.
Detto ciò, un super grazie va a Rosanna Lia che ha interpretato sia Jane che la dottoressa
Susan Calvin e ad Alex Racuglia che ha interpretato Garry Kasparov.
Tu ormai dovresti conoscerli perché sono già stati i nostri ospiti, ma in ogni caso
(01:32:02):
ti lascio i link ai loro progetti in descrizione, vai a dare un'occhiata perché se ami i contenuti
audio troverai pane per i tuoi denti.
Rosanna ha letto una montagna di audiolibri, mentre Alex conduce podcast che spaziano dall'informatica
alla musica e al vino da più di 10 anni.
Prima di chiudere, spero velocemente perché sono abbastanza provato, ti ricordo al volo
(01:32:26):
il concetto di Value for Value.
Pensieri in codice è un progetto che porto avanti nel mio tempo libero.
Non mi interessa usarlo per guadagnare soldi, non mi è mai interessato, onestamente però
ci investo davvero tante risorse.
Per questo motivo sarei felice se tu che lo ascolti, magari da tanto tempo, volessi restituire
(01:32:49):
un po' del valore che senti di ricevere da questo podcast.
I modi per farlo sono tre.
Dedicargli un po' del tuo tempo, magari condividendolo con amici e lasciando una recensione su Apple
Podcast, facendolo ascoltare allo zio e robe così.
Dedicargli un po' del tuo talento, per esempio prendendoti in carico della gestione di una
(01:33:12):
pagina social o aiutandomi con la scrittura di episodi.
O suggerisci direttamente tu la tua idea e la valutiamo insieme.
E infine, ma solo infine, puoi fare una donazione o usare i link affiliati per iscriverti ai
vari servizi o acquistare su Amazon.
Decidi tu, con la massima libertà.
(01:33:33):
In ogni caso, io ti ringrazio già solo perché ascolti.
E in più ringrazio i soliti Edoardo e Carlo, donatori mensili da ormai più di un anno,
a cui oggi si aggiungono Domenico e Marco, con la loro donazione Spot, e XCreeX85, che
ha lasciato una recensione a 5 stelle su Apple Podcast con scritto
(01:33:56):
«Interessante e stimolante podcast racconta ragionamenti complessi in linguaggio semplice
e chiaro».
Grazie XCreeX85, mi fa molto piacere avere la conferma perché questo è proprio uno degli
obiettivi che mi sono prefisso.
Infine, ti ricordo che sul sito pensieriincodice.it trovi le informazioni, i contatti, i metodi
(01:34:18):
per contribuire e tutto il resto.
Spero prossimamente di avere il tempo di scrivere un articolo specifico sul value for value
che anzi potresti scrivere tu, eh?
Blink blink?
Blink blink è la mia onomatopeica per l'occhiolino che per ovvie ragioni nel podcast non viene
benissimo.
E... niente, sono distrutto.
(01:34:41):
Basta!
Noi ci sentiamo al prossimo episodio e, mi raccomando, non dimenticare mai che un informatico
risolve problemi, a volte, anche usando il computer.