MIND THE ECONOMY

Perché in un mondo popolato dai robot saremo ospiti sgraditi?

Per un robot è più semplice interagire con un altro robot che con un essere umano. Per un'auto a guida autonoma è più semplice muoversi in strade percorse da auto simili, invece che da auto a guida umana. Una semplice constatazione che ci fa intuire, però, quali incentivi opereranno sempre più nel prossimo futuro nei campi della robotica sociale

di Vittorio Pelligra


default onloading pic
(Marka)

9' di lettura

Per un robot è più semplice interagire con un altro robot che con un essere umano. Per un trader artificiale scambiare azioni e titoli in un mercato popolato da altri trader artificiali è più semplice che operare in un mercato popolato da agenti in carne ed ossa. Per un'auto a guida autonoma è più semplice muoversi in strade percorse da auto simili, invece che da auto a guida umana.

Una semplice constatazione che ci fa intuire, però, quali incentivi operano e opereranno sempre più nel prossimo futuro nei campi della robotica sociale e della vita sintetica in generale. Quali pressioni e quali direzioni determinano questi incentivi e, di conseguenza, quali saranno le tendenze nell'evoluzione di questi mercati? Creare ambienti che minimizzano l'intervento umano e possibilmente anche la sua presenza. In un mondo in cui cresce lo spazio di azione delle macchine “intelligenti”, noi umani saremo sempre più ospiti sgraditi.

Robot ama robot

Partiamo dalla premessa. Perché robot ama robot e algoritmi altri algoritmi? Perché un mondo popolato da macchine complicatissime diventa, paradossalmente, un mondo semplicissimo per loro. Nel 1936 il grande economista John Maynard Keynes pubblica la sua “Teoria Generale”, un libro rivoluzionario e la cui influenza sul pensiero economico successivo difficilmente potrebbe essere sopravvalutata. Nel capitolo 12, per illustrare il funzionamento dei mercati finanziari, Keynes introduce l'esempio del “beauty contest”: immaginate un concorso nel concorso. Ogni settimana vengono pubblicate delle foto di ragazze in un giornale nazionale. Queste ragazze vengono votate dai lettori per la loro bellezza. Vincerà sia la ragazza più votata, che quei lettori che avranno indovinato chi sarà la più votata. A questo punto, per poter vincere, non sarà tanto necessario scegliere la ragazza più bella, ma quella che tutti gli altri partecipanti riterranno la più bella, tenendo conto che questa valutazione da parte di ogni altro partecipante, sarà influenzata da ciò che loro pensano che tutti gli altri penseranno.

Ecco che il criterio oggettivo della bellezza della ragazza esce fuori dal gioco, per lasciare spazio a congetture, su congetture, su congetture. Una versione moderna del beauty contest viene oggi utilizzata dagli economisti comportamentali per studiare e misurare la profondità del pensiero strategico. Immaginate di partecipare ad un beauty contest nel quale occorre scegliere un numero tra 0 e 100, sapendo che il vincitore sarà colui, tra tutti i partecipanti, che avrà scelto il numero più vicino ai due terzi della media di tutti i numeri scelti. Cosa scegliereste? La teoria dei giochi ci suggerisce un modo efficace per risolvere il problema.

Bolle speculative, crolli repentini, ricchezze che spuntano dal nulla e che, così come sono arrivate, spariscono. Ci sono molti più cigni neri al mondo di quanto siamo disposti ad ammettere

Funziona per passi interati. Prima passo: cosa succederebbe se tutti i partecipanti, tranne voi, scegliessero il numero più alto possibile, cioè 100? La media dei numeri sarebbe 100 e, per poter vincere, voi dovreste scegliere i due terzi di 100 e cioè circa 66,6. Ciò significa che nessun numero superiore a 66,6 potrà mai essere il numero vincente e, quindi, che nessun giocatore razionale lo sceglierà. Secondo passo: dato che il numero più alto ragionevolmente selezionabile, ora, è 66,6, quale sarebbe il numero vincente se tutti scegliessero il numero più alto tra quelli razionalmente selezionabili? Ma 44,4 naturalmente; i due terzi di 66,6. Ne consegue che nessuno sceglierebbe mai un numero superiore a questo, perché, nessun numero superiore a 44,4 potrebbe, naturalmente, essere il numero vincente.

Razionale chiama razionale

Ripetendo questo ragionamento di “eliminazione iterata delle strategie dominate”, si giunge alla soluzione: il numero vincente è zero. Tutti i giocatori razionali lo sceglieranno e tutti vinceranno, anche se, per questo, saranno costretti a dividersi il premio. Chiaro no?!? La soluzione si basa su tre premesse: i partecipanti sono razionali; nessun giocatore razionale sceglierà un numero perdente con certezza; tutti sanno che tutti sono razionali. Quest'ultima premessa, in particolare, è molto interessante. È quella che definisce la cosiddetta “conoscenza comune della razionalità” (common knowledge of rationality) e che postula che, per risolvere una situazione strategica, non solo è necessario che tutti siano razionali, ma anche che tutti sappiano che gli altri sono razionali e che tutti sappiano che gli altri sanno che sono razionali e così via, all'infinito.

Questo requisito informativo così complicato, in realtà, serve a semplificare la situazione. Perché, se io so che tu sei razionale, sarò in grado di prevedere il tuo comportamento in misura maggiore di quanto non sarei in grado di fare se posto di fronte ad un agire del tutto erratico. Ma siccome il tuo comportamento razionale dipende dal mio comportamento, perché il numero vincente viene determinato dalle scelte di tutti gli altri giocatori, allora per comprendere ed anticipare le tue scelte razionali, io devo assumere che tu ti stia comportando tenendo conto del mio comportamento razionale. E così via. Solo se la razionalità è common knowledge, allora la situazione avrà uno sbocco prevedibile.

Ma cosa succede in realtà? Quando questo gioco viene fatto giocare in laboratorio a soggetti incentivati con denaro e in condizioni di anonimato, quello che tipicamente si osserva è che la distribuzione dei numeri scelti presenta un picco intorno al 30 e che la maggior parte delle scelte si addensano intorno al numero 20. (Nagel, R., 1995. Unraveling in Guessing Games: An Experimental Study”. American Economic Review. 85 (5): 1313–1326).

Quale tipo di ragionamento sta alla base di questi risultati? La maggior parte dei partecipanti, lungi dall'assumere che gli altri siano razionali, pensano, anzi, che i loro avversari sceglieranno in maniera totalmente casuale, determinando quindi una media pari a 50. Per vincere in questa situazione, quindi, molti scelgono i due terzi di 50 e quindi 33,3. I più previdenti anticipano questa scelta e fanno un salto strategico ulteriore, scegliendo i due terzi di 33,3 e cioè 22,2. Ecco che si spiegano i due picchi. Ci sono, dunque, quelli che scelgono in maniera casuale (livello-0), poi ci sono quelli che cercano di battere questi ultimi (livello-1) e poi ci sono quelli che cercano di battere anche questi (livello-2).

Raramente riusciamo ad andare oltre il livello 2 o 3 di pensiero strategico, ma, in ogni caso, mai ci comportiamo come richiede la teoria dell'equilibrio, facendo, cioè, un numero infinito di questi passi. È interessante notare che un giocatore razionale che assumesse di avere a che fare con altri giocatori razionali, mentre invece si trova circondato da giocatori non-razionali, non sarebbe mai in grado di vincere. Ecco perché anche i giocatori razionali sono spinti a comportarsi in maniera non-razionale. Ecco perché, tornando ai mercati finanziari di Keynes, anche un trader razionale, spesso è indotto a comportarsi in maniera non-razionale. Ecco perché, ancora, è così difficile evitare le bolle speculative. È la cosiddetta “greater fool theory”: c'è sempre qualcuno meno furbo (razionale) di te a cui vendere un titolo, una casa, un bulbo di tulipano, sopravvalutato. Per questo, oggi, è razionale acquistarlo anche sapendo che quel bene è sopravvalutato. Una gran confusione, insomma. Bolle speculative, crolli repentini, ricchezze che spuntano dal nulla e che, così come sono arrivate, spariscono. Ci sono molti più cigni neri al mondo di quanto siamo disposti ad ammettere.

Una possibile via d'uscita a questo stato di cose, nei mercati finanziari, così come in molti altri ambiti della vita sociale, è quella che prevede l'introduzione di massicce dosi di razionalità nel sistema, attraverso la sostituzione di agenti umani, non precisamente razionali, come abbiamo visto, con agenti artificiali, super razionali e, in questo senso, più affidabili. Così come i trader artificiali possono mitigare l'imprevedibilità delle scelte nei mercati finanziari e ridurre, in questo modo, la loro volatilità e il grado di incertezza, lo stesso può avvenire con le auto a guida autonoma. Se la difficoltà maggiore, al momento, con queste auto, è renderle capaci di prevedere le mosse intrinsecamente imprevedibili degli altri guidatori umani, per metterle nelle condizioni di reagire nel modo migliore nel minore tempo possibile, è pensabile eliminare alla radice questa difficoltà, attraverso una repentina sostituzione delle auto a guida umana con quelle a guida autonoma.

La common knowledge of rationality diventerebbe allora, proporzionalmente al numero di auto robot circolanti nello stesso momento, una assunzione realistica che potrebbe sostenere facilmente scelte razionali basate su previsioni di altre scelte razionali e, per questa via, il raggiungimento di un coordinamento efficiente e di un livello di sicurezza più che accettabile. Da una parte quindi, si più cercare di sviluppare una tecnologica complicatissima e sempre soggetta ad un rischio irriducibile, oppure eliminare quei fastidiosi, indisciplinati, imprevedibili guidatori umani.

I replicanti di Philip Dick

Mercati più efficienti, strade più sicure, chissà verso quali altre “magnifiche sorti e progressive” la graduale sostituzione dell'umano con l'automatico ci porterà nel prossimo futuro. Intendiamoci, io ogni mattina faccio colazione con un caffè prodotto da una moka che si accende da sola all'orario giusto, quindi l'automazione, dalla moka all'auto che si parcheggia da sola, dall'assistente vocale che mi chiama gli amici al telefono mentre sto guidando, fino ai suggerimenti per l'acquisto dei libri, che alimenta la mia bibliofilia compulsiva, mi piace, e molto. Ma qui il problema non è l'automazione, ma l'interazione. Le difficoltà vere non sono quelle legate alla creazione di macchine capaci di fare più cose e meglio di quanto non facciamo noi. Il problema vero è come queste macchine saranno programmate per interagire con noi.

Le strade aperte, al momento, sono molte. C'è chi ritiene che l'unico risultato che saremo in grado di ottenere sarà una capacità di imitazione dell'umano da parte delle macchine così sofisticata che, sfruttando anche la nostra spiccata tendenza ad antropomorfizzare l'inanimato, ce le farà apparire più vere del vero. Altri si spingono fino a preconizzare la possibilità di simulare una certa forma di consapevolezza attraverso la creazione di macchine capaci di “auto-narrarsi”, è la prospettiva della cosiddetta “robotica interna”, che immagina macchine simili ai replicanti di Philip K. Dick che, per apparire credibili agli umani, dovevano prima di tutto apparire credibili a sé stessi e, per questo, venivano forniti di ricordi artificiali. Comunque sia, è interessante notare che la sfida oggi si gioca non tanto sulle capacità del singolo agente artificiale, ma sul piano della relazione tra questo e l'ambiente, in particolare, tra l'agente artificiale e l'agente umano.

Di fronte a tali e tante difficoltà, la tentazione della scorciatoia è dietro l'angolo. Meno umani, più macchine. Meno umani nei posti che contano e più macchine che fanno cose con e per loro

La difficoltà principale connessa a questo aspetto è che, fin quando non avremo sviluppato una conoscenza profonda delle dinamiche interumane, della coscienza relazionale, della dimensione empatica e dello spazio condiviso nel quale opera la nostra intersoggettività, non saremo in grado di programmare macchine capaci di simulare o ricreare tali dinamiche, e, cioè, proprio quelle dinamiche di cui una efficace interazione uomo-macchina si nutre. Attenzione allora alle scorciatoie. Di fronte a tali e tante difficoltà, la tentazione della scorciatoia è dietro l'angolo. Meno umani, più macchine. Meno umani nei posti che contano e più macchine che fanno cose con e per loro. Ho recentemente avuto la fortuna di conosce due personaggi, molto diversi tra di loro, ma che allo stesso modo mi hanno aperto una nuova prospettiva al riguardo. Da una parte il filosofo Paul Dumouchel che, con Luisa Damiano, scrive: “Il problema non è tanto se dobbiamo lasciare che tali agenti autonomi decidano da soli (…) Il problema è piuttosto che poiché tali agenti autonomi sono, di fatto, cloni cognitivi, concentrano nelle mani di pochi – quelli che li fabbricano e quelli che li comandano – il privilegio di determinare le scelte che strutturano e orientano la nostra esistenza comune” (Vivere coi Robot. Saggio sull'empatia artificiale. Raffaello Cortina, 2019).

Qualche tempo dopo Dumouchel ho avuto l'opportunità di incontrare Federico Faggin, l'inventore del microchip e del touch screen, che oggi è un critico severo dell'espansionismo sociale, dei big della Silicon Valley, che pure conosce bene e al cui successo ha contribuito in modo non marginale. Faggin scrive nella sua autobiografia appena pubblicata: “Le strutture materiali create dall'uomo per rappresentare informazioni astratte non possono rappresentare l'informazione viva, che si esprime con simboli vivi e coerenti inseparabili dal loro significato e controllati da un sé dotato di libero arbitrio. Non c'è nulla di sbagliato nel far questo, purché non si creda che queste strutture possano essere consapevoli (…) Se pensiamo di essere solo macchine come i nostri computer ci abitueremo a esprimere principalmente simboli astratti che appartengono ad un mondo mentale falsificato e sempre più avulso dalla realtà pregna di significati della nostra consapevolezza. In questo caso la tecnologia diventerebbe un idolo che ci schiavizza – e, conclude Faggin – il pericolo è che gli esseri umani sostituiscano relazioni vere e profonde con relazioni virtuali e superficiali, diventando sempre più simili ai robot inconsapevoli che faranno sempre più parte del nostro futuro” (Silicio. Dall'invenzione del microprocessore alla nuova scienza della consapevolezza. Mondadori, 2019).

Se ci sia dietro un esplicito progetto dei big dell'intelligenza artificiale americani e cinesi o si tratti solo di un'infatuazione nietzscheana, tanto ingenua quanto profonda, per una meravigliosa tecnologia, al momento è difficile dirlo. Certo è che una prospettiva così rilevante che riguarda l'interazione profonda con macchine sempre più sofisticate e, alla fine, il nostro stesso posto di esseri umani in questo mondo, dovrebbe sempre più essere oggetto di dibattito pubblico, a tutti i livelli, dalle scuole ai parlamenti, nelle piazze virtuali e in quelle reali, perché gli interessi in campo sono rilevantissimi e le possibili conseguenze, per ciascuno di noi, epocali.

Brand connect

Loading...

Newsletter

Notizie e approfondimenti sugli avvenimenti politici, economici e finanziari.

Iscriviti
Loading...