La convergenza fragile dei sistemi digitali e le opportunità del futuro

Mentre ci si interroga su quale sia il peso della guerra cyber nel conflitto tra Russia e Ucraina, basterebbe fare un piccolo sforzo di astrazione e proiettare in un futuro non molto lontano quello che vediamo a trarne una debita conclusione. Facciamo un passo alla volta e diamo uno sguardo a quale sarà il nostro radioso futuro grazie alle tecnologie dell’informazione. Con diverse velocità, tutti i Paesi del mondo sono proiettati verso la digital transformation , termine vago e utilizzato in maniera ondivaga. Forse sarebbe più comprensibile se si parlasse di grande convergenza, ovvero quel processo che progressivamente interconnetterà tutte le tecnologie digitali. In effetti esse sono più numerose di quanto si possa pensare e per anni sono state separate, alcune completamente altre meno. L’esempio più evidente riguarda il mondo IT, a cui appartengono software e hardware che la stragrande maggioranza delle persone utilizza per lavorare, e quello OT (Operational Technology), che comprende i sistemi industriali destinati a gestire milioni di macchinari e strutture compresi acquedotti, reti elettriche, impianti ferroviari. Un terzo ambito è l’Internet delle Cose, diciamo quelle più piccole: dalle prese elettriche ai termostati di casa per arrivare fino ai dispositivi di quella che si chiama telemedicina. Si tratta di una quantità enorme di oggetti (in Italia sono circa 95 milioni) accomunati tutti dall’aggettivo “smart”. L’obiettivo è l’integrazione di tutte queste tecnologie per raggiungere livelli di servizio e di efficienza impensabili.

L’unico problema è la quantità di dati che verrà generata dall’insieme di tutti questi sistemi. Non esistono stime, ma se nel 2021 l’umanità ha maneggiato 74 zettabyte di dati (mettete 21 zeri a seguire il 74), alla fine saranno di certo molti di più e questi saranno i veri “big data”. Gli esseri umani non sono in grado di organizzare e tanto meno comprendere e di conseguenza decidere se messi di fronte a una simile quantità di informazioni.

Ecco, alla fine, che giunge l’ultima e forse più potente delle tecnologie: l’intelligenza artificiale, sistemi specializzati e addestrati a gestire enormi basi dati per estrarre conoscenza e quindi suggerire la giusta decisione. Ecco la grande convergenza, e la sua apoteosi sarà rappresentata dalla Smart City.

La descrivo con una piccola storia ambientata in un prossimo futuro. Un uomo cammina per strada, non è giovanissimo e un sensore monitora il suo cuore e i dati vengono trasmessi a una app sul suo smartphone che li invia in ospedale, dove un algoritmo intelligente li riceve e sulla base del suo addestramento decide che entro 20 minuti con un 95% di probabilità avrà un infarto. L’informazione viene trasferita alle emergenze dove un’altra intelligenza artificiale individua il mezzo di soccorso che nel minor tempo possibile lo raggiungerà. Nello stesso momento altri sistemi scelgono l’ospedale dove ricoverarlo, predispongono per l’arrivo. Non solo: l’uomo ha un figlio ed è single: viene allertata la scuola perché il genitore non lo andrà a prendere e la segnalazione arriva anche al datore di lavoro in modo che possa organizzarsi. L’ambulanza lo preleva in 7 minuti, al minuto 12 è in ospedale e al minuto 15 in sala operatoria. L’uomo non si ricorderà nemmeno di avere avuto un infarto; in effetti era già sotto anestesia e forse nemmeno si è verificato. Sfortunatamente la perfezione non è di questo mondo e laddove esistono straordinarie opportunità, con esse convivono rischi di analoga dimensione.

Ogni singolo sistema tecnologico che ho citato presenta dei punti deboli. I sistemi OT hanno cicli di vita molto lunghi, spesso pluridecennali: questo significa che i software che li supportano sono obsoleti e presentano delle vulnerabilità note che non saranno mai corrette. Una volta connessi a Internet saranno raggiungibili attraverso i sistemi IT, esponendo le loro debolezze potenzialmente a chiunque. Il mondo dell’Internet delle Cose è già popolato da svariati miliardi di oggetti, il più delle volte connessi in rete senza alcun tipo di autenticazione. Allo stato attuale la gestione dei dispositivi domestici è affidata nella maggior parte dei casi ai singoli cittadini che dovranno occuparsi anche degli aspetti di sicurezza. A tutto questo aggiungiamo l’intelligenza artificiale la cui fragilità è pari alla sua potenza. È stato dimostrato che modifiche nelle basi dati con cui vengono addestrate oppure nei dati di input le inducono a commettere errori molto grandi. Nel 2015 un gruppo di ricercatori di Google e della New York University ha inserito delle piccolissime alterazioni nella fotografia di un panda, impercettibili per l’occhio umano, per poi sottoporla a un sistema specializzato nel riconoscimento delle immagini. L’IA ha affermato che la figura ritraeva un gibbone con una probabilità del 99,3 per cento. Nel 2021 un gruppo di ricercatori internazionale ha pubblicato uno studio sul tema dell’inquinamento dei dataset di addestramento. In uno dei casi presi in esame l’obiettivo era colpire un algoritmo di machine learning che aveva il compito di definire i dosaggi di un farmaco. In conseguenza delle alterazioni introdotte, la metà dei pazienti si sarebbe vista prescrivere una quantità di medicinale modificata del 139 per cento. L’accessibilità dei sistemi, la complessità gestita da molteplici intelligenze artificiali specializzate che dialogheranno tra loro e l’insieme delle diverse debolezze di ognuna delle tecnologie produrranno una moltiplicazione e dilatazione dei rischi proporzionale alle opportunità. Se c’è del vero nell’affermazione che le auto a guida autonoma potrebbero quasi azzerare gli incidenti stradali, altrettanta verità vi è nella considerazione per cui un malware inserito nei sistemi di aggiornamento delle autovetture smart potrebbe causarne in dieci secondi centinaia di migliaia. Ora possiamo trarre almeno quella conclusione di cui scrivevamo al principio ponendoci una domanda: per colpire una smart city saranno più efficaci ed efficienti i missili o i virus informatici? E se fosse vera le seconda: non sarebbe utili iniziare a concepire una security transformation? Questa potrebbe essere la vera sfida del prossimo decennio, resa ancora più complicata dal fatto che un mondo digitalmente trasformato sarà per gli esseri umani imprevedibile tanto quanto lo era in passato il clima. Così come nel 1972 Edward Lorenz si domandava: «Può il batter d’ali di una farfalla in Brasile provocare un tornado in Texas?»; forse domani ci dovremo chiedere: «Può il malfunzionamento di un semaforo a Singapore causare un black out a Londra»?