Democracy by default, tecnologie (e tecnologi) a lezioni di politica

Non è un episodio di Black Mirror. Quello descritta nel libro “The Game Reality” di Samuel Wooley è un sistema di “sistematica” falsificazione dei flussi di informazione che percorrono la Rete. Molto reale, anzi realissimo. Professore di giornalismo all'Università del Texas ad Austin dal 2013 studia la disinformazione online ha raccolto una incredibile serie di esempi di tecniche e tecnologie che «stanno spezzando la verità». La categoria del vero è forte e forse andrebbe lasciata nelle aule di filosofia ma rende bene l’idea. Anche perché in questi anni qualcosa si è davvero spezzato. Secondo l’ultimo rapporto pubblicato dal Reuters Institute la fiducia nelle notizie è diminuita di due punti percentuali in tutti i mercati, passando dal 44 al 42 percento. Sui social addirittura crolla per atterrare intorno a quota 23 per cento.

L e fake news però sono solo la punta dell’iceberg.
Dentro a quella che Wooley definisce propaganda computazionale convergono vecchi metodi e nuovi strumenti come nel caso della manipolazione dei video attraverso l’intelligenza artificiale. La diffusione di questi tool sta diventando massiva. Secondo indiscrezioni di qualche giorno fa, rilanciate dalla rivista Techcrunch, anche la popolarissima piattaforma di video sharing TikTok starebbe realizzando un generatore di deepfake. In parallelo le grandi aziende tecnologiche si stanno impegnando per combattere il fenomeno. Amazon, Facebook e Microsoft hanno messo insieme una 'Deepfake Detection Challenge', mentre Google ha condiviso un database contenente diversi filmati deepfake allo scopo di allenare i meccanismi di image recognition a smascherare i video contraffatti. Sul riconoscimento dell’immagine insomma si sono mossi non solo gli attori che di mestiere scrivono software e progettano tecnologie per il grande pubblico.

L’Ai sul banco degli imputati.
Dal primo gennaio di quest’anno la Cina attraverso la Cyberspace Administration of China (CAC) ha vietato la pubblicazione e distribuzione di false notizie online create con sistemi di intelligenza artificiale. Secondo quanto risulta a Reuters, ogni contenuto che sia prodotto con sistemi a base di intelligenza artificiale dovrà essere presentato in modo da informarne chiaramente il pubblico. Il New York Times nei giorni scorsi ha pubblicato una inchiesta su una startup relativamente sconosciuta che avrebbbe rastrellato 3 miliardi di immagini dai social. Clearview AI ha sede a New York ed è stata creata da Peter Thiel, già cofondatore di PayPal e finanziatore di Facebook. Offre servizi di riconoscimento facciale a più di 600 forze dell'ordine statunitensi. Sarebbe in grado di confrontare le foto caricate e prese da telecamere pubbliche con quelle presenti nel suo sconfinato database. Non è chiaro se le immagini siano state raccolte violando norme d'uso dei siti su cui sono caricate (ad es. Facebook). Ma è chiarissimo che occorre una regolamentazione. I primi a chiederlo sono proprio le piattaforme digitali che organizzano grandi moli di dati come ha scritto ieri s ul Financial Times Sundar Pichai, il numero uno di Google. Ma anche le istituzioni si stanno attrezzando per capire quali misure usare per governare lo sviluppo di queste tecnologie.

Il divieto dell’Ue all’uso del riconoscimento facciale.
Secondo Politico e Reuters, l'Unione Europea potrebbe vietare l'uso del riconoscimento facciale per tre o cinque anni. «L'uso di tecnologie di riconoscimento facciale da parte del settore pubblico o da quello privato dovrebbe essere vietata per un periodo di tempo (da tre a cinque anni), durante il quale una metodologia per valutare l'impatto di queste tecnologie e possibili misure per mitigare i rischi possano essere identificate e sviluppate». Questo passaggio sarebbe contenuto nella bozza di ‘Libro bianco' della Commissione europea sull'Intelligenza artificiale. Il testo, che dovrebbe essere presentato a fine febbraio, è il risultato della discussione pubblica su come affrontare le sfide poste da questa tecnologia nel suo insieme. L’arrivo del libro bianco però appare tardivo. Di fatto, sono numerosi i progetti e le iniziative che in tutta Europa hanno al centro tecnologie in grado di riconoscere i volti: queste vanno dal contrasto alla criminalità fino al riconoscimento dei partecipanti durante gli eventi pubblici. Tuttavia i risultati sono spesso diversi dalle aspettative e numerosi studi hanno già dimostrato come gli algoritmi per il riconoscimento facciale non siano realmente efficienti, soprattutto quando si tratta di individuare potenziali criminali e prevenire il crimine.

CONSIGLI24

I migliori consigli su prodotti di tecnologia, moda, casa, cucina e tempo libero

Scopri di più

Libri

Intelligenza artificiale

Scopri di più

L’Ai è una tecnologia politica. Oltre a non essere efficienti a volte riflettono pregiudizi di chi ha scritto le regole. La messa a punto di un algoritmo per compiere un determinato lavoro è soggetta a bias, ossia a una possibile distorsione cognitiva da parte di chi lo elabora nel giudicare il mondo, gli altri e tutto il contorno. In questo senso l’Ai in quanto prodotto di criteri e regole umane è un oggetto politico a tutti gli effetti che non può essere affidato esclusivamente ai produttori di algoritmi e ai detentori di dati. Il problema con Facebook e Twitter, scrive Wooley, è che non sono stati progettati pensando alla democrazia e ai diritti umani. Secondo lo scrittore serve progettare con l’aiuto di università e istituzioni sistemi democratici by default, come è avvenuto per la privacy. Vuole dire pensare ai problemi che potrebbero sorgere con le tecnologie come se fossero un bene pubblico. E poi, scrive su l’Observer , «dobbiamo sostenere il giornalismo. Molte persone trattano il giornalismo come se fosse rotto e necessitasse di essere ricreato, ma sta già facendo un ottimo lavoro nel rispondere alla minaccia attuale».