Riumanizzare la macchina algoritmica

Il sintagma in sé potrebbe non piacere. Evoca un senso come di confinamento, reso anche inquietante dal genitivo, dall’oggetto che sembrerebbe subirlo: «riserva di umanità». Invece è il contrario.

Nel “giuridichese”, cioè nel tecnoletto usato dagli operatori del diritto, con riserva s’indica l’ambito di attività spettante solo a un determinato potere pubblico o a una specifica fonte dell’ordinamento: la legge, il provvedimento amministrativo, etc.

Se riferito, poi, all’umanità, quel lemma si carica di un significato molto diverso, e di recentissimo acquisto nella cultura giuridica globale: una sfera incomprimibile di appannaggio della persona umana che segna, per converso, i limiti entro cui è ammissibile il ricorso all’automazione nella formazione delle decisioni prese dai poteri sia privati, sia – e sopra tutto – pubblici. Pur essendo uno snodo fondamentale nella civiltà del XXI secolo, di questa «riserva di umanità» è ancora dubbia non solo l’estensione, ma anche l’esistenza: cosa sempre più preoccupante, poiché a questa lentezza nella costruzione di un diritto costituzionale digitale corrisponde l’accelerazione vertiginosa delle scienze e delle tecniche computazionali. Un contributo di rilievo per colmare questo divario è offerto dal volume di Giovanni Gallone, Riserva di umanità e funzioni amministrative. Indagine sui limiti dell’automazione decisionale tra procedimento e processo, con prefazione di uno dei massimi giuristi europei, Jean-Bernard Auby (Wolters Kluwer, 2023). Ne anticipo le conclusioni: la riserva di umanità non trova ancora un riconoscimento esplicito nell’ordinamento italiano (come pure negli altri). Ma la sua operatività può essere comunque ricavata dalla Costituzione, la quale – col garantire il diritto alla dignità umana – fonda su di un antropocentrismo personalistico declinato virtuosamente. Non strutturato, cioè, in senso aggressivo, come illegittima sopraffazione dell’umanità nei confronti della natura; ma, al contrario, articolato in senso difensivo, come protezione dell’essere senziente (anche non umano, vorrei affermare) dal dominio assoluto della macchina decidente algoritmica. Le conseguenze di questa impostazione di base sono importanti nella loro concretezza applicativa. Dall’insostituibilità dell’apporto volitivo umano nel processo decisorio discende anzitutto il principio di non esclusività algoritmica. Elaborato dalla nostra letteratura giuridica, recepito poi dal Consiglio di Stato e infine dal codice dei contratti pubblici, esso trascrive nel diritto il modello informatico detto HITL, cioè human in the loop: secondo cui l’assetto regolativo finale deve comunque registrare un contributo umano capace di controllare, validare ovvero smentire la pronuncia automatica («il potere di decidere di decidere di nuovo», come dice Luciano Floridi). Non è un principio assoluto, tuttavia. L’estromissione completa dell’apporto umano dalla sequenza decisoria non collide infatti col quadro costituzionale qualora sia compensata dall’agire di un secondo principio, simmetrico e complementare rispetto al primo: quello di conoscibilità e comprensibilità dell’algoritmo. Una regolazione completamente automatizzata, infatti, può essere ammessa se l’algoritmo che ne è alla base sia reso noto a colui che ne subisce gli effetti, incluse quelle sue parti che ne governano il funzionamento concreto. Due principî che lavorano “a tenaglia”, insomma. Quando l’uomo rinuncia a intervenire nel processo determinativo (human out of the loop), sia pure in via di semplice supervisione ex post dei risultati (human on the loop), l’ordinamento deve comunque garantire il diritto a conoscere nella sua integralità l’algoritmo che ne è alla base.

S’incontra qui l’ancora oscuro tema del machine learning: l’elaboratore autoapprende secondo logiche impenetrabili da parte degli stessi programmatori. Il computer diviene così una «black box»: attesa l’opacità del modello, un diritto del cittadino alla spiegazione o alla revisione del risultato sarebbe paradossalmente tanto più necessario, quanto più arduo da ottenere da parte del funzionario che l’ha recepito.

PODCAST LE VOCI DEL SOLE 24 ORE

Le notizie raccontate dai nostri giornalisti

Scopri di più

Libri

Oltre la superficie

Scopri di più

Ecco perché – suggerisce infine Gallone – restringere la riserva di umanità è ammissibile solo se quelle decisioni siano sindacabili da un giudice, possente fattore di riumanizzazione.

Ordinario di Diritto amministrativo all’Università del Salento