DECISIONI AMMINISTRATIVE, ALGORITMI E GARANZIE DEI DIRITTI

Una recente decisione del TAR Lazio, sede di Roma (Sezione Terza bis, Sez. III bis, sentenza del 27.5.2019, n. 6606) ha di nuovo portato alla ribalta il tema delle condizioni di legittimità alle quali è subordinato l’utilizzo degli algoritmi nel procedimento decisionale amministrativo e delle garanzie che chi lamenti una lesione di un proprio diritto possa far valere nei confronti di simili procedure. La pronuncia pare escludere in radice la legittimità dell’uso di procedure informatizzate per assumere decisioni su un numero elevato di soggetti in relazione a cui sussiste un altrettanto elevato numero di variabili da tenere in considerazione ai fini del decidere.
Secondo i giudici amministrativi di prima istanza, gli “istituti di partecipazione, di trasparenza e di accesso, in sintesi, di relazione del privato con i pubblici poteri non possono essere legittimamente mortificati e compressi soppiantando l’attività umana con quella impersonale, che poi non è attività, ossia prodotto delle azioni dell’uomo, che può essere svolta in applicazione di regole o procedure informatiche o matematiche”.
Su analoga questione il Consiglio di Stato (Sezione Sesta, sentenza del 8.4.2019, n. 2270) aveva espresso una posizione più aperta: ammettendo in astratto la legittimità della c.d. decisione algoritmica e considerando il software stesso come “atto amministrativo informatico”. In concreto la legittimità di una simile decisione sarebbe subordinata alla conoscibilità – anche per i profani non informatici – dell’algoritmo in tutti gli aspetti “…dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato”.
Nel complesso, da questi primi arresti giurisprudenziali, emerge una condivisibile cautela dei giudici che a volte però si connota di vera e propria diffidenza nei confronti delle decisioni algoritmiche.
Tuttavia, andrebbe rilevato che i casi oggetto di esame hanno riguardato, ad evidenza, algoritmi, o meglio, software assolutamente inadeguati, mal concepiti e alimentati per giunta con input sbagliati. Non sarebbe corretto, pertanto, inferire da queste esperienze l’inadeguatezza strutturale delle decisioni algoritmiche per l’attività amministrativa.
È noto piuttosto che in moltissimi settori economici si applicano, e con successo, procedimenti decisionali regolati da software sofisticati, che sono in grado di processare una quantità enorme di dati e di variabili che la mente umana, da sola, non riuscirebbe neanche a percepire. Si pensi alla profilazione dei clienti realizzata dai detentori dei big data, si pensi alle previsioni rilevanti per le transazioni nei mercati finanziari, ma anche ad attività che hanno un diretto impatto sulla persona umana, come le applicazioni digitali per ricerche, le analisi e le diagnosi in medicina. Inoltre, non va dimenticato che i procedimenti conoscitivi e decisionali basati su algoritmi sono soggetti a un processo costante di miglioramento.
Di fronte a questo scenario, un’amministrazione pubblica che restasse legata all’uso esclusivo della valutazione umana rischia di rimanere del tutto spiazzata rispetto alla realtà su cui interviene. L’accorto uso delle tecnologie dell’informazione, peraltro, non solo contribuirebbe al miglioramento dell’efficienza e compiutezza dei processi decisionali, ma sarebbe anche un oggettivo presidio contro la corruzione e le decisioni arbitrarie.
L’esigenza insopprimibile di garanzia dei diritti dovrebbe essere soddisfatta esercitando un controllo, anche giurisdizionale, sul funzionamento degli algoritmi, ma sfuggendo al pregiudizio di inaffidabilità che pare ancora caratterizzare l’applicazione delle tecnologie digitali ai processi decisionali amministrativi.
Si pone allora un’importante sfida di carattere culturale e operativa per giungere ad un’applicazione fruttuosa e controllabile delle tecnologie digitali anche nelle decisioni amministrative. Molti Paesi sono già nel vivo di questa concreta sperimentazione, che da noi è ancora agli albori. Occorre incoraggiare il dibattito e le esperienze anche in Italia.
Confidiamo che l’istituzione da parte dell’attuale Governo di un apposito dicastero per l’Innovazione tecnologica e la Digitalizzazione e la preposizione ad esso di una Ministra dotata di peculiare sensibilità al tema possano contribuire allo sviluppo delle nuove tecnologie nell’attività della pubblica amministrazione.