B. Décision et juridiction administrative
6. La seconda criticità: l’opacità della decisione
La decisione amministrativa robotica ha due grandi difetti: non consente a chi debba sindacarne la legittimità di ricostruirne
l’iter logico giuridico e viola il principio di trasparenza41.
Tali due difetti vengono comunemente sintetizzati nel con- cetto di opacità della decisione che è aggravata dal fatto che molti prodotti predittivi vengono sviluppati da aziende private
40F. COSTANTINO, Rischi e opportunità del ricorso delle amministrazioni
alle predizioni dei big data, cit., 2019.
41Sul tema v. F. PATRONIGRIFFI, La decisione robotica e il giudice ammi-
Copia
uso Open
Access
dal momento che le amministrazioni, sempre più spesso, non hanno competenze e mezzi per generare e gestire modelli di pre-
visione per l’allocazione di servizi pubblici rilevanti.
Come è stato esattamente rilevato il rischio, in queste ipote-
si, è che i soggetti pubblici rimangano all’oscuro dello sviluppo
e dell’implementazione di questi modelli e che addirittura alle
richieste delle amministrazione si possa opporre l’eccezione di
segretezza industriale42.
Si potrebbe dire che la decisione amministrativa robotica di per sé violi innanzitutto il dovere di motivazione del provvedi- mento amministrativo dal momento che in essa non si evincono né le ragioni giuridiche né i presupposti di fatto di tale decisione:
così ad esempio viene riportato l’esempio del licenziamento di
una serie di professori negli USA sulla base dei test sostenuti da-
gli studenti in cui l’algoritmo non consentiva agli insegnanti di
comprendere le ragioni di tale provvedimento.
Allo stesso modo la decisione robotica viola anche il prin- cipio di trasparenza e quello di pubblicità che sono diventati
uno delle linee di evoluzione trainante della legislazione dell’ul-
timo ventennio.
In un caso si era posto il problema se fosse legittimo acce-
dere all’algoritmo del programma impiegato dal M.I.U.R. per lo
svolgimento del procedimento relativo al trasferimento interpro- vinciale del personale docente.
Il giudice di primo grado aveva affermato la piena legittimi-
tà della scelta (discrezionale) dell’amministrazione di gestire il
procedimento attraverso un“atto ad elaborazione elettronica”
in cui“l’elaborazione del contenuto dell’atto viene affidata inte-
ramente allo strumento informatico e, quindi, in definitiva alla macchina, la quale provvede direttamente al reperimento, al col- legamento e alla interrelazione tra norme e dati assumendo, con-
seguentemente, un ruolo strumentale rispetto all’atto ammini-
strativo conclusivo. Nella predetta fattispecie è l’elaborazione
stessa del contenuto dell’atto che si svolge elettronicamente, ela-
borazione che consiste, appunto, nello svolgimento dell’iter lo-
gico che conduce alla redazione dell’atto finale in relazione al
rispettivo contenuto e che concretizza la sua motivazione. Il do- cumento finale che contiene la predetta elaborazione, invece,
42F. COSTANTINO, Rischi e opportunità del ricorso delle amministrazioni
alle predizioni dei big data, cit., 2019, p. 53.
Copia
uso Open
Access
può avere qualsiasi forma ammessa dall’ordinamento e, quindi,
essere anche cartaceo, come avviene negli atti amministrativi di
stampo tradizionale”43.
In altro caso si può richiamare la recente sentenza con cui il Consiglio di Stato ha confermato una decisione del giudice di primo grado modificandone la motivazione.
Mentre il giudice di primo grado aveva ritenuto che la de- cisione robotica non fosse legittima perché era stato completa-
mente pretermesso il contributo dell’uomo, per il Consiglio di
Stato il problema non è tanto questo44 quanto piuttosto che la
decisione algoritmica non è comprensibile nella sua motivazione e per questo va annullata.
Ed infatti per il Consiglio di Stato “l’utilizzo di procedure
"robotizzate" non può, tuttavia, essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano
lo svolgersi dell’attività amministrativa”45.
Più di recente il giudice amministrativo di primo grado ha
43TAR, Lazio-Roma, sez. III bis, 22 marzo 2017, n. 3769.
44Per il giudice di appello“l’assenza di intervento umano in un’attività
di mera classificazione automatica di istanze numerose, secondo regole prede- terminate (che sono, queste sì, elaborate dall’uomo), e l’affidamento di tale at- tività a un efficiente elaboratore elettronico appaiono come doverose declina- zioni dell’art. 97 Cost. coerenti con l’attuale evoluzione tecnologica”.
45Per il giudice di Palazzo Spada“la regola tecnica che governa ciascun
algoritmo resta pur sempre una regola amministrativa generale, costruita dal- l’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva. Questa regola algoritmica, quindi: pos- siede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale, come si è detto, deve soggiacere ai principi ge- nerali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 l. 241/90), di ragionevolezza, di proporzionalità, etc.; non può lasciare spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve pre- vedere con ragionevolezza una soluzione definita per tutti i casi possibili, an- che i più improbabili (e ciò la rende in parte diversa da molte regole ammini- strative generali); la discrezionalità amministrativa, se senz’altro non può esse- re demandata al software, è quindi da rintracciarsi al momento dell’elaborazio- ne dello strumento digitale; vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento del- l’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep lear- ning)”; deve contemplare la possibilità che - come è stato autorevolmente af- fermato - sia il giudice a“dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica”, con la conse- guenza che la decisione robotizzata“impone al giudice di valutare la correttez- za del processo automatizzato in tutte le sue componenti”. In definitiva, dun-
Copia
uso Open
Access
confermato l’orientamento per il quale la decisione robotica va
dichiarata illegittima quando non se ne può ricostruire la motiva-
zione ritenendo che:“ad essere inoltre vulnerato non è solo il ca-
none di trasparenza e di partecipazione procedimentale, ma an-
che l’obbligo di motivazione delle decisioni amministrative, con
il risultato di una frustrazione anche delle correlate garanzie pro- cessuali che declinano sul versante del diritto di azione e difesa
in giudizio di cui all’art. 24 Cost., diritto che risulta compromes-
so tutte le volte in cui l’assenza della motivazione non permette
inizialmente all’interessato e successivamente, su impulso di
questi, al Giudice, di percepire l’iter logico – giuridico seguito
dall’amministrazione per giungere ad un determinato approdo
provvedimentale”46.
Conseguentemente la caratterizzazione “multidisciplinare”
dell’algoritmo (costruzione che certo non richiede solo compe-
tenze giuridiche, ma tecniche, informatiche, statistiche, ammini-
strative) non esime dalla necessità che la“formula tecnica”, che
di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che
la traducano nella“regola giuridica” ad essa sottesa e che la ren-
dano leggibile e comprensibile, sia per i cittadini che per il giu- dice.
La regola algoritmica, quindi, deve essere soggetta alla pie- na cognizione, e al pieno sindacato, del giudice amministrativo e tale esigenza risponde alla necessità di poter sindacare come il
potere sia stato concretamente esercitato “ponendosi in ultima
analisi come declinazione diretta del diritto di difesa del cittadi- no, al quale non può essere precluso di conoscere le modalità (anche se automatizzate) con le quali è stata in concreto assunta una decisione destinata a ripercuotersi sulla sua sfera giuridi-
ca”47.
que, l’algoritmo, ossia il software, deve essere considerato a tutti gli effetti co- me un“atto amministrativo informatico”.
46TAR Lazio, Roma, III bis, 10 settembre 2019, n. 10964 (che a sua vol-
ta richiama TAR Lazio, Roma, n. 9924/2018).
47“Solo in questo modo – sempre per il Consiglio di Stato – è possibile
svolgere, anche in sede giurisdizionale, una valutazione piena della legittimità della decisione; valutazione che, anche se si è al cospetto di una scelta assunta attraverso una procedura informatica, non può che essere effettiva e di portata analoga a quella che il giudice esercita sull’esercizio del potere con modalità tradizionali. In questo senso, la decisione amministrativa automatizzata impo- ne al giudice di valutare in primo luogo la correttezza del processo informatico in tutte le sue componenti: dalla sua costruzione, all’inserimento dei dati, alla loro validità, alla loro gestione. Da qui, come si è detto, si conferma la neces- FRANCESCO DELEONARDIS 155
Copia
uso Open
Access
Il giudice deve quindi poter sindacare la stessa logicità e ra- gionevolezza della decisione amministrativa robotizzata, ovvero
della "regola" che governa l’algoritmo, di cui si è ampiamente
detto.