Segue: il principio di conoscibilità

a livello sovranazionale; 3.2 Segue: il principio di non esclusività della decisione algoritmica; 3.3 Segue: il principio di non discriminazione dell’algoritmo; 4. Principi fissati nell’ordinamento statunitense; 4.1 Segue: non delegation; 4.2 Segue: due process; 4.3 Segue: antidiscrimination; 4.4 Segue: transparency; 5.

Comparazioni.

1. I principi fondamentali del procedimento amministrativo e la decisione algoritmica

Come già accennato nel capitolo precedente, nel pronunciarsi con riferimento ai criteri di legittimità per l’utilizzo di strumenti di intelligenza artificiale nel procedimento amministrativo²⁵³, in più sentenze²⁵⁴ la Sesta Sezione del Consiglio di Stato ha sottolineato la necessità per la pubblica amministrazione di assecondare la c.d.

rivoluzione 4.0. che ha interessato il settore pubblico.

Come necessaria premessa, bisogna sottolineare che la semplificazione dell’attività amministrativa non può considerarsi come fenomeno positivo in termini assoluti.

L’esigenza di efficienza dei pubblici poteri deve essere perseguita operando un bilanciamento con altri interessi: l’interesse di rendere evidenti le ragioni dell’azione amministrativa, l’interesse di permettere ad eventuali soggetti coinvolti di collaborare al procedimento, l’interesse allo svolgimento di un’istruttoria piena, che rispetti i principi

253 Definito come la “sequenza di atti ed operazioni… tra loro collegate funzionalmente in vista e al servizio dell’atto principale”. A. SANDULLI, Il procedimento amministrativo, 1940.

254 Si richiamano le seguenti pronunce: Consiglio di Stato, Sez. VI, sentenza del 4 febbraio 2020, n. 881; Consiglio di Stato, Sez. VI, sentenze del 13 dicembre 2019, n. 8472-8473-8474.

dell’ordinamento giuridico in conformità con il diritto dell’Unione Europea, in quanto espressione di valori di un ordinamento democratico.²⁵⁵

Nell’incoraggiare dunque il ricorso alle Information and Communication Technologies nell’ambito dell’attività amministrativa, il Consiglio di Stato nelle sentenze richiamate individua come necessario presupposto il fatto che l’utilizzo di procedure informatizzate non comporti l’elusione dei principi che si trovano alla base dell’ordinamento statale e che regolano l’azione amministrativa. Nel generico riferimento ai principi tradizionalmente riconosciuti, i giudici di Palazzo Spada manifestano l’intenzione di ricondurre lo strumento algoritmico al novero delle tradizionali categorie concettuali del diritto amministrativo.²⁵⁶ Una via alternativa nell’approccio alle numerose innovazioni tecnologiche che interessano il settore amministrativo, un tipo di approccio non accolto dalla giurisprudenza del Consiglio di Stato, avrebbe portato all’introduzione di nuovi concetti di diritto, modellati secondo le esigenze manifestatesi nell’ambito del fenomeno di e-government.²⁵⁷

La necessità di un’applicazione dell’algoritmo che si dimostri rispettosa dei principi di diritto amministrativo viene sottolineata anche da parte del TAR Lazio nel 2019, che afferma che “gli istituti di partecipazione, di trasparenza e di accesso… non possono essere legittimamente mortificati e compressi soppiantando l’attività umana con quella impersonale, che poi non è attività, ossia prodotto delle azioni dell’uomo, che può essere svolta in applicazione di regole o procedure informatiche o matematiche”²⁵⁸.

Come conseguenza, ogni decisione amministrativa che sia adottata mediante il ricorso ad un’intelligenza artificiale deve garantire il rispetto dei requisiti di validità previsti per

255 Sul tema, si segnalano D. VESE, L’efficienza della decisione amministrativa. Semplificazione ed accelerazione del procedimento nelle recenti riforme della pubblica amministrazione, 2018, in federalismi.it n. 18/2018; R. FERRARA, Il giudice amministrativo e gli algoritmi. Nota estemporanea a margine di un recente dibattito giurisprudenziale, in Diritto Amministrativo, 2019, n. 4.

256 Sul tema, si segnalano I.M. DELGADO, Automazione, intelligenza artificiale e pubblica amministrazione: vecchie categorie concettuali per nuovi problemi?, 2019 in Istituzioni del federalismo; S. CIVITARESE MATTEUCCI, Umano troppo umano. Decisioni amministrative automatizzate e principio di legalità, 2019, in Diritto Pubblico, n.1/2019; G.

FASANO, Le decisioni automatizzate nella pubblica amministrazione: tra esigenze di semplificazione e trasparenza algoritmica, in MediaLaws, 2019. Con il termine categorie concettuali, bisogna precisare, viene fatto riferimento a principi e vizi che governano l’atto amministrativo.

257 Sul tema, si segnala G. CARULLO, Gestione, fruizione e diffusione dei dati dell’amministrazione digitale e funzione amministrativa, 2018, Giappichelli Editore.

258 TAR Lazio, Roma, Sez. Terza Bis, sentenza 27 maggio 2019, n. 6606. Con tale pronuncia, la sezione Terza Bis del tribunale conferma l’orientamento adottato in precedenza con le sentenze n. 9224-9230/2018 e 8312/2016. Nella stessa pronuncia, il tribunale ha riaffermato la prospettiva antropocentrica del procedimento amministrativo, sottolineando che “un algoritmo, quantunque, preimpostato in guisa da tener conto di posizioni personali, di titoli e punteggi, giammai può assicurare la salvaguardia delle guarentigie procedimentali che gli artt. 2, 6, 7, 8, 9, 10 della legge 7.8.1990 n. 241 hanno apprestato”.

l’atto amministrativo. La decisione amministrativa di natura algoritmica deve dunque essere emanata da un organo competente. Sotto il profilo contenutistico, l’oggetto dell’atto deve essere determinato e possibile, adeguato al potere conferito dalla norma di attribuzione, la decisione deve essere coerente con i fatti presupposti e il ragionamento ad essa sotteso deve essere espresso nella motivazione.²⁵⁹

Come affermato dal Consiglio di Stato, “il ricorso all’algoritmo va correttamente inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta della legislazione attributiva del potere e delle finalità della stessa attribuite all’organo pubblico, titolare del potere”²⁶⁰.

L’inserimento dell’azione dell’algoritmo all’interno del procedimento amministrativo comporta come necessaria conseguenza il rispetto di tutti i principi di diritto previsti con il fine specifico di garantire che il procedimento possa svolgere correttamente le proprie funzioni.²⁶¹

Tra le funzioni, bisogna in primis sottolineare che tale istituto permette un controllo sull’esercizio del potere, controllo che deve essere esercitato anche nei confronti di decisioni ad elaborazione algoritmica.

Un’altra funzione del procedimento amministrativo è quella di far sì che vengano presi in considerazione tutti gli interessi incisi direttamente o indirettamente dal provvedimento finale, permettendo un’adeguata rappresentanza dei privati, vagliando i diversi apporti partecipativi da essi forniti. Tale funzione assume un rilievo ancora maggiore se si tiene conto del fatto che gli strumenti di intelligenza di artificiale sono oggettivamente in grado di incidere interessi dall’ordinamento ritenuti meritevoli di tutela.²⁶²

259 Sul tema, si segnala I.M. DELGADO, Automazione, intelligenza artificiale e pubblica amministrazione: vecchie categorie concettuali per nuovi problemi?, 2019 in Istituzioni del federalismo.

260 Si richiamano le seguenti pronunce: Consiglio di Stato, Sez. VI, sentenza del 4 febbraio 2020, n. 881; Consiglio di Stato, Sez. VI, sentenze del 13 dicembre 2019, n. 8472-8473-8474.

261 Sul tema, si segnalano M. CLARICH, Manuale di diritto amministrativo, 2017, Il Mulino; G. CARULLO, Gestione, fruizione e diffusione dei dati dell’amministrazione digitale e funzione amministrativa, 2018, Giappichelli Editore.

262 Tra i vari esempi, la causa su cui è intervenuta la pronuncia Consiglio di Stato, Sez. VI, sentenza dell’8 aprile 2019, n. 2270, avente ad oggetto le numerose contestazioni da parte di docenti di scuola secondaria destinatari di un piano di assunzioni straordinarie a tempo indeterminato disposto dalla legge n. 107 del 2015, nell’ambito del quale vi era stata la creazione di un algoritmo per l’assegnazione delle sedi. Da parte dei docenti è stata lamentata l’irrazionalità e l’illogicità del provvedimento di assegnazione delle sedi, in quanto questi non aveva tenuto conto delle preferenze indicate dagli interessati e aveva commesso una lesione degli interessi dei singoli. V. COLAROCCO, M. COGODE, Atto amministrativo informatico: sì all’utilizzo dell’intelligenza artificiale purché in condizioni di trasparenza, 2019, consultabile al sito diritto24.ilsole24ore.com

Il procedimento garantisce inoltre il rispetto del contraddittorio procedimentale, da garantirsi nella sua dimensione verticale²⁶³ e nella sua dimensione orizzontale²⁶⁴.

L’esistenza di un procedimento con fasi ben scandite può servire a legittimare l’uso del potere amministrativo, intervenendo per favorire la formazione della regola per il caso concreto e bilanciando l’impossibilità di prevedere ogni fattispecie astratta alla quale possa ricollegarsi l’esercizio del potere.²⁶⁵

Tra i numerosi principi giuridici di cui bisogna garantire il rispetto, una funzione di primo piano viene svolta dal principio di legalità, un principio di rango costituzionale²⁶⁶, oggetto di specifica previsione anche all’interno della legge sul procedimento amministrativo.²⁶⁷

L’importanza del rispetto di tale principio deriva dalle due funzioni che questo è chiamato a svolgere. La prima funzione che gli viene riconosciuta è la funzione di tutela degli interessi dei privati che possono essere oggetto di lesione da parte dei provvedimenti amministrativi, tramite la previsione di un limite all’attività dei poteri pubblici. Sulla base di tali considerazioni, nello svolgimento delle loro funzioni le amministrazioni non possono travalicare i limiti enunciati dalla legge. La seconda funzione svolta dal principio di legalità consiste nella legalità-indirizzo, sulla base della quale il principio prevede l’obbligo per il provvedimento amministrativo di trovare fondamento nella legge, espressione del principio di rappresentanza che vige nel nostro ordinamento.²⁶⁸

263 Nel contraddittorio verticale, il ruolo dell’amministrazione viene definito come un ruolo di “parte imparziale”, poiché questa è tenuta alla cura dell’interesse pubblico di cui è portatrice e della posizione della parte privata. Si tratta dei casi in cui un rapporto giuridico ha carattere bilaterale, coinvolgendo sia l’amministrazione titolare del potere sia il destinatario. M. CLARICH, Manuale di diritto amministrativo, 2017, Il Mulino.

264 M. CLARICH, Manuale di diritto amministrativo, 2017, Il Mulino, p. 237. Nel contraddittorio orizzontale, l’amministrazione è tenuta ad operare per garantire la parità delle armi tra due parti in conflitto portatrici di interessi contrapposti. Il contraddittorio orizzontale può presentarsi come perfettamente paritario o come non pienamente paritario.

265 Ulteriori funzioni del procedimento amministrativo consistono nella garanzia di una maggiore democraticità dell’ordinamento e nell’attuazione di forme di coordinamento di diversa intensità tra le diverse amministrazioni nello svolgimento delle loro funzioni.

266 Nel prevedere la tutela giurisdizionale di diritti ed interessi legittimi, il comma 3 dell’art. 113 della Costituzione specifica che “la legge determina quali organi di giurisdizione possono annullare gli atti della pubblica amministrazione nei casi e con gli effetti previsti dalla legge stessa”. Con tale formulazione, viene specificato che il sindacato degli atti amministrativi deve essere svolto dal giudice sulla base di una previsione legislativa.

267 Nello specifico, l’art. 1, legge 7 agosto 1990, n. 241, afferma che “l’attività amministrativa persegue i fini determinati dalla legge ed è retta da criteri di economicità, di efficacia, di imparzialità e di trasparenza secondo le modalità previste dalla presente legge e dalle altre disposizioni che disciplinano singoli procedimenti, nonché dai principi dell’ordinamento comunitario”.

268 Sul tema, si segnala M. CLARICH, Manuale di diritto amministrativo, 2017, Il Mulino.

Sulla base della seconda accezione del principio di legalità, dunque si ritiene necessaria l’attribuzione del potere²⁶⁹ allo strumento informatico per l’adozione di una decisione automatizzata. Non concordando con un’applicazione troppo restrittiva del principio in esame, parte della dottrina manifesta il convincimento che bisogna introdurre il concetto di legalità di secondo grado, sulla base del quale all’organo titolare del potere di adottare un provvedimento sulla base di una norma di conferimento vada riconosciuto anche il potere di adottarlo mediante il ricorso ad una procedura informatica.²⁷⁰

Sulla base di un confronto con l’ordinamento spagnolo²⁷¹, viene messa in dubbio la compatibilità di una norma generale di attribuzione di tale potere con il rispetto del principio di legalità nella sua dimensione sostanziale²⁷², necessaria per permettere al principio di svolgere la propria funzione garantistica. Un’attribuzione di potere in via generalizzata non determina nello specifico il tipo di relazione che può essere lecitamente instaurata tra un provvedimento e un software. Bisogna inoltre sottolineare la qualifica del potere algoritmico come potere c.d. secondario, conferito allo strumento solo in via derivata.²⁷³ In quanto secondario, tale potere potrebbe configurarsi come legittimo solo ove esplicitamente conferito da una norma giuridica.²⁷⁴

Un principio di cui si è affermato il necessario rispetto in via giurisprudenziale è costituito dalla garanzia di una supervisione ai risultati ottenuti mediante software da parte di una persona fisica. Con sentenza del 2018 infatti il Tribunale Amministrativo

269 Un potere che, come viene specificato nello studio S. CIVITARESE MATTEUCCI, Umano troppo umano. Decisioni amministrative automatizzate e principio di legalità, 2019, in Diritto Pubblico, 2019, n.1, può essere conferito solo in maniera figurata. Le argomentazioni riprendono quanto affermato da M. PERRY, A. SMITH, iDecide: the legal implications of automated decision-making, in Federal Judicial Scolarship, 2014. In tale documento, nel trattare i problemi che possono sorgere nelle clausole introdotte per presumere che una decisione presa dall’algoritmo sia una decisione presa dall’operatore umano, specifica che “such deeming provisions require acceptance of highly artifical constructs of decision-making processes”. Nell’operare tali considerazioni, gli autori auspicano lo sviluppo di approcci più sofisticati.

270 Sul tema, si segnala S. CIVITARESE MATTEUCCI, Umano troppo umano. Decisioni amministrative automatizzate e principio di legalità, 2019, in Diritto Pubblico, 2019, n. 1.

271 Ordinamento in cui è stata ravvisata l’esistenza di una norma, l’art. 41 della legge dell’1 ottobre 2015, n. 40, Regímen Jurídico del Sector Público, richiamata dallo studio S. CIVITARESE MATTEUCCI, Umano troppo umano. Decisioni amministrative automatizzate e principio di legalità, 2019, in Diritto Pubblico, 2019, n. 1, che comporta un’attribuzione in via generale alle amministrazioni del potere di individuare i loro organi responsabili di disegno e gestione del software.

272 Sulla base di tale accezione del principio di legalità, si richiede che la norma di conferimento non si esaurisca nella generica attribuzione del potere alla pubblica amministrazione. Si ravvisa infatti la necessità dell’introduzione di parametri legislativi che disciplinino l’esercizio del potere (presupposti, modalità procedurali da rispettare, caratteristiche essenziali).

273 In base al principio antropomorfico, il potere può considerarsi come primario solo quando conferito ad un essere umano. S. CIVITARESE MATTEUCCI, Umano troppo umano. Decisioni amministrative automatizzate e principio di legalità, 2019, in Diritto Pubblico, 2019, n. 1.

274 Tale potere risulterebbe infatti assimilabile al potere di esecuzione, legittimo solo ove previsto specificamente dalla norma di conferimento. Art. 21-ter, legge 7 agosto 1990, n. 241, introdotto con “Modifiche ed integrazioni alla legge 7 agosto 1990, n. 241, concernenti norme generali sull'azione amministrativa”, legge 11 febbraio 2005, n. 15.

Regionale del Lazio ha dimostrato di ritenere che “le procedure informatiche, finanche ove pervengano al loro maggior grado di precisione e addirittura alla perfezione, non possano mai soppiantare, sostituendola davvero appieno, l’attività cognitiva, acquisitiva e di giudizio che solo un’istruttoria affidata ad un funzionario persona fisica è in grado di svolgere e che pertanto, al fine di assicurare l’osservanza degli istituti di partecipazione, di interlocuzione procedimentale, di acquisizione degli apporti collaborativi del privato e degli interessi coinvolti nel procedimento, deve seguitare ad essere il dominus del procedimento stesso”²⁷⁵. Viene dunque statuito dal tribunale che alle procedure informatiche viene affidato un ruolo di natura strumentale, “giammai dominante o surrogatorio dell’attività dell’uomo”²⁷⁶.

Sulla base del ragionamento svolto, si afferma l’insostituibilità della figura del responsabile del procedimento amministrativo. Si ritiene infatti che l’algoritmo possa costituire semplicemente uno strumento di cui servirsi per velocizzare determinate fasi del procedimento²⁷⁷.

Tra i principi generali di cui bisogna garantire il rispetto, va richiamato il riconoscimento di un sindacato del giudice amministrativo nei confronti dell’atto ottenuto sulla base di una procedura informatica.²⁷⁸ Come affermato da un’importante sentenza²⁷⁹ della Sesta Sezione del Consiglio di Stato, “la regola algoritmica deve essere… soggetta alla piena cognizione, e al pieno sindacato, del giudice amministrativo”. Con tale affermazione il Consiglio di Stato dimostra di ritenere che lo strumento algoritmico rappresenti, in un certo senso, l’essenza vera e propria della decisione finale.²⁸⁰ Bisogna inoltre rilevare che tale previsione sembra suggerire il riconoscimento della c.d. fallibilità dell’algoritmo. Per quanto il ricorso allo strumento algoritmico sia stato incoraggiato nella speranza che garantisca una decisione corretta, ottenuta in maniera rapida ed efficiente, lo stesso non sempre riesce ad avere successo.

Negando che la peculiarità dello strumento informatico possa comportare un ostacolo al sindacato del giudice, i giudici di Palazzo Spada specificano che, nonostante la

275 TAR Lazio, Sez. Terza Bis, sentenze del 10 settembre 2018, n. 9224-9230.

276 TAR Lazio, Sez. Terza Bis, sentenze del 10 settembre 2018, n. 9224-9230.

277 Sul tema, si segnala D.U. GALETTA, J.G. CORVALÁN, Intelligenza artificiale per una Pubblica Amministrazione 4.0? Potenzialità, rischi e sfide della rivoluzione tecnologica in atto, 2019, in federalismi.it

278 M.C. CAVALLARO, G. SMORTO, Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, in federalismi.it n.16/2019.

279 Consiglio di Stato, Sez. VI, sentenza dell’8 aprile 2019, n. 2270.

280 M.C. CAVALLARO, G. SMORTO, Decisione pubblica e responsabilità dell’amministrazione nella società dell’algoritmo, in federalismi.it n.16/2019.

valutazione abbia ad oggetto una decisione presa con il supporto di un algoritmo, si caratterizza per essere “effettiva e di portata analoga a quella che il giudice esercita sull’esercizio del potere con modalità tradizionali”²⁸¹.

Al giudice viene attribuito il compito di valutare la correttezza di tutte le componenti del processo informatico, ossia costruzione, inserimento dei dati, la loro validità e la loro gestione.²⁸² Per quanto concerne i criteri a cui il giudice può fare riferimento nel processo valutativo, si tratta generalmente di categorie tradizionali di diritto amministrativo, quali le figure sintomatiche dell’eccesso di potere.²⁸³

Di particolare rilievo è lo specifico riconoscimento della sindacabilità della “formula tecnica” dell’algoritmo, tradotta in regola giuridica anche al fine di garantire un controllo su “logicità e ragionevolezza della decisione amministrativa robotizzata”²⁸⁴. Il sindacato del giudice si svolge dunque con riferimento alla regola giuridica scelta dall’amministrazione e alla sua traduzione in regola algoritmica, nel funzionamento dello strumento di intelligenza artificiale.²⁸⁵ Nella valutazione della regola algoritmica, viene concessa al giudice la possibilità di sindacare l’ambito delle valutazioni tecniche, alle quali larga parte della dottrina si riferisce con il termine “discrezionalità tecnica”²⁸⁶. Eventuali vizi rilevati inficiano l’intero procedimento amministrativo, invalidandolo.²⁸⁷

Tra le numerose categorie di diritto amministrativo richiamate dalla giurisprudenza, una particolare attenzione è stata manifestata dalla Sezione Terza Bis del TAR Lazio²⁸⁸ nei confronti dell’obbligo di motivazione, oggetto di specifica previsione nella legge 7 agosto 1990, n. 241²⁸⁹. L’inottemperanza a tale obbligo costituisce un vizio del

281 Consiglio di Stato, Sez. VI, sentenza dell’8 aprile 2019, n. 2270. A livello dottrinale, V. CANALINI, L’algoritmo come “atto amministrativo informatico” e il sindacato del giudice, in Giornale di diritto amministrativo, 2019, n. 6.

282 Come affermato dalla Sesta Sezione del Consiglio di Stato nella sentenza dell’8 aprile 2019, n. 2270, l’esigenza di garantire un controllo del giudice sull’esercizio del potere amministrativo “risponde… all’irrinunciabile necessità di poter sindacare come il potere sia stato concretamente esercitato, ponendosi in ultima analisi come declinazione diretta del diritto di difesa del cittadino”.

283 Sul tema, si segnala V. CANALINI, L’algoritmo come “atto amministrativo informatico” e il sindacato del giudice, in Giornale di diritto amministrativo, 2019, n. 6.

284 Consiglio di Stato, Sez. VI, sentenza dell’8 aprile 2019, n. 2270.

285 Sul tema, si segnala V. CANALINI, L’algoritmo come “atto amministrativo informatico” e il sindacato del giudice, in Giornale di diritto amministrativo, 2019, n. 6.

286 Come già detto nel capitolo precedente, tale espressione è stata oggetto di critica in M. CLARICH, Manuale di diritto amministrativo, 2017, Il Mulino. In tale opera, viene affermato che l’assenza di un vero e proprio elemento volitivo nelle valutazioni tecniche renda impossibile farvi riferimento con il termine di “discrezionalità”, se non in maniera impropria.

287 Sul tema, si segnala V. CANALINI, L’algoritmo come “atto amministrativo informatico” e il sindacato del giudice, in Giornale di diritto amministrativo, 2019, n. 6.

288 TAR Lazio, Roma, Sez. Terza Bis, sentenze del 10 settembre 2018, n. 9224-9230; TAR Lazio, Sez. Terza Bis, sentenza del 22 marzo 2017, n. 3769.

289 All’art. 3, legge 7 agosto 1990, n. 241, viene infatti affermato che “ogni provvedimento amministrativo, compresi quelli concernenti l’organizzazione amministrativa, lo svolgimento dei pubblici concorsi ed il personale, deve essere

provvedimento amministrativo, potendo conseguentemente costituire la base per un ricorso volto ad ottenere l’affermazione dell’illegittimità dell’atto.²⁹⁰

Fondamentale principio amministrativo, l’obbligo di motivazione svolge tre importanti funzioni.²⁹¹ In primo luogo, questo permette il pieno rispetto del principio di trasparenza dell’azione amministrativa, consentendo a chiunque di conoscere i motivi alla base delle decisioni amministrative. In secondo luogo, fornisce un aiuto nell’interpretazione del provvedimento amministrativo. In terzo luogo, costituisce una delle maggiori garanzie nei confronti del destinatario della decisione amministrativa, permettendo di sottoporla ad un successivo controllo giurisdizionale.

Dalle tre funzioni svolte dalla motivazione si evince la sua importanza nell’ambito dell’azione amministrativa. Da ciò deriva l’idea che l’utilizzo di un algoritmo non possa provocare una deroga a tale obbligo.

Nell’affrontare la materia, il Tribunale Amministrativo Regionale si pronuncia

Nell’affrontare la materia, il Tribunale Amministrativo Regionale si pronuncia