L’algoritmo al servizio della giustizia

Il sistema della giustizia svolge un ruolo vitale nella società e deve essere in grado, per antonomasia, di ottenere e mantenere la fiducia di tutti coloro che interagiscono con esso.

Anche gli algoritmi svolgono sempre un ruolo vitale, dalle decisioni di acquisto quotidiane all'amministrazione della giustizia. Hanno il potenziale per offrire benefici significativi a individui e comunità, ma ciò non dovrebbe essere dato per scontato.

Una dipendenza acritica dalla tecnologia potrebbe portare a decisioni sbagliate che minacciano i diritti umani, il sistema democratico e minano la fiducia del pubblico nel sistema giudiziario in generale227_.

L’utilizzo di politiche pubbliche di tecnologia e diritto è stato inteso per esplorare il ruolo e le preoccupazioni sull'uso degli algoritmi nel sistema giudiziario. Progettato come uno sforzo collaborativo e multidisciplinare, si sono cercati contributi da una vasta gamma di parti interessate, tra cui legali, accademici, professionisti della tecnologia, organizzazioni per le libertà civili, forze dell'ordine ed enti pubblici.

In primo luogo, i sistemi di riconoscimento facciale, la profilazione del DNA, la mappatura predittiva del crimine e l'estrazione dei dati da telefono cellulare sono tutti esempi di sistemi algoritmici attualmente in uso nel sistema giudiziario penale228_.

Tuttavia, l'uso di dati distorti o semplificati può portare a decisioni discriminatorie, comprensione superficiale di questioni complesse e mancanza di analisi a lungo termine.

Alcune di queste sfide includono229_:

227 CANZIO. G. (2018). La motivazione della sentenza e la prova scientifica: “reasoning by probabilities”, in Canzio- Luparia (edn.), Prova scientifica e processo penale, Padova: CEDAM (3-21).

228 BONFANTI, A. (2018). L’efficacia orizzontale dei diritti fondamentali previsti dalla Carta La giurisprudenza della Corte di giustizia in materia di digital privacy come osservatorio privilegiato, Media Laws, Rivista di diritto dei media 3/2018: 1-13.

➢ conseguenze per la dignità personale, come la perdita di individualità e autonomia e diritti umani come la privacy e la libertà dalla discriminazione;

➢ ridotta trasparenza nel processo decisionale, con conseguente mancanza di controllo adeguato e maggiore potenziale di abuso di potere;

➢ rischi per elementi specifici del sistema giudiziario, come difetti procedurali che portano a processi iniqui e casi complessi che potrebbero stabilire importanti precedenti legali da gestire;

➢ un uso non critico e inspiegabile degli algoritmi ha serie implicazioni per i diritti umani fondamentali e l'integrità del sistema giudiziario.

Nel giusto quadro, tuttavia, i sistemi algoritmici possono offrire una serie di vantaggi, quali efficienza, efficacia, verificabilità e coerenza presenti nella catena di approvvigionamento alle varie agenzie e attori che utilizzano la tecnologia, per costruire un consenso radicato nello stato di diritto, che preserva i diritti umani e offre un sistema affidabile230_.

I diritti fondamentali sono cruciali per una democrazia ben funzionante e sono una condizione per la continua fiducia della società nei meccanismi dello Stato e del benessere sociale231_.

Lo scopo principale è garantire che i diritti fondamentali e lo stato di diritto continuino a essere rispettati durante i periodi di ampio cambiamento sociale e tecnologico tramite uno sforzo per garantire che, se la natura del sistema giudiziario e le aspirazioni che la società associa ad esso devono cambiare, questo cambiamento è consapevole, compreso e meticolosamente gestito, piuttosto che una trasformazione al di là del chiaro controllo sociale e con implicazioni poco chiare232_.

I sistemi algoritmici nel sistema giudiziario non sono nuovi. Gli algoritmi, come i sistemi di valutazione del rischio, sono stati a lungo utilizzati dalle agenzie pubbliche e

230 BOLOGNINI, L., PELINO, E. E BISTOLFI, C. (2016). Il Regolamento Privacy Europeo, Milano: Giuffrè. 231 Ibid.

considerati nella regolamentazione. Mentre alcuni cambiamenti tecnologici nel sistema giudiziario, come la digitalizzazione di documenti o leggi, sembrano improbabili che presentino sfide significative per diritti fondamentali, alcuni sistemi algoritmici hanno il potenziale per essere significativamente più carichi di valore e dare origine a compromessi tra valori concorrenti. Nel determinare come effettuare le chiamate di giudizio tra un valore e l'altro, abbiamo bisogno di processi rigorosi e principi concordati233234_.

Partendo dal settore civile, nel 2014 è venuta ad attuarsi una importante riforma che ha visto entrare in vigore l’obbligo circa l’uso della piattaforma PCT nel contenzioso giudiziario civile.

Il Processo Civile Telematico è certamente stato un progetto di innovazione tecnologica e organizzativa che ha rivoluzionato il modo di lavorare di Professionisti, Magistrati e personale amministrativo.

Il percorso è stato lento e farraginoso, per tanti motivi, certamente per una certa resistenza culturale al cambiamento, ma anche per la scarsità di risorse messe a disposizione dal bilancio pubblico.

Si è partiti dall’informatizzazione dei registri di cancelleria dei Tribunali e via via degli altri uffici giudiziari, una volta tenuti e conservati su carta, ora gestiti su Sistemi informativi su base distrettuale (SICID e SIECIC) accessibili telematicamente da chiunque in forma pseudonima e dai Professionisti, con accesso anche agli atti di causa, via PST (Portale Servizi Telematici) Giustizia o Punti di Accesso e strumenti ad essi collegati (Service1, Consolle Avvocato, etc.).

Quanto sopra ha consentito agli operatori di giustizia di aggiornare i fascicoli creando dei database molto utili per la condivisione tempestiva di dati sempre più affidabili, anche a fini statistici.

233 ACCIAI, R. (2003). Le nuove norme in materia di privacy, Santarcangelo di Romagna: Maggioli 234 BONFANTI 2018, Op. cit.

Sulla base di questo lavoro di “pulizia” del dato e di creazione di una piattaforma tecnologica nazionale che è stato possibile introdurre il PCT con i depositi telematici di atti di Avvocati e Consulenti e provvedimenti dei Magistrati.

Quanto al potenziale sfruttamento che questa banca dati presenta, ci sono certamente due usi da valutare, da una parte la possibilità che questo dataset sia utile per consentire all’Avvocato di ottenere, grazie ad un tool, una valutazione automatizzata sul rischio di un eventuale contenzioso e dall’altra la possibilità di introdurre nella giurisdizione italiana una qualche forma di Intelligenza Artificiale.

Quanto al primo uso questo potrà essere consentito anzitutto se la base dati sarà messa a disposizione degli operatori privati, liberamente o a fronte di accordi commerciali.

Come noto il tema è molto attuale e, a livello globale, esistono diverse esperienze di Legal Tech Company che sfruttano l’office automation e in alcuni casi anche l’AI per commercializzare prodotti che elaborino in modo automatizzato documenti legali (si veda tra le molte la ROSS Intelligence e in Italia LT 42).

Sul tema la Direttiva 96/9/CE relativa alla tutela giuridica delle banche di dati considera che l’obiettivo del diritto sui generis è di accordare al costitutore di una banca di dati la possibilità di impedire l’estrazione e/o il reimpiego non autorizzati della totalità o di una parte sostanziale del contenuto di tale banca235_{. All’Art. 7 della medesima Direttiva} infatti si indica che “Gli Stati membri attribuiscono al costitutore di una banca di dati il diritto di vietare operazioni di estrazione e/o reimpiego della totalità o di una parte sostanziale del contenuto della stessa, valutata in termini qualitativi o quantitativi, qualora il conseguimento, la verifica e la presentazione di tale contenuto attestino un investimento rilevante sotto il profilo qualitativo o quantitativo.”236

235 _{L, CHIMIENTI, Banche dati e diritto d’autore,1999.}

Esistono anche applicazioni dell’AI nella giurisdizione, in particolare sono noti i tool di risk assessment utilizzati da tempo nella giustizia penale USA contenziosa e precontenziosa.237

Ma quali sono i presupposti tecnologici necessari perché si possano introdurre nel sistema del PCT sistemi di AI?

Come noto, uno degli elementi fondamentali per il machine learning, che è un metodo per poi per arrivare ai sistemi di AI, è la disponibilità di dataset adeguati per le varie fasi di sviluppo (dal training, al cross validation e test). È diretto il rapporto tra maggior dimensione del database e qualità dei dati e l’accuratezza dei modelli risultanti.

Partendo da questa premessa è facile intuire il ruolo determinante della potenza di calcolo necessaria per uno sviluppo e una successiva gestione di questi sistemi. Pertanto, i progetti basati sull’intelligenza artificiale che non utilizzino il cloud computing possono implicare costi di elaborazione elevati.

Esaminati gli aspetti tecnologici vanno poi affrontati quelli progettuali.

Lo svolgimento di una DPIA (Data Protection Impact Assessment) preliminare sul sistema di trattamento che si intende implementare, che descriva anche i benefici attesi e raccolga l’opinione, necessariamente atecnica, dei soggetti interessati da questo trattamento di dati personali “particolari”, come definiti dal GDPR (General Data Protection Regulation).

Tra i benefici, con tutta evidenza, ci si aspetta di avere un miglioramento in termini di conoscenza e di efficienza, che dovrebbe consentire al Giudice di avere un provvedimento proposto dalla macchina da ratificare o modificare.

Ulteriore passaggio dovrebbe certamente essere la consultazione preventiva dell’Autorità per la Protezione dei Dati Personali, anche al fine di evitare inciampi come avvenuto nella recente realizzazione del sistema di Fatturazione Elettronica.

237 _{A.SIMONCINI, L’algoritmo incostituzionale: intelligenza artificiale e il futuro delle libertà, in BioLaw Journal,} 2019.

Altro tema molto delicato e aperto, è quello relativo alle questioni più strettamente legali: quali sono le responsabilità di chi progetta, gestisce o utilizza un software che produce decisioni automatizzate errate?

Sono noti i casi di bias che possono affliggere questi sistemi: tra i più noti si pensi al caso di discriminazione razziale del servizio di photo-TAG di Google o a quello di discriminazione di genere del sistema di assunzioni di Amazon.

Queste decisioni dovrebbero avere una revisione umana (del Giudice) non trascurabile, si possono in effetti considerare decisioni automatizzate?

Guardando allo stato dell’arte in Italia, la Consolle del Magistrato già da tempo consente al Giudice di attingere al fascicolo informatizzato per compilare in modo automatizzato l’epigrafe del documento, verbale, ordinanza o sentenza che sia, sulla base di modelli predefiniti. In questo contesto di automazione, però, i contenuti del documento, quali la verbalizzazione, il percorso argomentativo, la decisione, sono di esclusiva competenza del Giudice (rectius dell’Ufficio del Processo).

Venendo all’Archivio giurisprudenziale, anzi all’”Archivio nazionale di merito”, va valutato se si tratta di una base dati che può essere presa in considerazione per istruire una macchina con un sistema di machine learning e quindi di costruire un sistema di intelligenza artificiale che supporti in particolare il Giudice nell’emissione di un provvedimento ove ricorrano determinati elementi che la macchina può riconoscere.

Va approfondito come deve essere strutturato questo provvedimento e quindi di che tipo e qualità deve essere il dato per realizzare un sistema di machine learning e in seconda battuta come questo sistema può essere inserito nell’attuale sistema di PCT, se a livello centrale/ministeriale con banca dati accentrata e capacità di calcolo accentrata o su base distrettuale/distribuita.

Infine, questo sistema dovrebbe avere un approccio etico.

Nel dicembre 2018, proprio su questi temi, la Commissione europea per l’efficacia della giustizia (CEPEJ) del Consiglio d’Europa ha emanato la Carta etica europea per l’uso dell’intelligenza artificiale nei sistemi di giustizia penale e nei relativi ambienti, che

dimostra senza dubbio una certa consapevolezza riguardo al tema e riconosce una «crescente importanza della intelligenza artificiale (IA) nelle nostre moderne società e dei benefici attesi quando questa sarà pienamente utilizzata al servizio della efficienza

e qualità della giustizia».

Per «i soggetti pubblici e privati responsabili del progetto e sviluppo degli strumenti e dei servizi della IA» sono state indicate alcune fondamentali linee guida a cui attenersi quali:

1. principio del rispetto dei diritti fondamentali 2. principio di non discriminazione

3. principio di qualità e sicurezza 4. principio di trasparenza

5. principio di garanzia dell’intervento umano.

Questi principi dovrebbero tendere, secondo le aspettative della Carta etica, a prevenire un «approccio deterministico» ovvero il rischio di un eccessivo automatismo, senza revisione umana, o standardizzazione delle decisioni.

Diverso è il discorso che invece occorre effettuare nei confronti del settore della giustizia penale in cui la tecnologia, l'informatica e gli algoritmi entrano di diritto come protagonisti finanche nell'istruttoria probatoria.

Gli attori del settore della giustizia penale, tra cui forze di polizia, laboratori criminali, tribunali, avvocati e agenti di libertà vigilata, utilizzano i sistemi algoritmici in una vasta gamma di modi238_:

➢ Analisi fotografica e video, incluso il riconoscimento facciale; ➢ Profilazione del DNA;

➢ Valutazione e previsione del rischio individuale; ➢ Mappatura del crimine predittivo;

➢ Strumenti di estrazione dati da cellulare; ➢ Data mining e social media intelligence.

I sistemi algoritmici sembrano essere sempre più distribuiti e questo rapporto dimostra che la diffusione e l'interesse sembrano espandersi fortemente in numerosi settori. Diverse ragioni possono essere poste come responsabili di questa crescita.

Pressioni di risorse: in tutti i settori pubblico e privato, l'allocazione delle risorse e la

necessità di maggiori efficienze stanno spingendo la domanda di un maggiore utilizzo di tecnologie automatizzate e autonome. Questa pressione è avvertita tanto nel campo della giustizia penale quanto in qualsiasi altro, specialmente con calo dei fondi pubblici di anno in anno.

Desideri di una maggiore proattività: allo stesso tempo, l'attenzione della giustizia

penale britannica si è spostata dal crimine e dal criminale alla vittima e alla vittimizzazione, con un'enfasi sulla vulnerabilità che pone maggiori richieste alle forze di polizia di agire in modo generalmente preventivo e preventivo piuttosto che in modo specificamente reattivo. Questa attenzione all'anticipazione del rischio porta a considerare gli strumenti predittivi utili nel facilitare questo obiettivo in modo economicamente efficace239_.

Disponibilità di dati e infrastruttura: la maggiore disponibilità di set di dati collegati ha

anche guidato l'uso di sistemi algoritmici. Gli sforzi di digitalizzazione sono in corso nel settore pubblico da molti decenni e l'accesso e la combinazione dei sistemi di dati per uno strumento algoritmico non richiede più il pesante investimento infrastrutturale che una volta aveva fatto. Altre infrastrutture tecnologiche, come il maggiore uso del GPS della polizia e dei computer portatili o basati su veicoli flessibili, facilitano anche un maggiore utilizzo dei sistemi algoritmici. Gli approcci per valutare e guidare efficacemente gli agenti di polizia verso i punti di crisi, ad esempio, si basano sullo sviluppo di sistemi GPS che possono inviare segnali ogni minuto240_.

239 CANZIO 2018, Op. cit

240 DUNLEAVY, P., MARGETTS, H., BASTOW, S. AND TINKLER, J. (2006). Digital Era Governance, Oxford: Oxford University Press.

Nuove sfide al crimine: la tecnologia sta cambiando la natura del crimine. Il crimine

informatico descrive due aree di attività criminale strettamente collegate ma distinte. I crimini cyber-dipendenti possono essere commessi solo tecnologicamente, con il calcolo sia dei mezzi che degli scopi di un crimine come la distruzione dei dati. I reati informatici sono reati tradizionali che possono essere aumentati in scala o raggiunti mediante l'uso di tecnologie digitali, come la frode d'identità o il riciclaggio di denaro, molestie e abusi facilitati dalle tecnologie connesse: tutte queste sono sfide in cui le risposte algoritmiche sono candidate per interventi necessari e proporzionati per mantenere lo stato di diritto. Si pensa che i sistemi algoritmici e l'intelligenza artificiale esacerbino le sfide del crimine informatico in un'ampia varietà di modi241_.

Accesso alla giustizia: la giustizia criminale si trova di fronte a una valanga di

problemi, tra cui una crescente carenza di avvocati di servizio, aumento delle chiusure dei tribunali, ostacoli all'accesso all'assistenza legale e prove cruciali non essere disponibile fino all'ultimo minuto. I sistemi algoritmici potrebbero contribuire a rendere più efficienti i sistemi attraverso l'automazione delle attività automatiche o, più controversa, assumere ruoli di supporto decisionale più carichi di valore. I responsabili politici hanno sempre più focalizzato la loro attenzione su come la tecnologia potrebbe essere in grado di aiutare a colmare la necessità di accedere alla giustizia. Al di fuori della giustizia penale, la risoluzione delle controversie online è un campo in crescita242_.

Credenza nell'efficacia della previsione computazionale: Mentre l'applicazione di

dati acquisiti di routine per comprendere meglio i fenomeni di interesse pubblico non è una nuova ambizione o pratica, l'idea che queste serie di dati potrebbero contenere intuizioni che trasformano la natura del servizio pubblico, in particolare alla luce delle nuove applicazioni dell'apprendimento automatico, è diventata attuale. Le organizzazioni di giustizia penale non desiderano essere lasciate indietro e si sono

241 RICCIO et al. 2018, Op. cit.

mobilitate dietro il recente discorso e l'interesse per l'apprendimento automatico, l'intelligenza artificiale e il processo decisionale basato sui dati243_.

Ai sistemi algoritmici è stato promesso di apportare una serie di vantaggi a diverse sezioni e funzioni. Di seguito sono riportati alcuni dei benefici comuni o citati che la Commissione ha riscontrato nel contesto della giustizia penale244_.

Efficienza dall'automazione: una distinzione che si può trarre tra i vantaggi dei sistemi

algoritmici si concentra su quelli che automatizzano compiti semplici, relativamente semplici in cui il risultato non è controverso, rispetto a quelli che aumentano le decisioni per aiutare le organizzazioni a tentare di ottenere risultati che non potrebbero avere senza approfondimento sui processi computazionali. L'automazione dei servizi tecnici, come la compilazione di moduli, il controllo, il recupero di informazioni e la diffusione può portare notevoli vantaggi, supponendo che l'automazione non metta in pericolo la qualità delle attività che non possono essere effettivamente svolte dalle sole macchine o rimosse punti importanti di contatto umano e risoluzione dei problemi. L'automazione nelle istituzioni pubbliche è stata un compito lungo decenni, spesso promesso di fornire cambiamenti radicali ma soggetta a sfide organizzative e politiche lungo la strada. Le tecnologie di apprendimento automatico possono aiutare con l'automazione, ad esempio aiutando a collegare automaticamente i sistemi che non funzionano naturalmente bene insieme, o collegando tipi di informazioni a processi che le macchine avevano precedentemente avuto problemi di analisi, come la scrittura a mano o il parlato. In generale, tuttavia, se l'automazione si comporta bene su compiti semplici senza effetti collaterali imprevisti, ha un impatto limitato sui diritti umani e fondamentali. Tuttavia, questi effetti collaterali possono essere complessi, come l'impatto della riduzione della disponibilità dell'interazione umana in alternativa all'interazione con i computer; sfide di accessibilità per coloro che si trovano dall'altra parte del divario digitale o con disabilità che rendono difficile l'accesso ai contenuti online; o maggiori impatti sistemici, come il cambiamento della cultura del contenzioso e della giustizia

243 Ibid.

attraverso tribunali online e sistemi alternativi di risoluzione delle controversie. Mentre l'automazione può portare benefici, qualsiasi cosa oltre l'automazione molto semplice può avere conseguenze complesse245_.

Efficacia dall'aumento dell’automazione: i sistemi algoritmici potrebbero non

automatizzare le attività automatiche, ma potrebbero fornire nuove informazioni e analisi che modificano i risultati che sarebbero stati conseguiti nell'ambito di un sistema decisionale tradizionale. Ad esempio, alcune sfide nel settore della giustizia possono essere affrontate in modo più efficace utilizzando un targeting più granulare. Gli algoritmi di apprendimento automatico sono progettati per discriminare tra casi, oggetti o individui e possono distinguerli in modi che potrebbero essere difficili nella pratica. Tali interventi su misura potrebbero essere promettenti anche nel settore della giustizia, ad esempio per comprendere in che modo agli individui possono essere forniti i servizi di riabilitazione più adatti alle loro circostanze; erogare corsi di formazione durante la detenzione; o identificare i punti di leva nelle reti criminali che hanno maggiori probabilità di interrompere il loro funzionamento. Vale la pena notare, tuttavia, che anche interventi più granulari comportano il rischio aggiuntivo di introdurre inavvertitamente discriminazioni246_.

Verificabilità: gli algoritmi dispiegati in determinati contesti legati alla giustizia possono

offrire la capacità di fornire un maggior grado di controllo dei processi e dei risultati esistenti. Le pratiche esistenti in aree complesse spesso offrono ai professionisti un notevole margine di manovra nelle aree grigie dove le regole sono meno chiare. Questo può essere importante per abilitare un sistema flessibile, ma può anche essere un percorso per schemi indesiderati, come il pregiudizio e la discriminazione. Laddove le regole sono implementate e applicate da un gran numero di professionisti, la coerenza dell'applicazione può essere compromessa. I sistemi algoritmici, supponendo che i loro risultati siano implementati fedelmente e che siano aperti al controllo, potrebbero offrire un punto centrale per l'esame e il controllo di questioni come l'equità247_.

245 BOLOGNINI et al. 2016, Op. cit.

246 RICCIO et al. 2018, Op. cit.

Coerenza e controllo: in relazione alle questioni della verificabilità centrale, la