Sicurezza, responsabilità e liability

Un altro aspetto importante da tenere in considerazione quando si parla di automazione è la sicurezza delle persone che lavorano o utilizzano i robot e altri sistemi CPS. I dispositivi tecnologici stanno diventando sempre più autonomi, sono in grado di apprendere da soli attraverso l'esperienza,

self-learning, e di prendere decisioni da soli e metterle in atto interagendo con ciò che gli sta attorno e

con le persone con cui vengono in contatto. La loro autonomia, la loro complessità e il loro impiego in molti aspetti della vita degli uomini hanno spinto la commissione a chiedersi se le persone siano davvero sicure vicino ai robot e, qualora si verificasse un danno al sistema o alla persona, chi dovrebbe essere considerato responsabile per quest'azione. La legislazione attuale, rappresentata dalla direttiva che disciplina la responsabilità legale per i prodotti difettati, la Direttiva 85/374/EEC34, non è sufficiente a disciplinare tutta la materia della liability. La direttiva si limita a disciplinari i casi in cui i danni siano causati dai difetti di produzione e solo nella condizione che la persona danneggiata sia in grado di provare il danno subito, il difetto di fabbrica e la relazione tra questi due tralasciando, quindi, i rischi legati ai nuovi robot che, date le loro abilità di apprendimento e di adattabilità all'ambiente, non sono facilmente prevedibili e per i quali risulta a volte impossibile tracciare a ritroso una persona a cui poter attribuire correttamente la responsabilità. Quindi, di fronte ad un danno causato da un robot, è spontaneo chiedersi chi sia il responsabile: il proprietario, il produttore, il designer o il programmatore?

Secondo Mady Devaulx, sono previste due opzioni: nella prima il responsabile è il produttore, in base alle norme di responsabilità, in quanto è nella posizione di interagire con i fornitori e, quindi, di

34 _{Direttiva 85/374/CEE “Direttiva del Consiglio relativa al ravvicinamento delle disposizioni legislative,} regolamentari ed amministrative degli Stati membri in materia di responsabilità per danno da prodotti difettosi ” (Report UE- Mady Delvaux, 2017)

114

poter limitare il danno; la seconda opzione che rappresenta la più appropriata per una corretta attribuzione della responsabilità è quella che prevede una valutazione del rischio attraverso test svolti prima che questo si verifichi e una determinazione del risarcimento che deve essere condiviso tra tutti gli stakeholder. Relativamente al problema del risarcimento, secondo Delvaux, è importante introdurre un'assicurazione obbligatoria che i proprietari di robot, in particolare quelli più grandi e pericolosi, dovranno stipulare per tutelare qualsiasi persona dai probabili danni.

La scelta di armonizzare la legislazione sui robot e i CPS in ogni loro aspetto è finalizzata a delineare dei standard tecnici con l'ESO (European Standardisation Organisations) e l'ISO (International Standardisation Organisation) in modo da eliminare o almeno limitare l'eccessiva frammentazione normativa tra gli Stati Membri e garantire una maggiore sicurezza dei prodotti e la protezione per consumatori e lavoratori.

2.2.1 La sicurezza nei veicoli autonomi

Le maggiori sfide in tema di sicurezza e responsabilità derivano dalla diffusione dei veicoli in grado di muoversi da soli senza la presenza del guidatore. Nella loro totale autonomia sono tra i CPS più rischiosi per la vita degli uomini e, per questo motivo, è stato quasi d'obbligo identificarli in modo dettagliato e capire quali siano le loro potenzialità e i benefici così come i loro impatti più negativi. Queste tecnologie hanno bisogno di una disciplina uniforme tra gli stati che riduca gli ostacoli alla loro adozione e, soprattutto, permetta a tutti gli stati di essere più competitivi grazie al loro impiego. Nel grande gruppo dei veicoli autonomi rientrano tutte le possibili forme di guida pilotata, automatizzata, connessa e autonoma della strada, dei treni, del trasporto via mare e aereo; perciò in questa categoria sono compresi tutti i veicoli, dalle macchine, agli aerei fino ai droni cui si dovranno aggiungere tutti i futuri mezzi di trasporto (Report UE- Mady Delvaux, 2017). L'adozione di questi veicoli sta portando a cambiamenti anche in ambiti strettamente correlati a questi come la responsabilità civile per cui verrà rivista la materia assicurativa e della responsabilità, il codice della strada per la sicurezza dei guidatori e la maggiore tutela ambientale che si avrà con l'impiego di risorse energetiche rinnovabili. Si dovranno tenere in considerazione anche gli effetti positivi per le persone disabili o con ridotta mobilità, poiché questi mezzi permetteranno loro di essere più autonomi e capaci di agire meglio rispetto a prima.

Una particolare attenzione dovrà essere rivolta ai droni, soprattutto ai RPAS (Remotely pilot aircraft systems), veicoli aerei senza pilota che sono già stati impiegati nell'aviazione militare e ora stanno per essere introdotti come mezzi di trasporto anche in quella civile, per cui si dovranno svolgere tutte le valutazioni di rischio del caso e identificare dei sistemi che possano tracciare in ogni momento la posizione del drone in modo da monitorare il suo stato ed evitare incidenti. Tale materia molto attuale dovrà essere disciplinata dal Regolamento (EC) No 216/2008 del Parlamento e del Consiglio

115

Europeo.35

2.2.2 I robot nella sanità

Il ruolo dei robot nell'ambito della sanità sta diventando sempre più rilevante grazie ai progressi e alla sofisticatezza dei macchinari che sono impiegati nelle operazioni chirurgiche, nel monitoraggio dei parametri vitali e nella riabilitazione. I nuovi robot piccoli, mobili e autonomi sono dotati della capacità di fare diagnosi iniziali che offrono un buon punto di partenza per l'attività del medico; sono strumenti che garantiscono un livello superiore di assistenza del paziente, finalizzati a migliorare la qualità e l'aspettativa di vita grazie al minore rischio di errore che è associato all'uomo. Essi vengono impiegati anche nella riabilitazione e come strumenti per la logistica e il supporto alle persone con scarsa mobilità o completamente inferme.

L'impiego della tecnologia nel campo della medicina ha permesso di rendere il servizio di assistenza e cura migliore, offrendo maggiori opportunità in termini di durata della vita e, soprattutto, di qualità della vita. Tuttavia è necessario un controllo continuo di questi strumenti, dal momento che sono a stretto contatto con le persone e, in molti casi, sono compartecipativi della responsabilità delle loro vite; devono, quindi, essere adottate delle procedure sicure ed efficaci per valutarne la sicurezza, in particolar modo di quei dispositivi che vengono impiantati nel corpo delle persone e per cui si stanno sollevando forti scetticismi da un punto di vista etico36.

L'utilizzo di robot o dispositivi CPS per riparare organi umani danneggiati ha portato la società a chiedersi se non sia necessario un cambiamento nella definizione e nella considerazione che viene attribuita ai disabili: questi dispositivi sono impiegati per aiutare le persone a superare quelle difficoltà causate da loro mancanze e problematiche fisiche ma crea dei risvolti etici su come queste persone possano, grazie ai dispositivi, essere maggiormente performanti e arrivare a fare cose prima d'ora immaginabili. Per di più, sistemi interconnessi inseriti nel corpo umano potrebbero essere attaccati da hacker e ripuliti o addirittura spenti comportando danni a volte anche irreversibili per l'uomo. Per controllare la corretta applicazione di questi strumenti e un loro uso etico, la commissione propone la creazione negli ospedali di comitati di esperti che risolvano problematiche che si possano presentare per i paziente.

35_{Il Regolamento (EC) No 216/2008 del Parlamento e del Consiglio Europeo contiene regole comuni nel settore} dell'aviazione civile e che istituisce un'Agenzia Europea per la sicurezza aerea e che abroga la direttiva 91/670/CEE del Consiglio, il regolamento (CE) n. 1592/2002 e la direttiva 2004/36/CE.

36

Regolamento 2017/745 del Parlamento europeo e del Consiglio in materia di dispositivi medici entrato in vigore il 5 Aprile 2017.

116