Dipartimento di Civiltà e forme del sapere
Corso di Laurea in Filosofia e forme del sapere
TESI DI LAUREA
INTELLIGENZE VIRTUALI.
LA FILOSOFIA MORALE DI G
ÜNTHER ANDERS.
RELATORE
Prof. Adriano Fabris
CANDIDATO
Mattia Lopomo
1
Indice.
Premessa….………. p. 2
1. Da tecnica a tecnologia. I due mondi………... p. 5
1.1) Le macchine di oggi……….. p. 5
1.2) La questione dell’autonomia………... p. 11
1.3) Due linguaggi, due mondi diversi………...… p. 20
2. Chi è e perché Günther Anders……….. p. 28
2.1) GüntherAnders. Le due vite……… p. 28
2.2) Le opere di Anders……….. p. 34
2.3) Perché rileggere oggi Anders………..………… p. 40
3. L’uomo prometeico...……….……… p. 48
3.1) Un essere senza mondo………... p. 48
3.2) Tecnocrazia…………...……….. p. 55
3.3) Il “sovraliminale”. Vergogna e dislivello prometeici……….. p. 67
4. Questione di etica…………..……….……… p. 79
4.1) Eichmann ed Eatherly………...……..……… p. 79
4.2) Conseguenze sensibili...……….. p. 88
4.3) Immaginazione e sensibilità. Ultima chance………... p. 96
Conclusioni…..………..…….. p. 102
2
Premessa.
L’uomo ha da sempre il bisogno di abitare il mondo. Dall’alba dei tempi, egli si è impegnato nella costruzione di strumenti che facilitassero questo compito. Gli strumenti inventati dall’uomo e i modi in cui egli “costruisce il mondo” costituiscono il “sapere tecnico”. La tecnica è l’insieme di quelle attività pratiche che sono necessarie per ottenere risultati efficaci. Essa è ciò che ha permesso all’uomo di dominare la natura e affermare la sua volontà. La tecnica è stata ed è ora, più che mai, il contrassegno umano per eccellenza. L’umanità ha insomma un legame indissolubile con la tecnica.
Viviamo infatti in un periodo storico in cui uomo e tecnica rappresentano, ormai, una cosa sola. Il nostro mondo odierno, senza elettricità e tecnologia, è letteralmente impensabile. Nessuno può concepire una regressione o immaginare di vivere la propria vita affrancato dagli agi della tecnica moderna.
È questa condizione particolare, l’essenziale rapporto uomo-tecnica, ad ispirare il nostro lavoro. Questo soprattutto perché solo recentemente iniziano ad attualizzarsi, con conseguenze inaspettate, le infinite possibilità derivanti dall’ultima evoluzione della tecnica: la tecnologia. Dopo questa trasformazione, noi crediamo che la tecnica non sia più la stessa. La sua “essenza” pare essere, ancora una volta, mutata.
Infatti, mentre per lunga parte della storia umana la tecnica è stata un “semplice” potenziamento di facoltà già presenti nella dotazione umana, pensabile cioè come totalità di quegli strumenti che ampliano la portata di ciò che l’uomo già sa fare, con la rivoluzione industriale del XVIII secolo essa subisce un mutamento fondamentale, iniziando ad ottenere ciò che la rende un tema così inevitabile ai giorni nostri: compaiono le macchine, sistemi automatizzati che non necessitano di energia umana per funzionare (come quella che serve ad un martello per essere battuto su un chiodo). Le macchine rappresentano la prima emancipazione della tecnica dall’uomo: devono solo essere avviate, oltre che rifornite di energia, ma funzionano da sole e riescono ad ottenere risultati migliori di quelli umani.
Da quando sono “nate”, le macchine hanno velocemente popolato il nostro mondo, invadendone ogni spazio. Esse sono diventate le direttrici di motilità dell’uomo: sono le
3
nostre capacità tecniche che guidano le nostre scelte, che ci indicano la via, e non il contrario1. Le capacità dell’uomo sono progredite talmente tanto e talmente in fretta sul piano tecnico da far sì che si determinasse, addirittura, un cambiamento epocale, in senso letterale, tanto che l’era geologica attuale è denominata dalla comunità scientifica “antropocene”, cioè come fase geologica in cui ogni sviluppo dell’ambiente terrestre avviene in conseguenza della presenza e dell’azione dell’uomo. L’umanità ha raggiunto un tale grado di conoscenze tecniche da determinare gli stessi cambiamenti naturali. Quella che un tempo valeva come opposizione categoriale fondamentale, quella di natura e artificio, di physis e techne, fra ciò che è naturale e ciò che non lo è, oggi non vale più; come molte altre coppie concettuali.
È per questo motivo che produciamo questo lavoro: indagare le conseguenze della commistione totale fra uomo e macchina; cercare di capire che impatto abbia l’assoluta dittatura della tecnica sull’esistenza e sull’essere dell’uomo.
Nel primo capitolo, presenteremo i massimi sviluppi tecnologici odierni. Cercheremo di mostrare come oggi non si possa più parlare di semplice tecnica o di banali strumenti, ma come, invece, siano cambiati i paradigmi stessi delle macchine, ora intelligenti e autonome (si specificherà in che senso). Le macchine di oggi, infatti, sono i computer. Ogni computer è collegato in rete, “Internet”, e comunica con gli altri. I computer non sono solo le “scatole e monitor” a cui siamo abituati a pensare, ma sono sistemi in cui l’hardware, ossia la parte fisica, comunica con un software, ossia una parte “scritta”, un codice, che regola il comportamento dell’hardware. Il titolo del nostro elaborato è effettivamente ispirato dalle massime tecnologie computerizzate odierne, le Intelligenze Artificiali. Abbiamo però preferito chiamarle “virtuali” per richiamare, oltre che la natura “informatica” di questi dispostivi, l’etimologia latina della parola “virtualis”, che significa “potenziale”: è la potenzialità pura, infatti, che pare distinguere essenzialmente queste macchine da tutti i loro predecessori.
Dopo aver mostrato a grandi linee la “situazione tecnica” odierna, ovvero gli sviluppi tecnologici più recenti, presenteremo l’autore che ispira e guida la natura filosofica del nostro lavoro: GüntherStern Anders. Nel secondo capitolo parleremo di chi Anders sia stato, presenteremo sommariamente la sua opera (in particolar modo i testi di
1 In questa sede per mancanza di spazio e di tempo, non verrà affrontato il rapporto “peculiare” fra la scienza
e la tecnologia al giorno d’oggi, ma si tratta sicuramente di un tema di importanza fondamentale che dovrebbe trovare maggiore spazio e attenzione nella ricerca in generale.
4
cui ci serviremo durante lo svolgimento della nostra tesi) e spiegheremo perché abbiamo deciso di adottare il suo punto di vista come lenti per i nostri occhiali.
Nel terzo capitolo verrà presentata e approfondita la filosofia di Anders, soprattutto il suo cuore pulsante: la critica dell’era della tecnica e l’antropologia negativa del filosofo tedesco. Le definizioni dell’uomo di oggi che Anders trova ci sembrano particolarmente attuali e per questo motivo verranno studiate in questa parte del nostro lavoro.
Il quarto capitolo conterrà una disamina delle conseguenze effettive per l’umanità nella situazione tecnica. Vedremo cosa può succedere a noi uomini imbrigliati dal giogo tecnico, e soprattutto cosa è già successo: eventi come l’olocausto nazista o l’uso delle armi nucleari. Seguendo certi modelli di Anders, che si rifanno esplicitamente anche a personaggi realmente vissuti (come Claude Eatherly e Adolf Eichmann), tenteremo di cogliere in anticipo i massimi rischi per l’uomo di oggi. Sempre sulla scorta di Anders, vedremo quali sono le possibilità che rimangono all’umanità e tenteremo di capire se sia possibile una ripresa di qualche genere.
Infine, nelle pagine conclusive, cercheremo di riallacciare il pensiero di Anders alla nostra situazione tecnica odierna, quella della tecnologia e delle macchine intelligenti, per verificare ancora una volta se avremo trovato qualche appiglio teorico in più per discernere una condizione di ignoranza che, oggi, sembra quasi essere necessaria: visto che il mondo e le possibilità umane sono cresciute talmente a dismisura da scoraggiare i tentativi di comprensione dell’oggi – in altre parole, l’argomento della nostra tesi.
5
1. DA TECNICA A TECNOLOGIA. I DUE MONDI.
1.1 Le macchine di oggi.
Le macchine di oggi si chiamano “computer”. Un computer, rimanendo su un livello di comprensione superficiale, è un sistema in cui interagiscono hardware e software. L’hardware è la parte fisica del computer, la sua componentistica, i suoi “muscoli”: questa parte della macchina stabilisce fino a che punto possono arrivare le prestazioni del computer.
Il software, invece, è la parte “metafisica” del computer, il “DNA”, il suo codice di scrittura: è tutta quella parte che regola e definisce il comportamento della parte hardware. Ad oggi abbiamo raggiunto un alto livello di efficienza computeristica: l’hardware, infatti, ha subito una drastica riduzione in termini di grandezza ma ha acquisito, parallelamente, potenza, elevando esponenzialmente le proprie capacità prestazionali.
I computer hanno segnato una svolta decisiva nella storia dell’umanità. Le scoperte tecnico-scientifiche hanno superato la potenza dell’immaginazione. I risultati a cui è saputo giungere l’uomo contribuiscono alla rimessa in gioco di ogni sapere e verità; ci troviamo in un periodo storico che rappresenta una svolta epocale, forse paragonabile alla rivoluzione agricola del Neolitico. Noi uomini d’oggi, infatti, siamo pienamente immersi nell’evolversi della terza rivoluzione industriale. Si tratta di quel periodo, fatto iniziare convenzionalmente dal 1970, in cui tutti i cambiamenti socio-economici sono caratterizzati da una immane spinta nell’innovazione tecnologica e del progresso2.
Attraverso tali sviluppi tecnici, il computer non si presenta più come una semplice macchina calcolatrice altamente efficiente, ma si avvia su una strada più complessa: oggi infatti, viste le alte potenzialità della tecnologia, si è imposta la ricerca sull’intelligenza artificiale, intesa, anche molto banalmente, come forma perfezionata, “umanoide”, degli attuali computer. La missione odierna è infatti tentare di far sì che, grazie alle sue capacità, il computer capisca l’uomo senza una procedura definita, che riesca ad imparare, facendo esperienza, esattamente come l’uomo: che si auto-perfezioni e progredisca.
6
Le attività che un’intelligenza artificiale può svolgere sono molteplici. Ci sono molte possibili applicazioni di questa nuova tecnologia. Volendo, però, sintetizzare grossolanamente, l’intelligenza artificiale basa ogni sua attività su calcoli e previsioni di grandi, grandissime, quantità di dati; questa, fondamentalmente, è la novità introdotta, i famosi “big data”. Queste macchine riescono a compiere “un’analisi del reale attraverso modelli matematici di approssimazione, affidati a programmi di calcolo che contano su computer sempre più potenti”3.
L’attività fondamentale di questi apparati, il calcolo, non è dunque mutata qualitativamente; è mutata invece drasticamente la quantità di calcoli e di dati che questi computer hanno a disposizione. La logica interna di queste macchine rimane dunque la stessa dei computer “meno smart”: è una logica di tipo matematico. Più precisamente, è la statistica: i computer, dotati di “motori altamente efficienti” (l’hardware), e di banche dati (i dati sono etichette, informazioni di vario genere) pressoché infinite, offrono previsioni che si basano su molte combinazioni e probabilità incrociate. Essi, però, mostrano “comportamenti” sorprendenti, danno soluzioni inaspettate, risultati che sarebbe difficile predeterminare in fase di programmazione (ovvero quel periodo in cui letteralmente si scrive il software, ossia il codice “di comportamento” della macchina). Questi “comportamenti” risultano, all’occhio umano ingenuo, fortemente adattivi. Infatti, come vedremo, ci sono computer che inventano, che scoprono e che creano.
Teniamo fin da ora, però, a sottolineare che, in tali dinamiche, il computer non agisce mai “umanamente”, ossia attraverso una rappresentazione interna del perché faccia quel che fa4. L’agire del computer è sprovvisto, per così dire, di “senso”: al minimo, il “senso” dell’agire del computer può essere, ad oggi, soddisfare i procedimenti programmati dal software. I computer, infatti, non hanno una rappresentazione interna dell’azione che compiono, del perché la stiano compiendo; la compiono e basta. Il paradigma da soddisfare è l’efficienza del risultato.
In tali processi, l’intelligenza artificiale basa il suo lavoro sui dati. I dati sono dunque “l’oro” del XXI sec., perché sono il “carburante” per il cervello delle macchine: sono gli utenti che, usando tali apparati, riforniscono le macchine di dati, “chiedendo […] di accettare cookie, taggare gli amici nelle foto, valutare un prodotto o giocare a un videogioco geolocalizzato basato sul catturare mostri per strada”5.
3 Ivi, p. 87.
4 Cfr. AAVV, Macchine che pensano, trad. di Valeria Lucia Gili, Ed. Dedalo, Bari 2018, pp. 34-35. 5 Cfr. Ivi, p. 37.
7
Dunque l’interazione degli utenti con tutto il mondo virtuale è la base di rifornimento dell’intelligenza di queste macchine: più gli utenti generano dati, più le macchine “sanno”; più sanno, più “crescono”.
Interessante è il modo in cui i ricercatori e gli informartici stanno tentando di fornire ancora più potenza a questi sistemi. Le intelligenze artificiali, infatti, per migliorare, vengono ora programmate con un margine d’errore nei propri calcoli, ossia facendo sì che la macchina compia calcoli più approssimativi: facendo questo, si è visto che i computer intelligenti migliorano, paradossalmente, le proprie previsioni e la capacità di apprendimento6.
Il risultato di questi avanzamenti tecnici nello sviluppo dell’intelligenza artificiale comporta, però, anche una conseguente perdita di potere da parte degli sviluppatori, ossia coloro che, in fase di progettazione e sviluppo, impostano le regole fondamentali del sistema7. Tutto ciò risulta evidente se si considera che per progredire, queste macchine, hanno bisogno di errare: ossia devono, esattamente come l’uomo, sbagliare, per poter poi dare risultati migliori nel tempo. Questo significa che, come dire, ci deve essere un margine di “oscurità”, di “ignoto”, in quello che la macchina può fare: e se per la macchina quest’ignoto si può attualizzare in un miglioramento, per l’uomo significa perdere controllo e capacità di previsione rispetto l’agire della macchina. Oltretutto, come si è già detto, le macchine non sono capaci di fornire il senso delle scelte che operano8. Esse non forniranno mai il “perché” delle proprie scelte.
Esistono già oggi molti software d’intelligenza artificiale, basati su algoritmi complessi, che possono inventare e fare scoperte (algoritmi genetici9) o software in grado, secondo alcuni, di dispensare l’uomo da tutti i problemi della matematica e forse dalla matematica stessa, visto che, con l’avanzamento dell’intelligenza artificiale, l’uomo non potrà più comprendere i risultati che le macchine gli presenteranno10.
L’ignoto, che è parte essenziale della creatività e dell’esperienza estetica in generale, dà all’intelligenza artificiale anche la capacità di creare opere originali, come i dipinti; è il caso del software Painting Fool11, un esempio che mostra come la macchina sia sempre più vicina a ciò che noi intendiamo per “umanità”: anche le intelligenze
6 Cfr. Ivi, p. 63. 7 Cfr. Ivi, p. 120. 8 Supra.
9 Cfr. AAVV, Macchine che pensano, op. cit., p. 140. 10 Cfr. Ivi, p. 153.
8
artificiali, ora, possiedono qualcosa di simile a quella “scintilla” inspiegabile e indefinibile che si esplica nell’immaginazione e creatività, che da sempre contraddistingue l’uomo dal resto degli esseri viventi. Questi sono tutti esempi di macchine che si allenano nel replicare, o, si potrebbe azzardare a dire, nello sviluppare l’intelligenza umana.
Ci sono poi anche casi di software d’intelligenza artificiale meno “antropomorfi”, più “calcolatori” che “creativi”, che sono tuttora impiegati e funzionanti in diverse società: ci sono algoritmi che decidono chi ha accesso alle cure e chi no, intelligenze artificiali che riescono a migliorare nettamente i risultati della fecondazione in vitro12.
Come si può evincere da questi esempi, le macchine intelligenti ci stanno eguagliando nei compiti che credevamo essere prerogative umane, e in certi casi ci hanno già sorpassato. Le intelligenze artificiali, dunque, si presentano come macchine con un ampio grado di autonomia, a causa di tutte le caratteristiche che le contraddistinguono: possono compiere calcoli inediti e incomprensibili all’uomo; generano soluzioni che, seppur efficaci, rimangono immotivate, ma non per questo non applicate; possono letteralmente creare, dando vita a prodotti inaspettati e inimmaginabili.
Per questo tipo di prodotti della tecnica si è iniziato, da tempo, ad usare l’espressione “tecnologia”: questa parola distingue il complesso di ciò che l’uomo ha saputo produrre dopo la terza rivoluzione industriale13, da tutto quello che prima veniva inteso come “tecnica”. Mentre la tecnica prolungava le capacità umane e, di conseguenza, le responsabilità ad esse collegate, la tecnologia si “connota per il suo carattere tendenzialmente indipendente e auto-referenziale”14. Di un semplice strumento tecnico ci si serviva per espandere le proprie capacità fisiche o psicologiche, ma il suo impiego dipendeva dalla volontà dell’utilizzatore, era interamente dominato15. Le macchine tecnologiche, gli apparati che compongono il sistema della tecnologia, invece, comunicano fra loro, sono intelligenti. Così facendo esse danno vita ad un vero e proprio sistema tramite cui acquisiscono capacità di auto-regolazione, d’accrescimento, d’interazione16. Non sono e non possono dunque essere pensate come semplici mezzi,
strumenti del dominio umano. Queste nuove macchine ridefiniscono l’idea stessa di agire,
12 Cfr. Paolo Benanti, Le macchine sapienti, op. cit., pp. 22-26. 13 Supra.
14 AAVV, Teoria XXXV/2016/2, Edizioni ETS, Pisa 2016, p. 119.
15 Cfr. Alessio Cernicchiaro, Günther Anders. La Cassandra della filosofia, Ed. Petite Plaisance, Pistoia
2014, p. 228.
9
ora non più relativa solo all’agire umano, ma evidentemente collegata all’agire delle macchine stesse, artefatti intelligenti, che sono in grado di fare di più di un semplice “operare” o “dell’essere impiegate”, che hanno margini di miglioramento e che danno risultati imprevedibili e, in un certo senso, imperscrutabili: in poche parole, sono autonome17. Già oggi possiamo parlare di “agenti artificiali morali”, che collaborano con l’uomo e contribuiscono alla ridefinizione del mondo, aprendo nuovi scenari e imponendo all’attenzione nuovi rischi. L’autonomia, carattere essenziale della tecnologia, verrà esaminata nel paragrafo seguente.
Che il mondo aperto dalla tecnologia sia oscuro, che la tecnologia non sia una collezione di banalissimi “strumenti”, risulta anche dalla rimessa in discussione delle tesi di Heidegger: per il filosofo tedesco ogni “oggetto” è prima di tutto una “cosa”, uno “strumento”, è “a-portata-di-mano”. Ciò significa che se io mi trovo di fronte ad un martello, prima di tutto lo batterò, mi metterò a martellare, non mi domanderò “cos’è?” ma semplicemente lo userò, perché solo così avrò l’esatta comprensione di cosa il martello sia, ossia uno strumento. Se si prova a fare lo stesso esperimento mentale sostituendo al martello un computer, risulterà difficile trarre conclusioni lineari come quelle di Heidegger. Questo perché le macchine moderne non sono più quello che sembrano, hanno potenzialità infinite, non sono già conosciute nella nostra “pre-comprensione” del mondo. Anche usandole, poi, esse non rivelano sé stesse e non si esauriscono nel loro essere impiegate18.
Ora, se è chiaro che queste macchine intelligenti si distinguono nettamente da tutto ciò che c’è stato prima di loro, ovvero da tutti i prodotti che la tecnica e, soprattutto in tal caso, la sua declinazione moderna, la tecnologia, hanno saputo raggiungere, bisognerà tentare di comprenderle in maniera più articolata che come semplici strumenti dipendenti dalla messa in atto dell’uomo. Queste macchine non sono più, ormai, mezzi alla portata dell’uomo. Esse ci attirano, esigono la nostra attenzione, e noi le vogliamo usare perché ne sentiamo il bisogno; un bisogno che non sappiamo da dove venga, ma che c’è19. Esse ci plasmano e nemmeno sappiamo come. C’è una sorta di ineffabilità nell’essere delle macchine intelligenti.
A questo punto, però, è doveroso ricordare un fatto fondamentale che non deve essere dimenticato a fronte dell’immenso allarme suscitato dalle macchine di oggi. Ciò
17 Ibidem.
18 Cfr. Alessio Cernicchiaro, Günther Anders. La Cassandra della filosofia, op. cit., p. 165. 19 Cfr. Ivi, p. 282.
10
che deve essere sempre ricordato, è il fatto che questi software intelligenti, queste macchine altamente efficienti, sono comunque prodotti umani: è l’uomo che progetta questi apparati, è l’uomo che li avvia.
Questo vuol dire che le loro potenzialità, e i dati di cui sono costantemente in cerca per aumentare queste stesse potenzialità, sono in mano a degli uomini, a delle aziende, a delle società, a degli Stati. Non è difficile pensare al pericolo, meno che dietro l’angolo, dell’immane perdita di privacy e di controllo degli utenti finali20, ossia tutti noi “uomini
comuni”. E di quello che può voler dire tutto ciò, in una società altamente tecnicizzata e tecnologizzata come la nostra.
Si consideri, a riguardo, l’imminente esempio che sta per essere fornito dalla Cina: un sistema di punteggio del cittadino, che sta alla base dell’SCS, il Sistema di credito sociale, che sarà obbligatorio dal prossimo 2020. In pratica, si tratta di un software, corredato da una app, di cui tutti i cittadini cinesi dovranno essere dotati, che prevederà, appunto, una valutazione del proprio profilo in termini numerici. Al raggiungimento di determinati punteggi si potrà accedere a benefit e privilegi nella società e nella vita di tutti i giorni. Oltre che dello Stato cinese, il progetto è proprietà (e co-condotto) di due aziende private (Tencent e AliBaba). È importante sottolineare che sono questi tre ultimi soggetti a stabilire i criteri in base a cui si guadagnano punti e a gestire l’intelligenza artificiale che sta alla base di tutto il progetto21. Le conseguenze di tutto ciò sono inimmaginabili. Le domande che sorgono pressoché infinite. Nessuno sa in cosa tutto questo si evolverà. C’è poi un ulteriore problema che certe intelligenze artificiali portano con sé a causa della propria “origine”, ossia in qualità di prodotti umani. Basandosi su grosse quantità di dati che derivano dagli utenti finali, cioè coloro che le utilizzano (tutti noi), esse riproducono, laddove ci sono, gli “stili di pensiero” umani, i “trend”: luoghi comuni, mode passeggere e anche pregiudizi ideologici. È il caso, per esempio, delle intelligenze artificiali applicate alla giustizia. In questo caso specifico, in riferimento alla giustizia predittiva: c’è un software che riesce a stimare il grado di rischio di recidiva di un imputato sotto processo; questo software è attualmente operativo in diversi Stati americani. Questo programma, ovviamente sviluppato e proprietà di una compagnia privata, dopo essere stato sottoposto a un’indagine da parte di un’agenzia stampa no-profit, ProPublica, è risultato essere razzista nei confronti della popolazione
20 Cfr. AAVV, Macchine che pensano, op. cit., p. 186.
11
afroamericana22. È evidente come i dati siano manipolabili dai soggetti che ne detengono il possesso, e che dipendano, infine, dagli uomini stessi; essi sono passibili di corruzione ed errore, sono sempre e comunque riduzioni di ciò che è, del mondo e delle sue parti, dell’uomo e del suo essere: “in questo riduzionismo degli algoritmi sta tutta la sfida della digitalizzazione del mondo”23. E sono la base dell’intelligenza artificiale.
In un mondo come il nostro, dove abbiamo creato un’infrastruttura globale di macchine intelligenti, dove è evidente in tutti i momenti quanto non esista più la vita “offline”, diviene dunque palese come i computer e le intelligenze artificiali condizionino la nostra esistenza, e addirittura diventino compagni di tutti i giorni. E come per questo stesso motivo debbano essere ripensati tramite un nuovo approccio (qui quello filosofico, nello specifico attraverso il pensiero di GüntherAnders) che possa mettere in luce i rischi che corriamo. Che sembrano, peraltro, essere innumerevoli e incombenti.
1.1 La questione dell’autonomia.
Come abbiamo accennato sopra, le macchine di oggi, le cosiddette intelligenze artificiali, agiscono a tutti gli effetti. Esse hanno, dunque, margini di autonomia: a differenza dei loro avi, le macchine antecedenti alla terza rivoluzione industriale, questi nuovi apparati moderni sono in grado di aumentare le proprie capacità e di fare scelte sorprendenti, di dare risultati inaspettati; esse progrediscono, si automigliorano.
Per tutti i motivi e gli esempi che si sono esposti nel paragrafo precedente, è dunque il momento di provare a ripensare questo nuovo tipo di agire e le capacità che possono determinare realmente i margini d’autonomia delle macchine odierne; di verificare se sono veramente autonome.
Intanto partiamo dal definire meglio che cosa intendiamo con “autonomia”: essa è la capacità di autodeterminazione, il potere del soggetto di compiere scelte personali, senza ingerenze esterne. L’autonomia è lo spazio della libertà: è il perimetro che segna il confine tra me e te, tra l’io e l’altro. Una cosa autonoma è una cosa che sussiste da sé. Stiamo parlando di quell’idea che è anche alla base della soggettività e dell’io. Dovremo verificare se tale concetto è applicabile anche all’agire delle macchine di oggi.
22 Cfr. Ivi, pp. 26-30. 23 Ivi, p. 41.
12
Ricordiamo, visto che stiamo parlando di macchine, a scanso di equivoci, che non intendiamo “autonomia” intesa come “capacità di restare attivi”, ossia come il ciclo di carica, per esempio, di una batteria di uno smartphone. Questo duplice significato di “autonomia”, però, fa al caso nostro per un’altra ragione: esso mette bene in evidenza, ancora una volta, la differenza fra le macchine del passato e le intelligenze artificiali moderne. Facciamo un esempio: un vecchio battello a vapore, esattamente come un treno, aveva un tot di autonomia (il carburante) e percorreva una data distanza autonomamente, sfruttando l’energia prodotta attraverso il consumo del carburante. Per macchine del genere, è chiaro che non si poteva certo parlare di autonomia nel senso di autodeterminazione. Al contrario, queste vecchie macchine, nonostante avessero ognuna il proprio compito e la propria funzione, esaurivano, in un certo senso, il proprio essere insieme al carburante. Un’automobile senza benzina è (o forse è meglio dire era) solo ferro.
Dunque, prima della terza rivoluzione industriale, le macchine erano, si potrebbe dire, un modo complicato di impiegare energia (non umana) per raggiungere un determinato scopo. Scopo che, si badi bene, era il motivo stesso dell’esistenza della macchina. Esse “nascevano” come estensioni artificiali delle facoltà umane24. Erano
scappatoie, però, che portavano alla stessa meta del percorso originariamente intrapreso. Se ora consideriamo le macchine protagoniste del primo paragrafo, le Intelligenze Artificiali, ci accorgiamo che il senso di autonomia come riserva energetica non esaurisce minimamente il senso dell’agire delle intelligenze artificiali. A partire dal fatto, alquanto singolare, che la riserva energetica dei computer, l’elettricità, pare essere infinita, in quanto ricavabile come energia rinnovabile. Questo interessante aspetto, però, non è ciò che ci interessa qui.
Le macchine di oggi, i computer intelligenti, infatti, si distinguono per il loro agire: si mostrano in ciò realmente autonomi, nel senso che hanno la capacità di autodeterminarsi. Ed è questo il motivo per cui le intelligenze artificiali sono qualcosa di realmente nuovo, “esseri” che si distinguono dai semplici strumenti di ieri. Lo abbiamo visto precedentemente: le intelligenze artificiali si distinguono perché hanno un codice “aperto”. Sono cioè costruite in modo che si possano sviluppare, che possano accrescere le proprie facoltà. Per far ciò, esse computano quantità infinite di dati e poi scelgono. Le loro scelte non sono solo processi precostituiti dai programmatori, ma sono soluzioni
13
effettivamente decise in autonomia; è sufficiente ricordare la mole di dati – incalcolabili per la mente umana – che prendono in considerazione.
Cosa vuol dire, propriamente, “decidere” nel caso delle macchine intelligenti? “Decidere” può essere parafrasato come “selezione dell’azione da compiere”. Le macchine, ad oggi, non compiono tutto il processo di deliberazione tipico delle scelte umane. Esse razionalizzano le situazioni per cui sono appositamente costruite e selezionano, fra una vasta gamma di opzioni, l’azione più proficua da compiere, per soddisfare lo scopo per cui sono state programmate. Queste macchine, infatti, possono anche decidere di rimettere la decisione all’utente umano25.
Dunque, se non è propriamente possibile parlare di “autonomia” come “indipendenza” di queste macchine, che, nonostante tutto, vengono ancora costruire e programmate dall’uomo, per esse si può certo parlare di “autonomia” nel senso di “autodeterminazione”, ovvero come capacità di decidere i passi da compiere per soddisfare i compiti che vengono loro attribuiti. La loro è un’autonomia già instradata, pre-diretta dalla mano umana26.
Anche se devono essere avviate dalla mano dell’uomo, esse sono dunque autonome, in grado di compiere azioni deliberatamente scelte fra una gamma di opzioni in continuo accrescimento. Dopo essere state azionate, poi, esse diventano qualcosa di più.
Soffermiamoci a pensare al fatto che l’essere di queste macchine, il loro scopo, è ancora oggi deciso dal costruttore e dal programmatore. In fase di costruzione, i programmatori decidono i principi in base a cui una macchina si comporterà.
Sono innanzi tutto i principi di riferimento a partire dai quali costruttore e programmatore regolano la propria attività lavorativa e, più in generale, la loro stessa vita. Sono i principi, poi, grazie ai quali essi costruiscono e programmano una determinata macchina, tenendo conto della portata e dei limiti dello sviluppo tecnologico presente in una data epoca, e ne stabiliscono gli scopi. Sono, ancora, i principi propri della macchina stessa: quelli in base a cui essa è fatta e risulta organizzata la sua capacità d’azione. Sono infine i principi che rendono possibile
25 Cfr. Indipendent High-Level Expert Group on Artificial Intelligence (set up by the European
Commission), A definition of AI: Main capabilities and disciplines, European Commission, Bruxelles 2018, pag. 3. Il testo citato è un documento pubblicato sul sito della Commissione Europea a questo indirizzo:
https://ec.europa.eu/digital-single-market/en/news/definition-artificial-intelligence-main-capabilities-and-scientific-disciplines. Il documento, peraltro, dopo aver presentato in forma essenziale le parti più tecniche e la natura multidisciplinare della ricerca sull’IA (Intelligenza Artificiale), fornisce, in conclusione, una definizione espansa dell’IA che include nell’agire di questi apparecchi il processo decisionale esposto sopra. Ciò implica, dunque, una certa autonomia di queste macchine, seppur con i limiti che stiamo rilevando.
14
l’interazione di questo apparato artificiale con il suo ambiente e con gli altri esseri, artificiali o no, che v’insistono27.
Oltre ai principi che regolano l’agire degli uomini che creano queste macchine – un costruttore/programmatore potrebbe essere pacifista o favorevole alle guerre, credente oppure ateo – tali apparati rispondono, sempre e comunque, a delle regole fondamentali in base a cui saranno stabiliti i loro comportamenti. C’è, però, un “ma”:
In questo quadro articolato parlare di “autonomia” della macchina assume un significato ben preciso. Potremmo dire che la macchina […] è certamente in grado di auto-regolare i propri processi, ma non è capace di auto-regolamentarli. È questo il significato specifico, e il limite, della sua “autodeterminazione”.
In altre parole, la macchina non è in grado di “scegliere” i criteri e i principi in base ai quali essa viene a relazionarsi all’ambiente, alle altre macchine, agli esseri umani. Può solo adottarli. Può, in altre parole, seguire i criteri e i principi in base a cui è stata costruita. Può, anche, modificare il proprio operare a seguito di certi scenari che possono essere anticipatamente individuati. Ma, almeno allo stato attuale del suo sviluppo, essa non è capace d’intervenire sui principi base da cui dipendono la sua costruzione e il suo funzionamento, nonché le modalità d’interazione con il suo ambiente. È questa specifica forma di autoriferimento etico ciò che per la macchina, per ora, non si verifica28.
L’autonomia delle macchine è dunque confinata nello spazio aperto dai principi di base dell’apparecchio. Quello che la macchina non può fare, allora, è auto-regolamentarsi: essa può certamente autodeterminare le proprie scelte, ma non può assolutamente decidere i principi del proprio agire; essa anticipa quanti più scenari possibili, ma sempre relativi ad un determinato contesto29, non scelto da lei. L’autonomia delle macchine “riguarda […] la messa in opera di tali principi e criteri, il loro adattamento alle situazioni con cui le macchine stesse si trovano a interagire”30.
Questi sistemi, insomma, non sono entità etiche. Non possono né scegliere, né mettere in discussione o modificare i principi da cui sono guidate. Esse sono sì autonome, ma in una maniera diversa dall’uomo: solo egli, fra tutti gli esseri, fra cui, a questo punto, potremmo annoverare anche le macchine di oggi, può scegliere coscientemente i principi che guidano le sue azioni. Se un certo grado di responsabilità può essere riconosciuta anche ai computer intelligenti, la nozione classica di responsabilità intesa come un
27 Cfr. AAVV, Teoria XXXV/2016/2, op. cit., p. 132.
28 A. Fabris, Etica per le tecnologie dell’informazione e della comunicazione, op. cit., p. 78. 29 Cfr. AAVV, Teoria XXXV/2016/2, op. cit., p. 132.
15
rispondere a (determinati principi scelti) e un rispondere di (determinate conseguenze derivanti da quei principi) è ancorata saldamente, come un fossero un unicum, all’essere dell’uomo31.
Capiamo allora come quelle delle macchine siano delle scelte che rappresentano l’applicazione di modelli matematici articolati; esse fanno sempre la cosa più utile (secondo le loro computazioni). Le macchine agiscono sempre in relazione al proprio contesto (ambiente), interagendo con esseri animati (uomini o animali) o inanimati (le altre macchine), e sono sempre in relazione a sé stesse, e perciò imparano32: la macchina riceve attraverso i propri sistemi il feedback (è la valutazione di un’azione compiuta, se è stata soddisfacente o meno) del proprio agire, così da poterlo rianalizzare ed eventualmente modificare in futuro. In esse c’è questo tipo di auto-referenzialità, che è l’essenza della loro capacità di accrescimento. È soprattutto in base a questo che è possibile parlare di autonomia33. Potremmo, per essere più precisi, dare un nome al nostro “ma” e parlare di “autonomia relativa”:
Relativa ai criteri secondo cui il robot è stato costruito, al contesto specifico in cui opera, al quadro delle opzioni anticipabili, ai modi in cui sono state prefigurate le sue risposte a precise sollecitazioni ambientali, e alle regole che, in determinati casi, possono essere seguite per raggiungere gli obbiettivi prefissati34.
Per questo motivo, possiamo ora rispondere alla domanda con cui abbiamo iniziato queste considerazioni: è possibile applicare il concetto di “autonomia”, connesso all’agire umano, all’azione delle macchine di oggi? Evidentemente no. L’autonomia degli apparecchi intelligenti è riferita, come abbiamo visto, alla capacità di questi sistemi di modificare il proprio comportamento in base agli stimoli ambientali che sono costruiti per recepire35, alla loro capacità di poter selezionare come compiere lo scopo per cui sono programmate.
Questi computer intelligenti, però, stanno ottenendo una sempre maggiore autonomia. Riprendiamo mentalmente in considerazione gli esempi che abbiamo
31 Cfr. A. Fabris, Ethics and ICTs Beyond Analytic and Continental Philosophy, volume in uscita per
Springer Books.
32 AAVV, Teoria XXXV/2016/2, op. cit., p. 121: “Si tratta dell’operare di apparati costruiti e programmati
in modo da poter interagire con l’ambiente e con l’agire altrui, e in grado dunque, attraverso tale interazione, di mettere in opera una sorta di “apprendimento”, modificando le prestazioni e il loro “comportamento”.
33 Cfr. Ivi, p. 133.
34 A. Fabris, Etica per le tecnologie dell’informazione e della comunicazione, op. cit., p. 79.
35 Cfr. A. Fabris, Ethics and ICTs Beyond Analytic and Continental Philosophy, volume in uscita per
16
mostrato nel paragrafo precedente: le intelligenze artificiali sono di molti tipi, ma tutte accumunate dal fatto che le loro operazioni sono, a causa delle quantità, inaccessibili all’uomo, almeno nella loro totalità. Le intelligenze artificiali computano infinità di dati e generano soluzioni nuove. Alcune hanno maggiori margini d’errore, perché questo consente loro di progredire ancor di più. Molto controllo viene sacrificato in fase di progettazione per il “bene” della macchina. I programmatori, in moltissimi casi, non sono più in grado di prevedere come si comporterà una macchina in determinate situazioni36. Non sono queste tutte affermazioni che ribadiscono con sempre maggiore forza la crescente autonomia, seppur ancora relativa, che le macchine di oggi stanno ottenendo37?
Quanto durerà questo ancora?
Poco sopra abbiamo parlato di contesti e di ambienti di queste intelligenze. Ci riferivamo, in quel caso, alla “porzione di mondo” per cui la macchina è stata costruita, lo spazio dove effettivamente la macchina agisce. Ad esempio, il mondo dell’arte per il programma creatore, il pittore-artificiale Painting Fool38. O ancora, il mondo del gioco
del Go, per il programma, campione del mondo, AlphaGo39.
Quando parliamo di intelligenze artificiali, però, bisogna sempre tenere a mente un secondo livello di significato della parola “ambiente”: ambiente non più come “porzione di mondo”, ma come “mondo” vero e proprio; ambiente come sistema, totalità. Questo secondo significato ci interessa perché, a differenza delle “macchine tecniche”, le “macchine tecnologiche” non sono “individui” isolati, “monadi”, ma sono tutte, costantemente, in connessione, a formare un sistema. Questo sistema-ambiente che le macchine, letteralmente, creano è il virtuale.
Il virtuale non è più semplicemente il sistema di tutti gli apparati connessi in rete, ma oggi più che mai è una nuova realtà, che si è imposta con rapidità e violenza su quella vecchia. Non a caso si parla di realtà virtuale.
Nella nostra relazione con i dispostivi tecnologici ci sono insomma due aspetti da considerare. Da una parte essi sono qualcosa che agisce in maniera più o meno autonoma, e con cui ci troviamo a interagire; dall’altra essi contribuiscono a creare ulteriori ambienti, oltre a quelli in cui ci muoviamo nella nostra vita offline. Passando dall’uno all’altro di questi ambienti finiamo per integrarli e considerarli tutti sullo stesso piano, tutti parte allo stesso modo della
36 Cfr. AAVV, Macchine che pensano, op. cit., p. 120.
37 Cfr. Indipendent High-Level Expert Group on Artificial Intelligence (set up by the European
Commission), A definition of AI: Main capabilities and disciplines, op. cit., p. 5: le black-box.
38 Supra.
17
nostra vita. Ecco ciò che l’uso degli apparati tecnologici rende oggi possibile: il fatto di vivere al tempo stesso in una molteplicità di ambienti, offline e online. Il rischio che ne consegue è quello, appunto, di sovrapporli e di confonderli l’uno con l’altro40.
Per moltissimi, già oggi, questo rischio non si pone più: tanto i due mondi sono integrati nella pratica e nella mente delle persone. Il rapporto che noi abbiamo con la realtà virtuale sembra sempre meno rappresentabile dal concetto di “interazione”, mentre cresce ogni minuto l’attualità e la pregnanza del termine “integrazione”41. Oggi infatti
sembra non esserci già più alcuna distanza fra vita offline e online; se manca la connessione, manca l’aria. Uomo e macchine, però, possono interagire ed integrarsi appunto perché hanno due strutture d’essere, due ontologie, diverse42. Questo punto di
capitale importanza verrà approfondito nel paragrafo successivo.
Questo sistema, costituito dalla connessione di tutti i dispositivi che ne fanno parte e che ne accrescono le capacità, aumenta e si complica sempre di più, in una curva esponenziale a crescita costante, tanto che ne derivano inaspettate conseguenze, una sorte di “eterogenesi dei fini”43: conseguenze involontarie di atti volontari. Per molti versi, non
siamo più in controllo di questi processi, ma ci troviamo pienamente immersi in essi44. Il problema sta nel fatto che la struttura del virtuale prende sempre più campo su quella del mondo reale. Il virtuale modifica e distorce le categorie classiche di comprensione della realtà. Con l’avanzare delle tecnologie per impianti e trapianti perde sempre più valore la differenza fra “naturale” e “artificiale”45. Internet e le tecnologie di comunicazione e dell’informazione annullano le distanze. Ciò vale anche, e soprattutto, per il tempo e la percezione che l’uomo ha di esso: ci si avvicina sempre più all’azzeramento delle tempistiche necessarie per qualsiasi tipo di operazione; passato e futuro perdono di significato, e il tempo si incarna solo nell’attimo presente46.
Il sistema virtuale, poi, è sempre fatto a misura d’uomo. Esso nasce come interattivo e necessita di sempre maggiore interattività, per espandersi, per migliorarsi, per comprendere sempre più “porzioni di mondo” e alla fine imporre il proprio. Dopo la vista
40 A. Fabris, Etica per le tecnologie dell’informazione e della comunicazione, op. cit., p. 38. 41 Cfr. Ivi, p. 39.
42 Cfr. Ivi, p. 40.
43 Cfr. A. Fabris, Ethics and ICTs Beyond Analytic and Continental Philosophy, volume in uscita per
Springer Books.
44 Cfr. Ivi, p. 4-5.
45 Cfr. A. Fabris, Etica per le tecnologie dell’informazione e della comunicazione, op. cit., p. 38. 46 Cfr. Ivi, p. 45.
18
e l’udito, sensi attivati dalla presenza del video e degli schermi, già da qualche anno il virtuale tenta di coinvolgere sempre di più anche il tatto, con l’introduzione, e la proliferazione, della tecnologia touchscreen47. I robot moderni, come gli assistenti virtuali e molte intelligenze artificiali vengono sviluppati
[…] anche per elaborare ed acquisire una capacità interattiva nei confronti delle affermazioni, delle risposte, delle emozioni (corsivo mio) umane. Questo permette a esso di esprimere, in tali forme d’interazione comunicativa, una sorta di corrispondenza, una capacità di rispondere “a tono”, che può essere scambiata per “empatia”. Ciò accadere tanto più in quanto è l’essere umano a proiettare sull’agente artificiale […] una certa “sensibilità”, o addirittura la capacità di “soffrire”48.
Queste macchine, dunque, vengono costruite e si adattano alle strutture dell’uomo, per interagire sempre di più. Queste interazioni, flussi immani di dati, sono la linfa vitale delle macchine intelligenti e, come abbiamo più volte detto, sono la causa del loro continuo processo di perfezionamento. Non è difficile mettere in connessione la crescita della realtà virtuale e, di conseguenza, le capacità delle intelligenze artificiali.
Anche l’origine del termine “virtuale” ci lancia delle avvisaglie: virtualis è un termine latino che si riferisce alla “virtù”. La virtù, tema centrale di tutte le riflessioni degli antichi greci, rappresenta l’eccellenza, la perfezione di qualcosa, il suo grado massimo, il compimento d’una potenzialità insita. In altre parole, il “bene”. Quanto è temuto, al giorno d’oggi, il mondo virtuale? Che rischio se ne avverte? Queste domande sembrano quasi assurde, data la glorificazione che ogni giorno la nostra società e il nostro mondo fa della tecnologia. Essa è buona, forse la cosa più buona, e lo è anche grazie alla sua infinita capacità d’espansione, essa “può inglobare in sé ogni altra realtà immaginabile, è in grado, per l’abbondanza di soluzioni che vi sono incluse, di fornire risposta a ogni sorta di problemi”49. O almeno sembra. Il mito del progresso si è elevato
a Signore del nostro tempo, grazie alla tecnologia.
Il virtuale, infatti, collega concetti come “possibile”, “potenziale”, “potenza”, “attualità”, “realtà” e tende ad appiattire le loro differenze50.
47 Cfr. Ivi, p. 53 48 Ivi, p. 79. 49 Ivi, p. 93.
19
Vediamo, fin qui, come l’espansione, la velocità51, l’apertura, la fruibilità, l’annacquamento, l’appiattimento siano tutte tendenze (e forse dogmi) del mastodontico sistema tecnologico-virtuale odierno. L’imperativo è che non ci sono limiti. La tecnologia e il progresso rivendicano sempre “l’ineluttabilità della messa in atto del possibile”52.
Questo appiattimento, questa onnicomprensione orizzontale, si verifica anche e soprattutto fra gli utenti umani del web. In particolar modo, questo fenomeno può essere notato sui social network, che, oltretutto, rappresentano solo l’inizio di questo nuovo mondo:
Non solo viene meno l’esigenza di un riconoscimento dell’autorevolezza, ma proprio il funzionamento di questa struttura online elimina ogni differenza fra le competenze, la preparazione, le esperienze dei vari utenti. Insomma: la possibilità, che i social network offrono, di esprimere la propria opinione e di condividerla fa dimenticare il fatto che un’opinione può essere più o meno fondata e che, in ogni caso, dev’essere argomentata53.
E la competenza è solo una delle tante vittime della realtà virtuale.
Il fatto è, purtroppo, che queste strutture hanno un ingente riverbero sulla vita “offline” che, infatti, almeno per i popoli occidentali, pare essere oggi solo un lontano ricordo. Le strutture sociali e di pensiero vengono modificate, chissà per quanto e chissà come, dalla realtà virtuale e dal mondo della tecnologia. Nessuno sa dove tutto ciò ci porterà.
Domani, forse, non sarà tanto strano farsi preparare un pranzo da un sistema intelligente, invece che da un cuoco umano; prendere in prestito un libro in una biblioteca senza l’ausilio di alcun bibliotecario; essere assistiti da una voce di un operatore di un call-center, che ci tratta garbatamente, risponde alle nostre domande e risolve i nostri problemi, ma che proviene da un programma intelligente fornito dall’azienda in questione. Forse solo i lavori che richiedono interazioni sociali e, soprattutto, umane, potranno sopravvivere a questi cambiamenti54.
Proprio le interazioni sociali, i sentimenti, le emozioni, ci portano dunque a chiederci: che ne sarà di tutto quello che le macchine non potranno comprendere? Quali sono quegli aspetti umani che non sono ancora stati inghiottiti dalla virtualità?
51 Cfr. AAVV, Macchine che pensano, op. cit., p. 86: “La loro forza, come per tutte le applicazioni
informatiche, sta nella velocità, nella scala e nella relativa convenienza dell’elaborazione”.
52 F. Lolli, Günther Anders, op. cit., p. 37.
53 A. Fabris, Etica per le tecnologie dell’informazione e della comunicazione, op. cit., p. 108. 54 Cfr. AAVV, Macchine che pensano, op. cit., p. 188.
20
Dell’immaginazione, la creatività, dell’empatia, della morale, dell’essere umano, cosa ne sarà?
Se la realtà virtuale si presenta dunque come sistema alternativo alla realtà vera e propria, se essa viene trasformata e plasmata dalla tecnologia, sarà necessario indagare ancora di più le differenze fra i due tipi di realtà, capire che cos’è che può ancor oggi contraddistinguere l’uomo dall’automa, l’universo umano dall’universo delle macchine, l’essere dell’uomo dall’essere del robot.
1.2 Due linguaggi, due mondi diversi.
Abbiamo visto finora che le macchine di oggi, le Intelligenze Artificiali, non sono più semplici strumenti. Esse agiscono e possono essere considerate agenti morali, con un determinato grado di responsabilità, derivante da un certo spazio di autonomia (la si è chiamata autonomia relativa, con particolare riferimento all’agire delle macchine intelligenti). Proprio la questione dell’autonomia, però, ci ha riportati al confronto con il tema del confronto fra uomo e macchina: ciò in conseguenza del fatto che le intelligenze artificiali mostrano un sempre crescente grado di autonomia e sembrano ispirarsi sempre meglio all’agire umano.
Lo spazio di manovra di questi apparati, peraltro, cresce di giorno in giorno, proporzionalmente all’aumento del Sistema creato dalla messa in connessione di queste macchine, la realtà virtuale. Abbiamo visto che questo sistema digitale impone con sempre maggior forza il proprio predominio sulla realtà fisica e sulle strutture umane. Il virtuale rappresenta un vero e proprio mondo che si sta sovrapponendo alla sua stessa origine, il mondo umano. La nuova realtà virtuale impone oggi il proprio modus operandi, la propria logica interna. Facendo ciò essa tenta di far convergere l’essere dell’uomo al proprio, tenta di disporre ogni cosa nel senso che essa stessa segue.
Questi argomenti ci fanno arrivare fin qui: è possibile una reale convergenza fra uomo e macchina? Il loro essere, la loro costituzione, rende possibile un’uniformità di fondo? Oppure i due sono mondi a sé stanti? C’è qualcosa di irriducibile fra i due partecipanti? Qualcosa che non può essere assimilato dal virtuale? Noi pensiamo di sì.
Cominciamo con l’interrogare la nozione che sta alla base della possibile convergenza uomo-macchina: la nozione di intelligenza. Infatti, è proprio questo concetto a introdurre tutto il paragone. Lo sviluppo stesso delle Intelligenze Artificiali si è basato
21
interamente, all’inizio della sua storia, sulla riproduzione della capacità di astrazione simbolica dell’uomo. L’approccio è tutt’oggi utilizzato, ma è stato abbandonato come base di sviluppo, poiché non fruttuoso55. Di che tipo di intelligenza si tratta allora? Qual è la logica, la dinamica intellettiva che domina l’agire delle macchine e dunque la realtà virtuale?
La nozione di intelligenza è troppo trasversale per rappresentare bene i processi “mentali” delle macchine. Infatti, è molto meglio appoggiarsi alla nozione di “razionalità”: a grandi linee la possiamo pensare, in relazione agli apparati tecnologici, come capacità di scegliere la miglior azione da compiere per ottenere un determinato risultato; con costante riferimento a certi criteri di funzionamento (i principi della macchina56) e alle risorse disponibili57. La razionalità, capacità operativa assimilabile al
calcolo, è dunque l’essenza dell’intelligenza artificiale. È innegabile che essa ricopra un ruolo di primo piano anche nell’intelligenza umana, ma nel nostro caso essa non è che una parte e non la totalità della nostra mente. Già questo ci segnala che all’intelligenza delle macchine mancano molte componenti dell’intelletto umano.
Storicamente la razionalità inizia il suo predominio dall’Illuminismo in poi. Non è un caso che la rivoluzione scientifica e quella industriale siano rispettivamente antecedente e successiva al periodo Illuminista. Dalla “scoperta” del metodo scientifico, il comportamento razionale dell’uomo è la condizione normale dell’essere umano, di un uomo che “usa il mondo come contenitore di oggetti-strumenti ed in cui compie atti intermedi e coordinati per ottenere lo scopo che propone”58. Un mondo scientificamente e tecnicamente manipolabile: quale migliore risorsa del pensiero razionale-calcolatore per portare a compimento il dominio sulla natura e sull’esistenza?
È così che nella storia del pensiero e dell’uomo si impone il paradigma della razionalità. Potremmo allora sostenere che l’intelligenza delle macchine è la stessa dell’uomo, ossia la razionalità? L’esattezza matematica applicabile ai comportamenti artificiali (che ricordiamo, sono procedure) può spiegare anche il comportamento umano? In molti ci hanno provato. Cartesio e Wiener, per citarne due. Al giorno d’oggi, poi, l’idea che le azioni e i pensieri umani possano trovare spiegazione nell’essere accordate a regole precedentemente definite, in corrispondenza di una verità matematica, attrae molto.
55 Cfr. Ivi, pp. 31-34. 56 Supra.
57 Cfr. Indipendent High-Level Expert Group on Artificial Intelligence (set up by the European
Commission), A definition of AI: Main capabilities and disciplines, op. cit., p. 1.
22
Molto forte è il desiderio di considerare l’uomo sotto modelli procedurali, ben definiti, calcolati in anticipo59.
Ma noi non concordiamo. Infatti, l’intelligenza umana è qualcosa di più. Intanto, essa è connotata emotivamente, sempre. Ogni nostra comprensione, ogni nostro pensiero, è tinto da una colorazione emotiva, è accompagnato da una sensazione. Ogni percezione è pervasa da determinate tonalità emotive. Nessun uomo mette in atto, pensando, solo procedure logiche; ogni pensiero e azione porta con sé un umore60. Questo non vale per le macchine. E non ci sono indizi che suggeriscono che potrà mai valere. La sensibilità, l’emotività, dunque, sono punti su cui costruire la diagnosi e la terapia per la situazione umana odierna. Ci torneremo più avanti.
Allora possiamo dire che, anche se di un genere già noto all’uomo, “l’intelligenza artificiale che abbiamo oggi […] è aliena: una forma di intelligenza mai incontrata prima”61. Aliena perché interamente basata sulla nozione di razionalità e dotata di margini
d’autonomia importanti. Aliena perché, molto spesso, mostra risultati incomprensibili per la vecchia patetica ragione umana. Aliena perché totalmente scevra di alcuna connotazione emotiva. Un’altra componente troppo spesso sottovalutata dell’intelletto umano è l’immaginazione. Anch’essa pare, ad oggi, ancora una prerogativa unicamente umana. Abbiamo visto nel primo paragrafo che esistono già macchine intelligenti che scoprono e danno avvio/assistenza a processi creativi (algoritmi genetici e IA artistiche). Ma cosa succede quando una macchina “immagina”? Si può dire che questa capacità sia stata acquisita dalle Intelligenze Artificiali?
Proviamo a capire allora, un po’ più nello specifico, quali sono e come sono le “operazioni mentali” artificiali, in base cui poi le macchine tentano di agire intelligentemente, tentando di emulare l’azione umana.
Il compito principale che l’intelligenza di questi apparati deve portare a termine è la generalizzazione: la capacità di saper riconoscere (e costruire, per poi anticipare) schemi e similarità62 fra enormi quantità di dati. Questo inizia a mostrarci ancora meglio il genere di intelligenza che sta alla base di queste macchine: i loro ragionamenti sono “analisi statistiche enormemente complesse eseguite su quantità di dati immense”63.
59 Cfr. A. Fabris, Ethics and ICTs Beyond Analytic and Continental Philosophy, volume in uscita per
Springer Books.
60 Cfr. A. Cernicchiaro, Günther Anders. La Cassandra della filosofia, op. cit., p. 80.. 61 AAVV, Macchine che pensano, op. cit., p. 51.
62 Cfr. AAVV, Macchine che pensano, op. cit., p. 44.
63 Ivi, p. 48. Interessante è la conclusione di questo paragrafo dell’opera: «In pratica, abbiamo scambiato il
23
Durante le loro operazioni, i computer intelligenti interpretano i dati che vengono loro forniti (o da agenti esterni – gli utenti – o dai loro ricevitori – sensori atti alla percezione). L’interpretazione del computer è letteralmente la trasformazione di uno o più dati in un’informazione. Su questa interpretazione del dato si baserà il ragionamento messo in atto dal computer, per la produzione di un modello numerico (una formula matematica) che servirà per decidere64 la migliore azione da compiere65. Tutto questo procedimento, poi, prevede il confronto costante con tutto ciò che la macchina ha già compiuto in passato (feedback): l’apparato, nel proprio procedere, considera gli errori che ha compiuto precedentemente per poter modificare il proprio comportamento di conseguenza.
Se questa disamina vale anche per gli algoritmi genetici e per le intelligenze artificiali creative, allora possiamo affermare che l’immaginazione umana è qualcosa di diverso. Sarebbe impossibile pensare così logicamente i processi creativi che un soggetto umano mette in atto quando scatena l’immaginazione. L’immaginazione umana è proprio il pensiero in assenza di schemi e di logiche, è il luogo dell’ignoto e della creatività.
Molti sviluppatori sono, infatti, arrivati a sostenere che per migliorare i computer “dobbiamo renderli peggiori”66. Per far ciò, bisogna dotarli dell’ignoto, del non
precostituito. Ovviamente, “renderli peggiori” non vuol dire più semplici, ma l’esatto opposto! Infatti, questi approcci moderni67 prevedono che venga dato un maggior margine d’errore alla macchina perché essa possa progredire più liberamente (e a quanto sostengono quegli sviluppatori, più fruttuosamente). Come abbiamo già ricordato, ciò vuol dire, anche per gli sviluppatori stessi, meno controllo e meno possibilità di previsione del comportamento della macchina per il costruttore-programmatore e per l’utente finale68.
Se queste considerazioni ci avvicinano all’idea che esseri umani e macchine non sono e non saranno, almeno nel breve termine, la stessa cosa, allora dobbiamo diventare ben consapevoli “della specificità dei soggetti coinvolti”69 in questo discorso.
Abbiamo visto che l’intelligenza artificiale riproduce una delle parti essenziali di quella umana, il calcolo e la probabilità. La logica interna delle macchine è di natura
64 Nel senso in cui se n’è parlato nel paragrafo precedente.
65 Cfr. Indipendent High-Level Expert Group on Artificial Intelligence (set up by the European
Commission), A definition of AI: Main capabilities and disciplines, op. cit., p. 2.
66 AAVV, Macchine che pensano, op. cit., p. 63.
67 Neural networks, deep learning & reinforcement learning. 68 Cfr. AAVV, Macchine che pensano, op. cit., p. 120.
69 A. Fabris, Etica delle macchine, Rivista online “Vita e pensiero”, Marzo 2019. Disponibile all’indirizzo
24
matematica, si basa solo sul calcolo statistico di possibilità già conosciute, e rende possibile la scelta, per la macchina, fra diverse procedure. L’uomo, invece, non mette in atto una procedura nel suo agire quotidiano, è libero di fare ciò che vuole. L’uomo sceglie i propri principi d’azione, talvolta li inventa. La macchina fa ciò per cui è stata costruita: anche se inventa, non può non farlo secondo le regole che ha ricevuto, e non può smettere di inventare, se non le viene comandato. Si ripresenta qui un argomento fondamentale: l’agire dell’uomo è un agire riflesso70, è agire sapendo di farlo, è l’adozione volontaria,
come la possibilità d’abbandono, dei principi scelti. È da qui, oltretutto, che deriva il dovere etico di fronte alle possibilità infinite della tecnologia. Questo argomento dovrà essere tenuto costantemente a mente.
Il problema dell’interazione fra queste due realtà, allora, è un problema di cui solo noi uomini possiamo farci carico71. Sta all’uomo pensare come interagire con il mondo
virtuale, perché solo egli è in grado di cambiare le carte in tavola, di abbandonare e di scegliere i principi del proprio agire (e dunque anche quelli che regolano il Virtuale). Solo l’uomo può prendere distanza dalla propria opera e metterla in dubbio. Solo l’uomo può decidere di cambiare radicalmente i principi che ha adottato. Solo l’uomo può anche smettere di credere in quei principi: “L’essere umano può essere nichilista, la macchina no”72.
Ora, il problema è che questo Sistema complessissimo, costituito dall’universo delle macchine di oggi, tenta di produrre “una compiuta identificazione, di saturare ogni spazio-tempo, di cancellare del tutto la contingenza, di esonerare qualsiasi individuo dallo sforzo di riflessione, emozione, identificazione”73. Prendiamo in esame uno degli apparecchi principi del mondo digitale: lo smartphone.
Nuova evoluzione del vecchio telefono cellulare, lo smartphone è un computer miniaturizzato, associato alla funzione telefonica. Oggi tutti ne hanno uno. Lo smartphone assomma in sé la molteplicità di funzioni offerta dal sistema virtuale, con prestazioni proporzionali alle sue dimensioni.
Quello che ci interessa di più qui, però, è che esso è un terminale sempre presente, sempre attivo, che ci rende costantemente connessi alla realtà virtuale, potenzialmente sempre raggiungibili. Lo smartphone è uno dei tanti modi (forse il più efficace ad oggi –
70 Cfr. AAVV, Teoria XXXV/2016/2, Edizioni ETS, Pisa 2016, p. 128.
71 Cfr. A. Fabris, Etica per le tecnologie dell’informazione e della comunicazione, op. cit., p. 60. 72 AAVV, Teoria XXXV/2016/2, Edizioni ETS, Pisa 2016, p. 135.
25
dopo il computer, di cui in realtà rappresenta una semplificata miniaturizzazione) in cui l’esistenza dell’uomo si àncora alla realtà virtuale. Infatti, nell’uso dello smartphone, al minimo si cela il rischio del “progressivo restringimento, se non addirittura il completo venire meno, della nostra possibilità di avere relazioni immediate, dirette, con il mondo e con gli altri esseri umani”74. Si perde l’immediatezza del rapporto con le cose, il che significa che tutto vien filtrato digitalmente; lo smartphone diventa il nostro paio di occhiali che ci siamo scordati di aver sul naso: e per questo tutto sembra “artefatto, falso. Sembra allora che l’unico rapporto vero, reale, autentico, lo possiamo avere solo con la nostra persona”75. Di qui, forse, il narcisismo e la vanità odierni?
C’è di più. È infatti la comunicazione stessa, per come viene intesa in ambito virtuale, a cambiare; essa non è più la comunicazione per come la intendevamo. Lo smartphone è, ancora una volta, un esempio perfetto. Prima, quando parlavamo della manipolazione della realtà, abbiamo citato Wiener. Egli è il fondatore della cibernetica, teoria del controllo che tenta di raggiungere il proprio scopo attraverso la omogeneizzazione teorica di essere vivente e macchina76. Infatti, nel mondo digitale, proprio secondo il modello cibernetico, “comunicare” significa “informare”: secondo le leggi della cibernetica, la comunicazione è una trasmissione di informazioni che può essere controllata e manipolata (così nelle macchine come negli esseri viventi), che va da un mittente ad un destinatario. Oggi tutto è informazione. Il problema è che le cose non stanno così. Infatti
[…] “comunicare” è qualcosa di diverso dall’”informare”. […] Il termine “communicatio” […] potrebbe essere tradotto con l’espressione “comunicazione partecipativa”: facendo riferimento, cioè, a una comunicazione che richiede la partecipazione attiva e il coinvolgimento dei vari soggetti impegnati in una conversazione. […] Attraverso la comunicazione, in altre parole, non solo viene trasmesso qualcosa, ma è anche istituita e mantenuta la dimensione in cui questa trasmissione può essere compiuta e continuare nel tempo. Comunicare allora, più in generale, significa dischiudere e promuovere uno spazio comune fra i vari
interlocutori.
Nella comunicazione è in gioco infatti un coinvolgimento che viene presupposto, e, di volta in volta, riconfermato nell’esercizio del comunicare stesso. Si tratta di un coinvolgimento nel quale ogni fruitore di un mezzo di comunicazione – cioè: ogni locutore – è considerato fin da subito un
interlocutore. […] È piuttosto un soggetto che coopera all’apertura di un contesto
74 A. Fabris, Etica per le tecnologie dell’informazione e della comunicazione, op. cit., p. 67. 75 Ibidem.
26
comunicativo, e che contribuisce alla sua attivazione e al suo mantenimento. […] Ogni comunicazione, anzi, di per sé è creativa77.
Dunque, “comunicare” nel senso dei computer e dello smartphone non è “comunicare” nel senso dell’uomo. E noi, oggi, comunichiamo costantemente e con le macchine e con altri uomini attraverso questo modello tecnologico. Per questo stesso motivo, le strutture umane della comunicazione si piegano a quelle virtuali, e tutto cambia. Infatti, se internet è il luogo dove ogni utente è uguale all’altro e non c’è limite a ciò che può essere detto, con tutte le conseguenze del caso, anche la realtà fisica va in una direzione del genere: dilaga la falsa conoscenza, la superficialità del sapere, l’omologazione a correnti di pensiero preconfezionate, l’assoluta uguaglianza di tutti gli individui. Insomma, quello spazio di condivisione che la comunicazione apriva, è diventato un semplice comando: “condividi” la notizia, il post, la foto – ossia “aumenta il numero delle informazioni del sistema”. La dischiusura e la promozione di uno spazio comune fra interlocutori sembra ormai antiquata. In pochi partecipano all’edificazione dello spazio comunicativo condiviso, virtuale e non; in molti si lasciano imboccare da quello stesso spazio – lo spazio virtuale dei dati e dell’informazione.
“L’idea di una inversione di rapporto tra mezzi e fini è ben più che una semplice provocazione”78: è questo, infine, il punto di tutto il discorso. Uomo e macchina sono
evidentemente due entità diverse, non riducibili l’una all’altra, e anzi nemmeno ontologicamente sullo stesso piano. L’uomo ha priorità sulla macchina, da lui dipende tutto: i principi adottati, le strade intraprese, i fini perseguiti. Il problema, che si fa via via sempre più chiaro, è che il mezzo, la tecnologia, è oggi il vero soggetto della storia. Il rapporto si inverte: ciò che veniva usato ora ci usa. Il mito del progresso impone con tutta la forza che può un destino comune79: il regno della tecnologia. Per molti tutto ciò è auspicabile. Noi vogliamo sospendere il giudizio, ma ad una condizione: vogliamo tentare di verificare, per quanto ci è possibile, non se sia possibile ribaltare la presa del virtuale sulla realtà fisica e sull’uomo, il che vorrebbe dire rinunciare alla tecnica, e sarebbe stupido, perché la risposta è evidentemente negativa, ma piuttosto il confronto etico con questa situazione. Questo tenendo in considerazione tutto ciò che è stato precedentemente
77 A. Fabris, Etica per le tecnologie dell’informazione e della comunicazione, op. cit., pp. 23-24.
78 V. Rasini, A partire dalla fine. Sul pensiero di Günther Anders, in AAVV, L’uomo e la (sua) fine. Saggi
su Günther Anders, a cura di M. Latini e A. Meccariello, Asterios, Trieste 2014, p. 113.
79 Cfr. S. Maletta, Anders, Arendt e la soggettività dissidente. Una prospettiva sulla filosofia sociale, in
