2 Capitolo
3.5 L’ombra dell’intelligenza
3.5.3 Il pensiero meccanico
A questo punto, dopo aver parlato del test di Turing e di Eugene Goostman, vorremmo strutturare questa parte della nostra riflessione filosofica basandoci sulle risposte che Turing immagina di dare alle obiezioni che potrebbero essere mosse contro l’idea di una macchina pensante. In particolare, vorremmo analizzare puntualmente le difese turinghiane e, dove opportuno, tentare di abbatterle, in modo tale da organizzare una serie di “obiezioni alle risposte alle obiezioni”38.
Le risposte di Turing alle critiche viste in precedenza saranno contrassegnate dal simbolo ●, mentre indicheremo le obiezioni che rivolgiamo alle sue risposte con il simbolo ■39.
Questione teologica:
● Sostiene che, se escludessimo a priori l’ipotesi che le macchine possano pensare, allora staremmo limitando l’onnipotenza divina.
■ Il fatto che, qualora esistesse un dio, l’onnipotenza sarebbe senza dubbio inclusa fra i suoi attributi, non costiutisce un vantaggio per chi supporta la possibilità delle macchine pensanti. Infatti, questo presunto dio potrebbe anche scegliere, per un motivo misterioso, di consentire la facoltà di pensare a tutti gli esseri da lui creati, eccetto le macchine, senza così violare i limiti del potere di cui disporrebbe per definizione.
Pertanto, l’onnipotenza divina non rappresenta né un punto a favore, né un ostacolo per credere nelle macchine pensanti: è semplicemente un attributo neutro all’interno della questione. Pur ammettendo che il pensare o meno di una macchina dipenda da un dio, al limite sarebbe la sua volontà e non la potenza a fungere da operatore discriminante.
38 Le nostre obiezioni alle risposte, elaborate da Turing, per difendere l’idea di macchina pensante
dalle obiezioni che egli stesso immagina.
39 Si tratta semplicemente di uno stratagemma grafico per non dover ripetere ogni volta il soggetto
“Turing” o “noi”. Inoltre, le riflessioni di Turing verranno esposte nello stesso ordine in cui compaiono nell’elenco precedente.
46
Tanto l’obiezione teologica, quanto la replica di Turing sono quindi ininfluenti per valutare la possibilità delle macchine pensanti e non ci aiutano a fare chiarezza. Questione della “testa sotto la sabbia”:
● Afferma che l’antopocentrismo è la vera causa della paura riguardo la prospettiva che possano esistere delle macchine pensanti.
■ Concordiamo nella visione dell’antropocentrismo come fonte di sicurezza per molti uomini e sentimento di superiorità in generale. Gli esseri umani sono spesso spaventati dallo scenario in cui anche le macchine pensano, come se questa capacità mettesse in pericoloro la loro presunta supremazia intellettiva (non è chiaro su cosa essa si basi).
Che una macchina possa pensare è una tesi forte, ma questa prospettiva non ci spaventa: non pretendiamo di essere intellettualmente superiori a niente e nessuno senza poterlo dimostrare e, in questo caso, noi come specie non possiamo farlo. Questione matematica:
● Il nostro cervello commette degli errori, pur funzionando come una macchina continua e non a stati discreti, pertanto non abbiamo prove di essere superiori ad essi, nonostante il nostro essere privi dei difetti tipici di un calcolatore. Inoltre, un essere umano non potrebbe mai vincere contro tutte le macchine contemporaneamente.
■ Siamo d’accordo con la prima parte della riflessione di Turing, difatti una volta assodato che una macchina e il cervello umano funzionano in modo differente, siamo comunque sprovvisti di prove che ci garantiscano (a noi uomini) di non essere soggetti ad altre tipologie di errori costanti.
In fondo, tra l’altro, nella mentalità comune vi è una specie di pregiudizio circa le mancanze o gli errori meccanici e i difetti umani. In particolare, da un lato si pensa che nelle attività legate in qualche modo alla matematica e ai processi algoritmici le macchine siano fondamentalmente infallibili, dall’altro che gli esseri umani abbiano maggiori capacità d’interazione sociale, di comprensione e di operatività
47
creativa40. Viceversa, si ritiene che le intelligenze artificiali siano deficitarie delle
abilità legate alla sfera emotiva ed afferenti alla vita in comunità, mentre che gli esseri umani tendano a sbagliare nei processi puramente razionali.
Eppure, è proprio Turing che in un certo senso smonta questo preconcetto, simulando lo svolgimento di un ipotetico test, nel solito articolo del 195041:
D.: Sommi 34957 a 70764.
R. (pausa di circa trenta secondi e poi, come risposta): 105621. D.: Gioca a scacchi?
R.: Si.
D.: Ho il Re in e1 e nessun altro pezzo. Lei ha solo il Re in c3 e una Torre in h8. Tocca a lei. Che mossa fa?
R. (dopo una pausa di quindici secondi): Torre in h1, matto.
Entrambe le risposte del calcolatore, sia quella riguardante la somma, sia quella sulla mossa degli scacchi, sono sbagliate.
Questa è una domanda che ci poniamo da un po’ di tempo: “Perché Turing, nel suo articolo, fa commettere ad una macchina due errori che ci aspetteremmo piuttosto da un essere umano?”.
Le risposte possibili sono numerose, ma quella che ad oggi riteniamo più verosimile è che Turing volesse mostrare come le macchine, nell’esecuzione di alcuni processi, seppur afferenti al “loro campo”, non siano perfette come crediamo; il che, però, scopre anche un’altra considerazione, che rappresenta il naturale rovescio della medaglia, cioè che gli esseri umani non sono così esperti nelle attività proprie “degli uomini”.
40 Si può notare come ci siano dei temi ricorrenti, che costituiscono i punti nevralgici della riflessione
filosofica contemporanea in IA.
48
Per quanto concerne la seconda parte della risposta turinghiana, ovvero quella in cui si afferma che un uomo non potrebbe battere allo stesso tempo la totalità delle macchine, a questo punto bisogna chiedersi a quale “campo da gioco” Turing stia facendo riferimento. Non siamo in possesso di una risposta certa, ma la questione è interessante, in quanto coinvolge una serie di risultati della logica (tra cui i Teoremi di Incompletezza di Gödel) degli anni Trenta del Novecento; risultati che rappresentano già una forma di limitazione intrinseca a quell’ambito formale visto poco fa e che rendono complessa la relazione fra completezza e correttezza di un sistema. Sembra quindi che uomo e macchina siano più simili di quanto si possa pensare, almeno in alcuni tratti, e che le differenze nelle tipologie di errore commessi non costituiscano un elemento determinante per il problema.
Insomma, non necessariamente deve instaurarsi un rapporto competitivo fra uomo e macchina, anzi, crediamo che la competizione non sia la “naturale” (nel senso di più proficua) connessione fra questi due enti.
Pensiamo che entrambi i membri della relazione possano cooperare e che ognuno dei due possa essere utile all’altro. Ne parleremo fra poco.
Questione dell’autocoscienza:
● Siamo convinti che i nostri simili siano esseri pensanti come noi, pur non potendone avere certezza assoluta (non potendo essere effettivamente un’altra persona); è ragionevole applicare lo stesso ragionamento alle macchine, concedendo loro di avere la capacità di pensare, sebbene sia impossibile per noi verificarlo ponendoci al loro interno.
In questo modo si riuscirebbe ad evitare uno sterile solipsismo, che farebbe crollare la nostra sicurezza nel poterci relazionare agli altri individui con la garanzia di essere in un certo senso sullo stesso piano.
■ La fiducia che riponiamo nella facoltà altrui di pensare è motivata dal fatto che si tratta di essere appartenenti alla nostra stessa specie. Nonostante non ci siano prove inoppugnabili che confermino questo assunto, tuttavia non ci sono ragioni per dubitarne in modo forte.
49
Per quanto concerne le macchine, invece, esse vengono realizzate da uomini o da altre macchine costruite da altri uomini, pertanto si dovrebbe essere in grado di riconoscere l’intelligenza meccanica, qualora essa saltasse fuori in qualche modo. Certamente non abbiamo nessuna garanzia di saperla percepire in una macchina, ma se ci sono delle sensazioni condivise fra membri della stessa specie (fra esseri umani), allora si dovrebbe riuscire a notare anche l’assenza, nei calcolatori, di proprietà che ci contraddistinguono (come specie, appunto).
Ad ogni modo, il tema dell’autocoscienza è senz’altro uno dei più spigolosi da trattare in IA, ma con lo sviluppo delle reti neurali artificiali forse si riesce a compiere un passo in avanti nella nostra riflessione filosofica42.
Questione sulle varie incapacità:
● Se le macchine fossero dotate di una capacità di memoria maggiore rispetto a quella attuale, allora esse riuscirebbero a colmare gran parte delle mancanze di cui sono affette.
■ Concordiamo col fatto che la memoria sia uno dei criteri fondamentali per stabilire quel che una macchina può o non può eseguire, ma restano alcuni processi che le resterebbero ugualmente preclusi. Infatti, la memoria è soltanto un indicatore fra molti che caratterizzano il possesso dell’intelligenza e, tra l’altro, non uno dei più rilevanti43.
Insomma, con più memoria a disposizione una macchina svolgerebbe qualcosa in più, ma non qualcosa che sia “umano” in senso peculiare.
Questione di Lady Lovelace:
● Le macchine possono sorprenderci, producendo qualcosa in autonomia e non soltanto seguendo pedissequamente i codici scritti dai loro programmatori.
42 Posticipiamo momentaneamente la spiegazione del come.
43 Pensiamo che facoltà come l’attenzione, il pensare in modo originale e il problem solving, ad
esempio, rappresentino dei criteri di gran lunga più importanti per la costituzione dell’intelligenza e, in aggiunta, essi non implicano la disponibilità di una vasta capacità di memorizzazione per essere esibiti.
50
■ Specialmente con l’avvento del deep learning, le macchine sono state messe in condizione di apprendere in modo autonomo grazie alla loro organizzazione in reti neurali, ma questo non significa necessariamente che siano diventate capaci di elaborare un pensiero originale.
In particolare, gli output che i calcolatori esibiscono al termine dei loro processi algoritmici sono frutto di meccanismi razionali dai quali non possono scegliere di allontanarsi. Eppure, mediante il modello delle reti neurali, si vuol provare ad ottenere una macchina che abbia proprio questa capacità di seguire un percorso che le sembra idoneo, non soltanto perché accettabile da un punto di vista computazionale. Senza dubbio la razionalità è un elemento irrinunciabile, ma si cerca di far rientrare nell’ambito meccanico anche un qualcosa di non chiaramente definito e che si discosta da quel che ci si aspetta di solito da un calcolatore. Questione sulla continuità del sistema nervoso:
● La diversità di funzionamento fra macchine continue e macchine a stati discreti non influisce sullo svolgimento del test di Turing, nonostante le seconde non possano simulare il comportamento delle prime (proprio in virtù delle loro differenze costitutive).
■ Questo problema è stato preso molto sul serio nel periodo successivo alle riflessioni turinghiane, tant’è vero che la realizzazione delle reti neurali artificiali mira ad annullare lo scarto esistente fra la continuità del sistema nervoso e la discretezza dei calcolatori elettronici.
Tuttavia, riteniamo che non basti costruire due architetture simili per fare in modo che esse si comportino allo stesso modo, proprio come due esseri umani hanno le stesse componenti fisiche e biologiche, ma possono assumere una gamma di atteggiamenti parecchio diversi fra loro.
Questione del comportamento senza regole rigide:
● Gli esseri umani sono anch’essi una specie di macchine, nel senso che sono soggetti a delle leggi di comportamento che sono state imposte loro direttamente dalla natura e alle quali non possono contravvenire.
51
■ La critica che muoviamo a quest’idea di Turing è parzialmente simile alla precedente, ovvero il fatto che macchine e uomini condividano l’essere sottoposti a delle leggi44 ineludibili non porta al risultato che entrambi possano svolgere
attività di pensiero in modi paragonabili.
Inoltre, la riflessione di Turing resta intrappolata, a questo proposito, in una sorta di circolo vizioso. Spieghiamoci.
Egli afferma che l’essere umano è da considerarsi strutturalmente equiparabile ad una macchina, poiché regolato da universali leggi di comportamento, le quali lo vincolano ad assumere un certo tipo di condotta45.
Questo significa che la peculiarità della macchina è di non poter andare oltre i confini di ciò che le è imposto dalla sua propria natura, che identifichiamo qui con chi l’ha costruita materialmente e con chi l’ha programmata.
Pertanto, come sarebbe plausibile che una macchina sviluppasse un proprio pensiero originale in grado di trascendere le operazioni per le quali essa è stata realizzata? Significherebbe violare i motivi stessi per cui la definiamo come “macchina”, ovvero il restare all’interno di uno spazio d’azione invalicabile. A questo punto bisogna rigettare tanto l’ipotesi che un pensare artificiale sia ammissibile, alla luce dell’analisi appena svolta, quanto l’idea che l’essere umano possa essere paragonato ad una macchina, in quanto essere (l’uomo) pensante (a differenza della macchina).
Questione sulla percezione extrasensoriale:
A proposito della riflessione turinghiana circa l’incidenza che avrebbe la percezione extrasensoriale all’interno del gioco dell’imitazione non svolgiamo alcuna critica, poiché lo stesso logico inglese ha evidenziato difficoltà che, obiettivamente, non si possono ignorare.
44 Da un lato quelle meccaniche, dall’altro quelle della natura umana.
45 Turing si riferisce soprattutto ad alcune reazioni fisiche, come chiudere gli occhi mentre si
52
Certo, se non si ritenesse possibile l’utilizzo di queste pratiche che trascendono i sensi, allora tutto il discorso correlato a queste percezioni risulterebbe vano. Noi ci limitiamo ad esprimere il nostro scetticismo a riguardo, confidando che le interazioni fra gli enti non possano subire alterazioni di questo tipo.