L’intelligenza è artificiale: il destino
dell’umanità oltre Bradbury, Dick e Kubrick
Luca Sossella Editore, con Emilia Romagna Teatro Fondazione e Gruppo Unipol, ha ideato il
progetto Oracoli. Saperi e pregiudizi ai tempi dell’Intelligenza Artificiale: una serie di azioni integrate dedicate all’emergenza delle tecnologie intelligenti e al loro impatto su tutti gli aspetti dell’esistenza umana.
La prima di queste azioni è l’organizzazione a Bologna di quattro lezioni-spettacolo in cui esperti di livello internazionale ragioneranno sulle più rilevanti questioni etiche, filosofiche, politiche, sociali ed economiche connesse allo sviluppo dell’intelligenza artificiale.
La seconda è una pubblicazione, curata da Paolo Gervasi e in edicola oggi 15 marzo in abbinamento con il Venerdì di Repubblica e Tutto Milano, scaricabile in pdf qui, che racconta il progetto e approfondisce la riflessione sui temi nodali.
La terza azione è una partnership con cheFare pensata per aumentare ed espandere online il dibattito sulle sfide culturali poste dall’intelligenza artificiale: tra marzo e aprile, lungo tutta la durata dell’evento, cheFare pubblicherà articoli, riflessioni, interviste e altri materiali connessi ai temi del progetto Oracoli, in un percorso dallo stesso nome. Questo intervento di Paolo Gervasi è il primo della serie.
La quarta azione è la produzione di video e di un libro sulle quattro lezioni-spettacolo.
La quinta azione sarà la messa in onda durante la Notte di Radio3, la sera prima di ogni lezione- spettacolo, della lezione-spettacolo precedente.
La sesta azione è la pubblicazione online delle trasmissioni sui portali di Rai Radio3 (Media partner di Oracoli), Rai Cultura e Rai Scuola e la condivisione attraverso i loro canali social.
La letteratura si è sempre interrogata sul destino della specie umana, immaginando trasformazioni e metamorfosi, e continuamente riformulando l’ipotesi di una mutazione irreversibile, tale da rendere gli esseri umani irriconoscibili a sé stessi. È come se l’immaginazione umana fosse percorsa dall’eco di un’inquietudine già presente nella Bibbia, che sente la creazione originaria come qualcosa di incompiuto, instabile e precario, oscuramente reversibile o replicabile in forma grottesca: in principio era il Golem.
La creatura d’argilla – la prima copia robotica dell’essere umano – evoca una possibilità sempre presente nell’orizzonte dell’umanità: l’avvento di una seconda creazione, non divina, ma umana. La produzione di una forma di vita due volte minacciosa: primo perché capace di sottrarsi al controllo dell’umanità, e quindi di agire in autonomia, quasi sempre contro l’umanità stessa, distruggendola e annientandola; secondo perché posta di fronte all’umano a interrogarne l’umanità: che cosa vuol dire essere umani? Dove si pone il confine tra noi e la materia inerte? Tra noi e le nostre estensioni, produzioni, immaginazioni?
Nel riverbero di queste due inquietudini, il Golem ha continuato ad apparire nella storia letteraria, con una particolare intensificazione all’altezza degli sconvolgimenti tecno-cognitivi prodotti dalla rivoluzione scientifica e industriale: Frankenstein, scritto da Mary Shelley nel 1823, pur evocando una diversa derivazione dal mito prometeico, rappresenta probabilmente il più ingombrante erede del Golem. Ma al di là del catalogo delle opere, che sarebbe lunghissimo, all’alba della modernità è un’intera zona dell’immaginazione, a un passo dal diventare compiutamente trans-mediale, ad assumere la figura del travasamento della vita nelle cose, i nuovi concatenamenti tra materia organica e materia inorganica, come nucleo pulsante della creatività.
Non si tratta solo della nascita della fantascienza in quanto genere, o grappolo di generi – anche se la letteratura di genere, e il suo statuto sociale connesso alle mutazioni dell’industria culturale, ha un ruolo decisivo – ma di uno smottamento dell’immaginario che connette paure ataviche, impulsi inconsci, forze primordiali, alle trasformazioni tecnologiche e scientifiche che dinamizzano e sembrano già trasfigurare l’immagine dell’umano. Non c’è bisogno di pensare a fantascientifici innesti meccanici: basta leggere la Discesa nel Maelström raccontata da Poe per vedere la
modernità travolgere l’individuo come una forza naturale arcaica e ingovernabile.
Il pensiero della mutazione, però, precede le forme moderne del fantastico, e affiora ogni volta che la letteratura analizza ed elabora una trasformazione delle forme di vita, anche senza rappresentare direttamente la pressione esercitata dalle innovazioni tecnologiche e scientifiche.
Nell’Orlando Furioso di Ludovico Ariosto, ad esempio, agisce un personaggio anomalo, portatore di una divergente idea dell’umano: Astolfo. Mentre gli eroi e le eroine continuano incessantemente a perdersi e a scontrarsi nel labirinto del poema, sospinti dal desiderio di accoppiarsi e dall’istinto di scornarsi, Astolfo scivola sulla superficie del mondo senza mai incagliarsi, sempre trovando il modo di governare gli eventi con astuzia, sfruttando le circostanze ed eludendo lo scontro frontale.
Somiglia a Odisseo, ed è sicuramente un anti-Achille: i varchi che Astolfo si apre attraverso il reale non dipendono mai dalla forza bruta o dal valore guerriero. Astolfo sembra sospinto dalla fortuna e dal caso, ma riesce a risolvere le situazioni più complesse grazie a due strumenti magici, che gli sono stati donati dalla maga Logistilla: un libro che lo aiuta a proteggersi dagli incantesimi, e un corno che gli permette di scompaginare i contesti in cui agisce.
Come l’uom riparar debba agl’incanti mostra il libretto che costei gli diede:
dove ne tratta o più dietro o più inanti, per rubrica e per indice si vede.
Un altro don gli fece ancor, che quanti doni fur mai, di gran vantaggio eccede:
e questo fu d’orribil suono un corno, che fa fugire ognun che l’ode intorno.
Astolfo, insomma, è un eroe strumentale: utilizza protesi tecnologiche ed estensioni cognitive per affrontare il mondo, così sottraendosi alla fuga sul posto cui sono condannati gli eroi tradizionali, costretti a percorrere sempre le stesse strade, a sbattere contro gli stessi nemici, a correre dietro alle stesse imprendibili donne – o uomini. Astolfo è un eroe mercuriale, eroe della comunicazione e del movimento, e segna il passaggio, la mutazione, da una concezione monolitica dell’essere umano, fondata su un’idea di autonomia “naturale” dell’individuo, a una concezione moderna, connettiva, ibrida. Non a caso Astolfo, a cavallo dell’ippogrifo, sorvola il mondo e lo abbraccia in uno sguardo onnicomprensivo che è già cartografico; ed è colui che, grazie a questo viaggio fantascientifico, restituisce il senno a Orlando impazzito, sbloccando così la vicenda del poema. Il dominio sul mondo affidato alla forza sta tramontando: d’ora in poi il dominio sarà garantito dalla tecnica, dalla
conoscenza, dall’intelligenza artificiale.
Astolfo recupera il senno di Orlando volando fino al cielo della luna: da lassù è sempre stato più facile spiare il destino della specie; i “piccoli passi” individuali mossi nell’altrove della luna lasciano spesso intravedere un “grande passo” in avanti nei destini collettivi.
I libri, sulla luna, sono congegni parlanti che
non richiedono la mediazione della vista, e
possono essere indossati, appendendoli alle
orecchie
Il viaggio lunare di un collega di Astolfo, e di Armstrong, è raccontato da Cyrano de Bergerac nel suo L’altro mondo o Gli stati e imperi della luna (1657): un testo che riprende la tradizione della
speculazione utopica, e che nel solco di quella tradizione immagina possibili riprogrammazioni dei sensi e dei saperi. Sulla luna, per esempio, si mangia odorando. E la poesia è una valuta, si scambia come moneta corrente: il conto all’osteria si paga in versi. Ma la notizia più dirompente riguarda l’arte lunare della stampa. I libri, sulla luna, sono congegni parlanti che non richiedono la
mediazione della vista, e possono essere indossati, appendendoli alle orecchie.
Aperta la scatola, trovai internamente un che di metallico, quasi del tutto simile ai nostri orologi, irto di non so quali minuscole molle e congegni impercettibili.
Effettivamente è un libro: ma un libro prodigioso che non ha pagine né caratteri di stampa. Insomma, è un libro dove, per apprendere, sono inutili gli occhi, ma occorrono soltanto le orecchie. Quando dunque qualcuno desidera leggere, carica, mediante piccoli nervi in gran numero e d’ogni genere, questa macchina, gira quindi la sfera sul capitolo che desidera ascoltare, e nello stesso tempo ecco uscire da questo guscio, proprio come dalla bocca d’un uomo o da uno strumento
musicale, tutti i suoni distinti e diversi che servono, tra i notabili della luna, all’espressione del linguaggio.
Interrogandosi su che cos’è l’essere umano, l’immaginazione letteraria è arrivata spesso a prefigurare gli strumenti di cui l’umanità si sarebbe dotata. Conoscendo il cuore umano, la letteratura ne conosce l’ambizione, la volontà di trasformazione, l’instabilità costitutiva.
Nel 1921 – lo stesso anno in cui Karel Čapek nel dramma R.U.R. utilizza per la prima volta il termine robot – Massimo Bontempelli scrive un romanzo tra i suoi meno noti, intitolato La vita operosa, commissionato dalla rivista di categoria «Industrie Italiane Illustrate». Il romanzo, assunto in un contesto celebrativo della ripresa economica post-bellica, sfigura l’intenzione del committente attraverso la rappresentazione onirica della metropoli capitalistica – nella fattispecie, Milano – come una trincea in tempo di pace.
La “vita degli affari”, vera protagonista del romanzo, si rivela come la prosecuzione della guerra con altri mezzi. E il soggetto che la attraversa è lacerato dalla pressione psichica esercitata dalla
comunicazione, assediato da strumenti che tendono già al post-umano. Come il “tirannico”
strumento radiofonico nel quale si imbatte l’io narrante, che annulla le normali percezioni umane e si basa sulla riconfigurazione degli “infinitesimi e inesauribili movimenti atomici della materia organica”.
Bruno, il demiurgo che ha creato questo apparecchio, incarna una forza eterna e quasi sovrumana, che spinge l’umanità verso il compimento di un suo destino escatologico, verso il fine della
modernità; è un profeta benjaminiano, messianico, una forza inattuale che asseconda la dissipazione incorporata nell’attualità, che affida alla tecnica un oltrepassamento spirituale dell’umano.
L’invenzione di Bruno si chiama “gabinetto pantelestetico”:
Tutto l’ambiente ne è acusticamente isolato, senza che occorra la cuffia. Di lì senz’altro lei sentirà telefonicamente le parole del gabinetto lontano ch’è in comunicazione con questo. E fin qui non abbiamo che un perfezionamento della telefonìa. Ma una delle pareti del gabinetto è uno specchio allocatoptrico in cui si vede, distintamente, il luogo e la persona con cui si parla: la si vede parlare e muoversi, vivere. Data l’audizione e la visione, perfettissime entrambe, ogni
distanza tra gli uomini è con ciò perfettamente abolita.
La compressione del tempo e dello spazio nell’istantaneità della comunicazione – qualcosa che la tecnologia avrebbe concretizzato appieno – rappresenta nel romanzo di Bontempelli un’esperienza spaventosa di disumanizzazione, di laceramento del tessuto umano e del tessuto sociale
umanisticamente inteso. L’esperienza del corpo elettrico, attraversato dal sistema della
comunicazione in tempo reale, minaccia di disintegrare la mente e la coscienza. Il potenziamento inaudito delle facoltà umane si pone già, all’inizio del secolo che avrebbe fatto esplodere i sistemi di comunicazione, come uno stress-test cruciale per l’umanità.
L’intensificazione della pervasività dei media, del resto, ha il risultato paradossale di annullare la comunicazione; crea un rumore indecifrabile che risucchia ogni possibile voce, come accade nel folgorante apologo di Kafka, Un messaggio dell’imperatore.
Il messaggio che l’imperatore morente ha affidato al suo messo resta impigliato nella rete di
distribuzione dell’informazione: il portatore del messaggio non riesce a uscire dall’infinito labirinto del palazzo: “e quando finalmente sbucasse dall’ultimissima porta – ma ciò non accadrà mai e poi mai –, si troverà dinanzi la città imperiale, il centro del mondo, colma fino all’orlo di tutta la sua feccia: nessuno può venirne a capo, anche se sia latore del messaggio di un morto. Ma tu siedi alla finestra e immagini che giunga a te, quando scende la sera”.
Non possiamo comunicare nulla, non riusciamo a decifrare la massa dei segni che attraversano la vita vorticosa e piena di scorie semiotiche della città imperiale, eppure il solo fatto che l’imperatore abbia emesso il suo messaggio, il solo fatto che esista la possibilità di riceverlo, ci tiene stabilmente connessi, ci sospende nell’attesa continuamente rinnovata della notifica imminente.
Non credo esista una definizione più potente della nostra condizione attuale.
I traumi collettivi del Novecento portano la letteratura a mettere a fuoco con nitore crescente il nesso tra tecnica e disumanizzazione, la possibilità di un annientamento dell’umano per via
tecnologica. Ad Auschwitz la razionalità tecnica dispiegata per migliorare l’umanità ha concretizzato l’orrore, convocando lo spirito del Golem e la sua potenza distruttrice.
Non a caso Primo Levi, dopo aver raccontato l’esperienza della prigionia in chiave testimoniale, ha proiettato sul tempo di “pace” l’ombra lunga del delirio razionalistico che fondava il lager, attraverso una serie di trasfigurazioni “fantascientifiche” e prefigurazioni di scenari tecnologici distopici. Nei racconti delle Storie naturali (1966), così come in quelli raccolti in Vizio di forma (1971), l’ipotesi dell’annientamento umano persiste nella costruzione di apparati tecnici intelligenti che si rovesciano e collassano in una ridicola e inquietante stupidità.
Esiste del resto un legame originario tra il potere politico e la volontà di potenza delle macchine, la forza trasferita nei dispositivi tecnologici. L’alleanza perversa tra tecnocrazia e totalitarismo ha nutrito alcune delle più celebri distopie novecentesche, da 1984 di Orwell a Brave New World di Aldous Huxley, a Fahrenheit 451 di Bradbury.
Tra il 1921 e il 1922, lo scrittore russo
Evgenij Zamjatin immagina nel romanzo Noi
una società integralmente gestita per via
algoritmica, che ha bandito il libero arbitrio e le alterazioni emotive degli individui,
affidando la felicità alla ragione matematica
Ma già durante i suoi primi vagiti il totalitarismo politico ha fatto sistema con le promesse palingenetiche della razionalità tecnica: intuendo precocemente le tendenze della neonata
Repubblica sovietica, lo scrittore russo Evgenij Zamjatin immagina nel romanzo Noi (scritto tra il 1921 e il 1922: quanta ostinazione nelle date!) una società integralmente gestita per via algoritmica, che ha bandito il libero arbitrio e le alterazioni emotive degli individui, affidando la felicità alla ragione matematica. Noi è una delle prime opere censurate dallo Stato sovietico, e quindi uno dei momenti di fondazione del regime totalitario, che nella soppressione strumentale dell’eccezione rappresentata nel romanzo ha potuto leggere la forma del proprio destino.
Pochi anni dopo Zamjatin, anche Bulgakov intrecciava la speculazione tecno-scientifica alla critica del totalitarismo: la trasformazione del cane in essere umano raccontata in Cuore di cane (1925) è la metafora della pretesa biopolitica di forgiare un’umanità nuova, di rifondare l’essere umano alla radice. È ancora il Golem, che con la sua apparizione torna a sondare i limiti dell’umanità, a
verificare la tenuta dell’ambizione umana di allontanarsi dalla creazione originaria, o di manipolarla.
La possibilità distopica del controllo integrale sulle esistenze garantito dalla tecnologia è l’eredità che i regimi politici novecenteschi hanno lasciato al dominio capitalistico sul mondo costruito dalle big companies digitali. Mentre discutevamo del celebre episodio di Black Mirror Nosedive, che immagina una società interamente gestita attraverso il social ranking, un amico cubano mi ha fatto notare che gli sceneggiatori non si sono inventati quasi niente: il regime castrista aveva già pensato a un sistema di ranking, basato sui giudizi di comitati territoriali deputati a valutare la condotta politica ed etico-morale degli individui, dal quale dipendeva la possibilità di accedere ad alcuni bonus sociali, come acquistare un’automobile, o ottenere una promozione.
Questa forma di trasparenza sociale si fondava sul concetto di emulación socialista: promuovere l’esempio positivo per conformare i comportamenti collettivi. Mutati i valori di riferimento – ma nemmeno tanto, se è vero che anche nel sistema socialista i benefici erano soprattutto di tipo materiale – l’emulazione è ancora la molla che fa funzionare gli algoritmi delle reti sociali.
Nel secondo Novecento, con ancora nitida e continuamente ritornante l’immagine del Golem totalitario, le nuove forme di controllo politico diffuso e l’accelerazione dell’immaginario tecno- scientifico esplodono in un movimento di “rifondazione” della fantascienza speculativa,
emblematizzata dall’opera multiforme di Philip K. Dick.
L’ossessione paranoica nei confronti della pervasività del potere si incarna in immaginazioni tecnologiche diventate celebri, come gli androidi di Do Androids Dream of Electric Sheep?, riprogrammati per il cinema in Blade Runner; la sostanza metamorfica di Ubik; la polizia precognitiva di Minority Report, e nei momenti migliori raggiunge l’altezza visionaria di una meditazione metafisica.
Quasi a fare da contraltare a Dick, l’altro dioscuro della fantascienza post-bellica è Isaac Asimov, che costruisce prefigurazioni inquietanti ma guidate da una salda visione razionalistica, cui non manca una sostanziale fiducia “illuministica” nella capacità umana di gestire il proprio potenziale creativo,
innestata su una sorprendente capacità analitica e predittiva delle mutazioni tecnologiche in atto.
In generale però, la nostra “immaginazione tecnologica” resta profondamente condizionata dal paradigma negativo consolidatosi nel corso del Novecento, che ci ha consegnato scenari in cui la mutazione si manifesta in forme apocalittiche, si mette al servizio delle pulsioni più oscure dell’umano, concretizza una volontà di potenza essenzialmente distruttiva.
La nostra concezione dello sviluppo tecnologico è profondamente influenzata da ciò che Adorno e Horkheimer hanno definito dialettica dell’illuminismo: tutti i presunti progressi che la ragione
strumentale introduce per migliorare la vita degli esseri umani sono destinati a rovesciarsi in sistemi di oppressione e alienazione, in applicazioni tecniche che tradiscono l’intenzione originale e lavorano alla standardizzazione dell’umanità, alla soppressione dell’unicità e dell’autenticità degli esseri umani.
Questa visione, perfettamente legittima se pensata nel contesto novecentesco, all’interno
dell’accelerazione attuale rischia però di generare un’inerzia conservatrice, e soprattutto una cecità che impedisce di vedere le potenzialità trasformative dei processi in atto.
Del resto, non esiste nessuna naturalità dell’umano, nessuna sua condizione originaria e autentica:
se scavalchiamo all’indietro le distopie moderne per tornare allo sguardo rinascimentale, le avventure di Astolfo e quelle raccontate da Cyrano ci suggeriscono che l’intelligenza è sempre artificiale, che l’essere umano evolve insieme alla tecnologia e si definisce attraverso le proprie protesi cognitive.
Una delle rarissime visioni contemporanee che intuiscono questa necessità evolutiva della tecnologia è forse 2001: A Space Odissey di Stanley Kubrick. Eccezionalmente per la cultura contemporanea, lì la rivolta del Golem, la ribellione dell’intelligenza artificiale HAL 9000, non determina l’estinzione dell’umano, ma l’apertura di una nuova dimensione, lo sfondamento verso uno stadio imprevisto e ancora impensato dell’umanità. Da quando abbiamo impugnato il primo osso per agire sull’ambiente, siamo saliti su una navicella che lacera lo spaziotempo a velocità supersonica e continuamente ci trasfigura. E non sembra ci sia modo di scendere.
