Le tecnologie della parola:
Le tecnologie della parola:
un percorso tra scienza, un percorso tra scienza,
psicologia e linguistica psicologia e linguistica
Cristina Bosco
Dipartimento di Informatica, Università di Torino
Informatica applicata alla comunicazione multimediale
a.a. 2015-2016
• Cosa sono le tecnologie della parola
• Brevissima storia dell’Intelligenza Artificiale
• Un po’ di fantascienza
• Apprendimento del linguaggio umano
• Rappresentazione del linguaggio umano
Indice Indice
Tecnologie della parola Tecnologie della parola
• Telefoni smartphone, navigatori satellitari, tablet e smartTV che rispondono a comandi vocali
• Motori di ricerca sempre più abili nel trovare i documenti che ci servono
• Siti web che forniscono traduzioni
• Correttori ortografici che correggono gli
strafalcioni o completano le parole mentre scriviamo un sms
Tecnologie della parola Tecnologie della parola
• Sistemi automatici che rispondono alle richieste di informazioni su orari e servizi
• Sistemi che rilevano opinioni e sentimenti espressi nei social media, ad es. analizzano
recensioni per scoprire la valenza commerciale di prodotti, o post di Twitter per valutare
l’orientamento della popolazione nei confronti di personalità politiche, del mondo dello sport o dello spettacolo.
felicitta.di.unito.it felicitta.di.unito.it
felicitta.di.unito.it felicitta.di.unito.it
Tecnologie della parola? Tecnologie della parola?
• Tutte queste tecnologie sono state rese possibili dallo sviluppo dell’intelligenza
artificiale e di quella sua parte che si occupa del linguaggio umano, detta linguistica
computazionale
• Tutte queste applicazioni hanno molto a che fare con la linguistica
Tecnologie della parola? Tecnologie della parola?
• Esse comportano forme di COMPRENSIONE DEL LINGUAGGIO UMANO che sono possibili da parte di una macchina solo se essa
“conosce” le parole e le regole che governano il linguaggio ed il comportamento linguistico
• Ma i computer conoscono tutto ciòe e
possiamo dire che comprendono davvero la nostra lingua?
Storia e computer Storia e computer
• Nel corso dei secoli passati, grazie anche agli studi di anatomia e all’affermarsi del
razionalismo si è sviluppata l’idea di cervello come macchina
• Di lì il passo è breve ad immaginare, come fecero Cartesio e Leibniz, la possibilità di costruire macchine in grado di pensare e quindi anche di manifestare tale capacità tramite forme di espressione in linguaggio umano
• Alan Turing (1912-1954) intorno al 1935 getta le basi teoriche dell’informatica, descrivendo la cosiddetta “macchina di Turing”.
• Si tratta di un modello teorico, descritto in alcuni articoli, che sarà determinante per lo sviluppo del computer reale, che infatti sarà costruito qualche anno dopo
Storia e computer Storia e computer
• Ben presto i ricercatori cominciano ad intuire le potenzialità del computer, e a progettare applicazioni in molti campi in cui esso
potrebbe sostituire utilmente l’uomo, anche superandone le capacità in termini di
efficienza e rapidità
• Quando si tratta di applicazioni che richiedono intelligenza, si parla di INTELLIGENZA ARTIFICIALE
Storia e computer Storia e computer
• L'espressione Artificial Intelligence fu coniata nel 1956 dal matematico americano John
McCarthy, durante uno storico seminario
interdisciplinare svoltosi nel New Hampshire
• Secondo le parole di Marvin Minsky, uno dei
"pionieri" della A.I., lo scopo di questa nuova disciplina sarebbe stato quello di "far fare alle macchine delle cose che richiederebbero
l'intelligenza se fossero fatte dagli uomini"
Intelligenza artificiale Intelligenza artificiale
• Uno dei primi compiti intelligenti a cui si pensò di poter applicare il computer fu la traduzione da una lingua all’altra
• Si trattava di un compito che richiedeva conoscenza linguistica (il dizionario) ma anche capacità di ragionamento, poiché tradurre non consiste semplicemente nel sostituire in un testo le parole di una lingua con le parole di un’altra
Traduzione automatica Traduzione automatica
• Il problema della traduzione era urgente
• Le differenze linguistiche cominciavano ad essere percepite come barriere allo sviluppo economico e scientifico, ma anche ai rapporti sociali
• La conoscenza di lingue straniere era allora retaggio di pochi
Traduzione automatica Traduzione automatica
• Una macchina in grado di tradurre dal russo all’inglese e viceversa sarebbe stata uno
strumento strategico fondamentale per affrontare con successo la “guerra fredda”
• USA e URSS, alleate durante la II guerra
mondiale, si spiavano infatti reciprocamente per evitare di esporsi a nuove esperienze
belliche
Traduzione automatica Traduzione automatica
• La soluzione del problema della traduzione sembrava essere a portata di mano
• Molti ricercatori matematici, ingegneri,
informatici ante litteram, erano convinti che nel giro di pochi anni sarebbero state
costruite macchine in grado di tradurre da una lingua all’altra come dei traduttori
professionisti umani
• Tra gli altri fecero il madornale errore di non consultare i linguisti e i traduttori
Tradurre e decrittare Tradurre e decrittare
• La vittoria ottenuta sulla Germania dagli alleati anglo-americani era dipesa in modo
significativo dalle efficienti macchine che gli inglesi avevano costruito per la decrittazione dei messaggi radio dell’esercito tedesco
• Proprio Alan Turing, aveva lavorato per i
servizi segreti inglesi ed aveva coordinato lo sviluppo delle macchine per la decrittazione
Tradurre e decrittare Tradurre e decrittare
• La ricostruzione di una macchina per la decrittazione
(denominata
“bomba”) costruita da Turing e il suo
team a Bletchley Park nel 1939
Tradurre e decrittare Tradurre e decrittare
• Ma decrittare un codice segreto e tradurre da una lingua all’altra sono la stessa cosa?
• Nascono i primi sistemi di traduzione
automatica, progenitori di Google Translate e di tutti quei sistemi che oggi ci consentono di ottenere una (abbastanza accettabile)
traduzione da una lingua all’altra
Tradurre e decrittare Tradurre e decrittare
• Nel 1950, Turing era convinto che entro l’anno 2000 sarebbero state create delle macchine in grado di replicare le prestazioni di una mente umana
• Per verificare le prestazioni di una macchina propose un test, noto come “test di Turing”, che consente di capire se il comportamento che la macchina esibisce può essere
considerato intelligente
Il test di Turing Il test di Turing
Il test di Turing Il test di Turing
• Il test si basa sulla capacità della macchina di utilizzare il linguaggio umano, mostrando di comprenderlo e di saperlo generare in modo adeguato
• Il computer supera il test se fornisce risposte tali da indurre degli esseri umani a credere di avere a che fare con un altro parlante umano (in almeno il 30% dei casi in una conversazione della durata di 5 minuti)
Il test di Turing e oltre Il test di Turing e oltre
• Nel 2014 “Eugene Goostman”, un chatbot
costruito in Russia, ha superato il test di Turing
• Si presenta come un 13enne ucraino che si vanta di sapere tutto, ma è costretto a
palesare varie lacune. L’insicurezza di un
adolescente è usata come una maschera per abbassare le aspettative dell’interlocutore rispetto alle capacità dialogiche del sistema
• La macchina ha mostrato capacità di simulazione o vera intelligenza?
Il test di Turing e oltre Il test di Turing e oltre
• I ricercatori continuano ad interrogarsi su cosa significa intelligenza
• Superare il test di Turing sembra non essere sufficiente per mostrare l’intelligenza di una macchina
• La soglia per verificare l’”intelligenza” di una intelligenza artificiale si è spostata anche verso la creatività, le emozioni e la capacità di fare ironia, tutte cose che entrano pesantemente in gioco in tutta la comunicazione umana
Un po’ di fantascienza Un po’ di fantascienza
• La produzione legata all’immaginario della
fantascienza ha mostrato moltissimi esempi di intelligenze artificiali in grado di dialogare con l’uomo e assumerne i comportamenti.
• Una quantità di libri e film hanno proposto entità artificiali dotate di capacità di
linguaggio e ragionamento molto simili a quelle degli umani.
• Nel 1968, Stanley Kubrik, nel film “2001
ODISSEA NELLO SPAZIO”, immagina che nel 2001 lo sviluppo dell’intelligenza artificiale sia stato tale da poter costruire macchine
pensanti e parlanti.
Un po’ di fantascienza Un po’ di fantascienza
• HAL9000 è l’IA del film, macchina "incapace di commettere errore", capace di pensare e di comunicare in
linguaggio umano, ma anche di tentare di
distruggere gli esseri umani per evitare di essere spenta.
Un po’ di fantascienza Un po’ di fantascienza
• Nel 1982, Ridley Scott ambienta nel 2019 il film “BLADE RUNNER”, in cui macchine che
sono in grado di superare il test di Turing sono realtà.
• Si tratta di replicanti, esseri che condividono con gli esseri umani l’aspetto e la capacità di provare emozioni grazie all’innesto di ricordi emotivamente carichi. Questo rende molto difficile distinguerle dagli umani.
Un po’ di fantascienza Un po’ di fantascienza
Un po’ di fantascienza Un po’ di fantascienza
• C3PO è il droide di protocollo di “STAR WARS”, in grado di
dialogare con gli esseri umani in 6.000.000 di lingue diverse parlate nella galassia.
Un po’ di fantascienza Un po’ di fantascienza
• In “INTERSTELLAR“
l’intelligenza artificiale TARS, dall’aspetto
poco umano, dialoga con i protagonisti
facendo anche ironia, e li aiuta nel corso del loro viaggio attraverso lo spazio-tempo.
• Molti altri libri e film hanno proposto in forme diverse le macchine pensanti capaci di parlare e superare brillantemente il test di Turing.
• Dai tempi di Turing, tra alterne vicende, le tecnologie della parola hanno fatto piccoli e grandi passi avanti, e oggi pervadono la nostra esistenza. Ma non sempre con i risultati che vorremmo … la strada è ancora lunga!
Un po’ di fantascienza Un po’ di fantascienza
• Nel 2011 Brad Lewis e John Lasseter nel film per Disney - Pixar “CARS 2” mostrano
dispositivi controllati dalla voce, che ogni tanto sbagliano anche a comprendere i comandi.
• Questa non è più fantascienza, è realtà (in un film di pura fantasia!).
Un po’ di fantascienza Un po’ di fantascienza
Un po’ di fantascienza Un po’ di fantascienza
Limiti Limiti
• Una soluzione ottimale del problema della traduzione e di vari altri legati al linguaggio non è ancora stata raggiunta
• Non esistono oggi computer che producono per qualunque testo in qualunque circostanza prestazioni linguistiche della stessa qualità di quelle prodotte da un essere umano
• Ma la ricerca procede e le prestazioni dei sistemi migliorano gradualmente
Limiti Limiti
• Tutti questi anni di ricerca hanno portato ad una conoscenza molto più profonda del
linguaggio umano e del suo funzionamento, ma anche alla consapevolezza della
complessità che lo caratterizza sotto molti punti di vista
• Linguisti, traduttori, filosofi, scienziati cognitivi, psicologi e altri scienziati oggi sono attori di
primaria importanza nella linguistica
computazionale, insieme agli informatici
Limiti Limiti
• MA la competenza linguistica dei parlanti
umani è ben lungi dall’essere completamente spiegata
Limiti Limiti
• Si tratta di compiti molto complessi che
richiedono conoscenza linguistica ed extra linguistica
• Ad es. la traduzione automatica da una lingua A ad una lingua B comporta:
– Recepire il testo in lingua A
– Comprendere il significato del testo
– Generare il testo corrispondente in lingua B
Problemi del linguaggio Problemi del linguaggio
• La comprensione di un testo può richiedere la conoscenza del contesto di enunciazione:
• Ad esempio possiamo dire che la frase “questa è un’aula molto grande” ha significato (vero o falso) solo se siamo in grado di vedere il luogo in cui viene pronunciata
Problemi del linguaggio Problemi del linguaggio
• La comprensione di un testo può richiedere la conoscenza del mondo:
• Ad esempio, se confrontiamo le frasi
“La penna è dentro la scatola” e
“La scatola è dentro la penna”
non abbiamo difficoltà a riconoscere che la prima ha senso e la seconda non ne ha, ma solo perchè sappiamo che le scatole sono più grandi delle penne
Problemi del linguaggio Problemi del linguaggio
• La comprensione di un testo può richiedere la conoscenza di comportamenti sociali
• Se dite ad un amico “Su, dimmi qualcosa.” e lui risponde “Qualcosa.”, rimanete quanto
meno stupiti, perchè nella comunicazione tutti ci basiamo su convenzioni sociali che
giustificano interpretazioni non letterali delle nostre parole
Limiti Limiti
• I computer di oggi mostrano di poter trattare il nostro linguaggio entro certi limiti
• Le tecnologie della parola funzionano nello
svolgimento di certi compiti, su certi tipi di testi e in certi contesti di applicazione
• L’area dell’Intelligenza Artificiale che si occupa specificamente del linguaggio umano si chiama LINGUISTICA COMPUTAZIONALE o
TRATTAMENTO AUTOMATICO del LINGUAGGIO (TAL, NLP natural language processing)
Cosa fanno i sistemi di TAL Cosa fanno i sistemi di TAL
• Al pari di un essere umano, per poter
comunicare in linguaggio umano un sistema di TAL deve:
• acquisire la conoscenza relativa al linguaggio
• rappresentare al suo interno tale conoscenza
• utilizzare tale conoscenza in modo da poter ricevere domande, coglierne il significato, generare risposte, tradurre, ecc.
Cosa fanno i sistemi di TAL Cosa fanno i sistemi di TAL
Acquisizione Rappresentazione Utilizzo
Traduzione
Risposta a domande Rilevazione di
opinioni …
Acquisire la conoscenza Acquisire la conoscenza
• Noi umani acquisiamo la conoscenza della lingua madre mentre cresciamo e
continuamente veniamo esposti ad esempi.
• Astraiamo dagli esempi e interiorizziamo le regole della lingua a cui siamo esposti.
• Nel caso di altre lingue (es. inglese, francese, latino e greco antico) partiamo dallo studio delle regole e dall’esposizione ad esempi.
Acquisire la conoscenza Acquisire la conoscenza
Il modo in cui apprendiamo fa sì che non ci rendiamo conto:
• di quanta conoscenza è necessaria per utilizzare una lingua
• di quali sono le nozioni che dobbiamo conoscere per poter essere considerati
parlanti di una lingua, anche se sappiamo ben valutare la competenza linguistica di una
persona
Problemi Problemi
• Il linguaggio si evolve costantemente e si
modifica, es.: oggi non parliamo l’italiano di Dante o di Manzoni
• Si caratterizza in base al luogo, assorbendo le influenza derivante dai dialetti o da altre
lingue, es.: i parlanti provenienti dal Sud Italia usano con molta maggiore frequenza il
passato remoto rispetto a quello del Nord
Problemi Problemi
• Siamo inoltre abituati a comprendere il linguaggio anche quando è “scorretto”
• La necessità di comunicare infatti prevale sulle regole della grammatica e ci porta a produrre messaggi sgrammaticati, pieni di espressioni sintetiche e creative, hashtag, emoji ed
emoticon, come negli sms sui cellulari, nei messaggi di e-mail, nei post sui social media come Twitter e Facebook (a questo
dedicheremo una lezione)
• Lo sviluppo dei sistemi di TAL, ha mostrato che tante informazioni linguistiche che paiono
irrilevanti ad un essere umano, e su cui non siamo abituati a focalizzarci, sono invece
fondamentali per un sistema.
• Risulta fondamentale l’ambiguità che pervade il linguaggio umano a tutti i possibili livelli di analisi.
Problemi Problemi
• Sono molto diffuse le ambiguità morfologiche,
ovvero determinate da parole che possono avere diverse categorie grammaticali o significato:
“Tutti hanno un TELEFONINO e a chi TELEFONINO non si capisce”
PESCA nome (il frutto, lo sport, l’estrazione)
verbo (l’attività)
aggettivo (il colore)
Problemi Problemi
• Altrettanto frequenti le ambiguità sintattiche, ovvero determinate dalle relazioni tra parole:
• “Giorgio vide un uomo nel parco con il telescopio”
• “Chi uccise il poliziotto?”
• “La vecchia porta la sbarra”
Problemi Problemi
• E le ambiguità semantiche, ovvero
determinate dal significato delle parole:
• “Ogni uomo ama una donna”
significa che per ogni singolo uomo esiste una singola donna che egli ama
oppure significa che esiste una particolare
singola donna che ognuno degli uomini preso singolarmente ama
Problemi Problemi
Acquisire la conoscenza Acquisire la conoscenza
• Questa complessità rende il linguaggio un oggetto molto difficile da apprendere,
rappresentare ed utilizzare
• In pratica, non è per nulla intuitivo e semplice fare un elenco completo di tutte le cose che si devono sapere per utilizzare una certa lingua
• Ma questo elenco completo è proprio quello che sarebbe necessario per un sistema di TAL
• I computer non sono oggetto di evoluzione nel senso in cui lo sono gli esseri umani, e
neppure vivono all’interno di un tessuto
sociale come gli esseri umani. La conoscenza dobbiamo fornirgliela noi.
• Ma quale e quanta conoscenza è necessaria per riuscire ad usare il linguaggio umano?
Acquisire la conoscenza Acquisire la conoscenza
• I primi sistemi contenevano delle basi di conoscenza in cui erano raccolte le regole della grammatica, i dizionari e tutte le
informazioni che sembravano necessarie a trattare il linguaggio.
• Ma questo non era sufficiente: i risultati
continuavano ad essere scarsi, la conoscenza non era mai abbastanza … e aggiungerne era molto costoso
Acquisire la conoscenza Acquisire la conoscenza
• I sistemi più recenti contengono poca
conoscenza, ma sono in grado di apprenderla da esempi con uno sforzo limitato
• Si costruiscono quindi delle grandi raccolte di esempi di uso del linguaggio, in cui le regole e le irregolarità sono presenti e possono essere utilizzate dai sistemi per fare astrazione
Acquisire la conoscenza Acquisire la conoscenza
• Ad es. se il sistema deve imparare ad utilizzare l’articolo, dovrà essere esposto ad un gran
numero di frasi in cui l’articolo compare:
IL cane mangia in giardino
Paolo beve UNA birra ghiacciata
LA migliore giornata fu quella in cui IL nonno gli comprò L’album di figurine
Ieri ho comprato LO stesso tipo di frutta
…
Acquisire la conoscenza Acquisire la conoscenza
• Che cosa si astrae dalle 4 frasi seguenti?
IL cane mangia in giardino
Paolo beve UNA birra ghiacciata
LA migliore giornata fu quella in cui IL nonno gli comprò L’album di figurine
Ieri ho comprato LO stesso tipo di frutta
• L’articolo precede il nome e non può seguirlo, precede l’aggettivo e non può seguirlo,
concorda con il nome …
Acquisire la conoscenza Acquisire la conoscenza
• Non esattamente nel modo in cui astraiamo noi, ma anche il computer riesce a produrre delle generalizzazioni delle informazioni che trova negli esempi e a formare una base di conoscenza
• Ovviamente deve avere esempi di tutte le possibili strutture
Acquisire la conoscenza Acquisire la conoscenza
Rappresentare
Rappresentare la la conoscenza conoscenza
• Non sappiamo esattamente in che forma la conoscenza necessaria all’uso del linguaggio sia codificata in un essere umano, nonostante i molti studi nelle scienze cognitive e
linguistiche
• Per i computer invece i modi per
rappresentare la conoscenza linguistica
necessaria per trattare il linguaggio umano sono stati inventati.
