• Non ci sono risultati.

La teoria dell’informazione

N/A
N/A
Protected

Academic year: 2021

Condividi "La teoria dell’informazione"

Copied!
9
0
0

Testo completo

(1)

Intelligenza artificiale, informatica, linguistica, scienze umane e molte altre discipline

concorrono a formare il campo che oggi si definisce“informatica umanistica”

Informatica

z Informazione+automatica = informatica

z “Trattamento automatico dell’informazione”

z La nozione di informazione èambiguae usata in modi molto diversi nei diversi ambiti

z Che cos’è l’informazione?

z L’informazione è un contenuto

z L’informazione non è un contenuto, è la semplice presenza di una scelta

z Che cosa significa “automatico”?

z Non richiede l’intervento umano (nel dettaglio)

z Meccanico (deterministico)

(2)

La teoria dell’informazione

z Claude Shannone Warren Weaver, 1949, La teoria matematica della comunicazione

z Dalla crittografia ai codici

z Problemi di Shannon:

z trasmissione materiale di informazioni su un canale

z misurare la capacità di un canale

z stabilire quale sia il miglior sistema di codifica dei messaggi per garantire la ricezione

Claude Shannon (1916-2001)

L’informazione come incertezza

z La trasmissione è qualcosa di materiale che consiste nel fare in modo che una qualunque variazione di uno stato fisico (onde sonore, porzioni grafiche, o tattili, ma anche in linea di principio olfattive o gustative) passi su un canale e venga ricevuta correttamente da un apparecchio di ricezione di tali variazioni

z L’informazione è indipendente dal contenuto (asemantica)

z L’informazione corrisponde a una scelta tra due possibilità equiprobabili

z L’informazione è connessa con l’incertezza, con la

(3)

L’informazione come entropia

z L’informazione consiste nella rimozione dell’incertezza della situazione iniziale

z Maggiore è l’incertezza, maggiore sarà l’informazione portata dal messaggio e minore sara lo stato di incertezza del

ricevente al termine del messaggio

z L’informazione non ha un valore assoluto ma solamente relazionale

z La nozione matematica (e teorica) di informazione in questo senso coincide con la nozione fisica di ENTROPIA

z grandezza termodinamica il cui aumento misura la diminuzione dell'energia posseduta da un sistema isolato

z Tendenza al disordine, caos

Lo schema della comunicazione

codice

Emittente

o produttore segnale Ricevente

o destinatario CANALE rumore

(4)

Gli elementi della comunicazione

z la sorgente o produttore o emittente, ossia il dispositivo che produce una variazione di stato fisico;

z il ricevente o destinatario, ossia il dispositivo che rileva le variazioni di stato fisico;

z il messaggio, ossia l’insieme delle variazioni di stato fisico emesse dal produttore (collegabili a una serie di contenuti anche complessi che però non entrano nel processo di trasmissione);

z il canale, ossia il mezzo fisico su cui viene trasmesso;

z la codifica, ossia il processo attraverso il quale sono formati i messaggi e la decodifica ossia il processo di ricostruzione del messaggio da parte del ricevente;

z il rumore, ossia il possibile disturbo che può intervenire sul canale

Il codice

z È formato da:

z Un ALFABETO(composto dai simboli elementari del linguaggio)

z Gli elementi dell’alfabeto sono in opposizione reciproca

z Una GRAMMATICA (una serie di regole di combinazione dei simboli dell’alfabeto)

z Eventualmente da una serie di associazioni di ogni combinazione di simboli a un significato

(5)

Codici e linguaggi

z Il codice è simile a un linguaggio, ma non lo è

z Un codice ha un piano costituito da una sua struttura

z Il linguaggio è invece composto dall’associazione di due piani (è biplanare) detti:

z Piano dell’espressione

z Piano del contenuto z La Teoria dell’informazione

NON tratta di un linguaggio, tratta di strutture monoplanari

Espressione

Contenuto

SEGNO

Teorema fondamentale per un canale discreto con disturbo di Shannon

z è sempre possibile una codifica che permetta la trasmissione di un messaggio senza il prezzo di una velocità troppo bassa

z Nelle comunicazioni, dice Shannon,

«vi sono, comunque, dei modi di trasmettere le informazioni i quali sono ottimali nel combattere il disturbo»

z I diversi mezzi per combattere il rumore sul canale sono chiamati RIDONDANZA

z La ridondanzainfatti è una codificazione del messaggio che ripetendo alcune porzioni oppure variando le probabilità di occorrenza delle unità permette di garantire la corretta ricezione del messaggio

(6)

Rappresentazione analogica e digitale

È pensata per essere usata in un contesto discreto

Nel caso di uso discretizzato perde la sua maggiore aderenza al fenomeno rappresentato

Semplice rimuovere il rumore della rappresentazione

Difficile rimuovere gli effetti di rumore

CD, orologi digitali, ecc.

Vinile, orologi a lancette ecc.

Può adottare una numerazione anche binaria per la rappresentazione

Rappresentazione per analogia con altre grandezze fisiche

Digitale Analogico

La rappresentazione digitale dell’informazione

z La codifica è una rappresentazione dell’informazione

z Un codice estremamente preciso è quello che usa i numeri naturali

z Una codifica si dice binaria quando si usano solo due cifre, 0 e 1

z Digit (inglese) = cifra; numerique (francese)= digitale

z I codici BINARI sono digitali

(7)

L’unità di misura dell’informazione digitale: il bit

z Il bit (binary digit): unità di misura dell’informazione digitale

z 1 bit: la quantità di informazione fornita dalla scelta tra due diverse alternative equiprobabili

z 1 bit: unità minima dell’informazione digitale, è una singola cifra, 0 o 1

z Ogni bit può avere due possibilità: 0 o 1

z 1 byte = 8 bit

z 1 byte può codificare 28diverse possibilità: 256 combinazioni diverse di 0 e 1

Il digitale

Qualunque tipo di messaggio può essere trasmesso attraverso un codice binario e dunque digitale

z Immagini, suoni, testi possono essere

z Digitalizzati attraverso diversi processi

(scannerizzazione, campionatura, riconoscimento ottico, ecc.)

z Trasmessi

z Conservati su un unico supporto

z Il costo di tali operazioni si misura sempre in bit

(8)

Perché è importante la teoria dell’informazione?

zÈ il fondamento della nozione di digitale

zè alla base di tutte le applicazioni informatiche, ivi compresa la trasmissione via Internet

zcentralità della dimensione statistico- probabilistica rispetto alla dimensione logico-formale

(9)

Riferimenti

Documenti correlati

Protocollo ap3.1: Alice says “I am Alice” and sends her encrypted secret password to “prove” it. Intruder: attacco

Il Consiglio Scientifico del master determina il titolo di studio previsto per l’accesso degli uditori che in ogni caso non può essere inferiore al diploma di scuola media

la comunicazione e la diffusione dei propri dati personali a Enti pubblici o privati che ne facciano richiesta, al fine di agevolare l’orientamento, la formazione e

Processo attraverso il quale l’organismo mantiene il proprio ambiente interno relativamente stabile a fronte di perturbazioni interne o

leva abbandonare la setta, cui aveva finto di dare il nome. Ciò eragli confermato da una persona, che, avendo osservato quanto era avvenuto nella chiesa dei PP.

Il santo Pontefice fece loro osservare che essendo stato pubblico lo sc a n ­ dalo, era indispensabile che se ne facesse pubblica penitenza prima di essere

di Gesù Cristo deve essere visibile per accogliere in ogni tempo quelli che nel santo suo grembo volessero ricoverarsi; se convengono che la Chiesa Romana

L’altra ipotesi è che l’atto informatico sia stato accettato (è presente nel fascicolo informatico), anche se risulta difforme dalle specifiche tecniche. L’ordinanza di