Modelli probabilistici per la percezione

(1)

Modelli probabilistici per la percezione

Corso di Principi e Modelli della Percezione Prof. Giuseppe Boccignone

Dipartimento di Scienze dell’Informazione Università di Milano

boccignone@dsi.unimi.it

http://homes.dsi.unimi.it/~boccignone/GiuseppeBoccignone_webpage/Modelli_Percezione.html

Problemi mal posti

Un piccolo test:

x + 3 = 8

quanto vale x?

(2)

Problemi mal posti

Un piccolo test:

2x + 2 =10

quanto vale x?

Problemi mal posti

Un piccolo test:

x + y = 9

quanto valgono x e y?

(3)

Problemi mal posti

Un piccolo test:

x + y = 9

Questo è un esempio di problema mal posto

Problemi mal posti

Un piccolo test:

x + y = 9

Questo è un esempio di problema mal posto:

- non ha soluzione unica

(4)

E

R

L

E R L

N° fotoni emessi % fotoni riflessi N° fotoni riflessi Spettro di

irradiamento

Spettro di riflettanza

Spettro di radianza

x x

x

=

La riflettanza spettrale

// inferenza: un problema mal posto

La riflettanza spettrale

// inferenza: un problema mal posto

E

R

L

E R 100

N° fotoni emessi x % fotoni riflessi N° fotoni riflessi

x =

=

E=? R=?

(5)

Posso provare a utilizzare osservazioni precedenti :

x + y = 9

Problemi mal posti

//soluzione probabilistica

x + y = 9

x = 2, y = 7

Problemi mal posti

//soluzione probabilistica

(6)

x + y = 9

x = 2, y = 7

Quanto ci fidiamo del risultato ottenuto?

Problemi mal posti

//soluzione probabilistica

• Percezione e azione hanno a che fare con eventi incerti:

• rumore, incertezza

• ignoranza sulle condizioni al contorno

Probabilità e scienze cognitive

//tre problemi per i modelli cognitivi

stesso oggetto immagini

diverse

(7)

Probabilità e scienze cognitive

//tre problemi per i modelli cognitivi

oggetti diversi

immagini identiche

Probabilità e scienze cognitive

//tre problemi per i modelli cognitivi

! conoscenza

Module design

! incertezze

Module integration

! modularità

} ?

(8)

La logica dell’incerto

• Come già osservava Locke (1632-1704), anche gli agenti più razionali

prendono le loro decisioni non nella chiara luce della certezza nel “crepuscolo delle probabilità”.

• “Merita forse anche il titolo di conoscenza l'opinione fondata sulla plausibilità;

[…] Per questo credo che la ricerca sui gradi di probabilità sia estremamente importante; […] Così, quando non si potesse decidere con assoluta certezza una questione, si potrebbe almeno determinare il grado di probabilità alla luce

dell'evidenza”. (G.W. Leibniz, Nuovi Saggi sull’Intelletto Umano).

• Come già osservava Locke (1632-1704), anche gli agenti più razionali

prendono le loro decisioni non nella chiara luce della certezza nel “crepuscolo delle probabilità”.

Probabilità e scienze cognitive

//percezione come inferenza inconscia

! conoscenza

Module design

! incertezze T e o r i a d e l l a

probabilità

Module integration

! modularità

} ?

(9)

Quale probabilità

//Tre concetti di probabilità: la definizione classica

• La probabilità di un evento è il rapporto tra il numero dei casi favorevoli e il numero dei casi possibili, purché questi ultimi siano ugualmente possibili.

• Quindi se i casi possibili sono n e i casi favorevoli sono nA, per la teoria classica la probabilità che accada l'evento A sarà:

Tre concetti di probabilità: la definizione frequentista

• La probabilità di un evento è il limite della frequenza (relativa) dei successi, cioè del verificarsi dell'evento, quando il numero delle prove tende all'infinito.

(10)

Tre concetti di probabilità: la definizione soggettivista

• La probabilità di un evento è il prezzo che un individuo razionale ritiene equo pagare per ricevere 1 se l'evento si verifica (e 0 altrimenti).

• Alessio è disposto a scommettere 1 contro 20 sul fatto che nel pomeriggio arrivi finalmente l'idraulico a riparare il rubinetto che perde da una settimana:

attribuisce cioè a tale evento una probabilità ! 1/21 (meno del 5%).

• È come se ci trovassimo ad effettuare un sorteggio da un'urna con 1 pallina rossa (evento positivo = arrivo dell'idraulico) e 20 palline nere (eventi negativi = assenza dell'idraulico).

Come si valuta la probabilità?

• Immaginiamo che ci sia una partita di calcio. Lo spazio degli eventi comprende (1) la vittoria della squadra di casa, (2) la vittoria della squadra ospite e (3) il pareggio.

• Secondo la teoria classica esiste 1 probabilità su 3 che abbia luogo il primo evento

• secondo la teoria frequentista ci si può dotare di un almanacco e controllare tutte le partite precedenti e calcolare la frequenza dell’evento “vittoria della squadra di casa”.

• Secondo la teoria soggettivista, ci si può documentare sullo stato di forma dei calciatori, sul terreno di gioco e così via fino ad emettere una probabilità soggettiva.

(11)

• Probabilità soggettiva: mette in relazione le asserzioni fatte sul mondo con lo stato di conoscenza dell’agente

Probabilità e scienze cognitive

//percezione come inferenza inconscia

! conoscenza

Module design

! incertezze T e o r i a d e l l a

probabilità

Module integration

! modularità

} ?

...(Helmholtz, 1925)

I called the connections of ideas which take place in these processes unconscious inferences.

These inferences are unconscious insofar as

their major premise is not necessarily expressed in the form of a proposition;

it is formed from a series of experiences whose individual members have entered consciousness only in the form of sense impressions which have long

since disappeared from memory.

Some fresh sense impression forms the minor premise, to which the rule impressed upon us by previous observations is applied

Probabilità e scienze cognitive

//percezione come inferenza inconscia

(12)

...(Helmholtz, 1925)

Probabilità e scienze cognitive

//percezione come inferenza inconscia

P (knowledge|observation) = P (observation|knowledge)P (knowledge) P (observation)

(T. Bayes, 1702-1761)

rule impressed upon us by previous observations fresh sense

impression forms the minor premise unconscious inferences

P( conoscenza | osservazioni)

P( conoscenza) P( osservazioni | conoscenza)

P( osservazioni )

= x

• Probabilità soggettiva: mette in relazione le asserzioni fatte sul mondo con lo stato di conoscenza dell’agente = grado di credenza

Probabilità e scienze cognitive

//percezione come inferenza inconscia

! conoscenza

Module design

! incertezze

Teoria Bayesiana

della probabilità

Module integration

! modularità

(13)

Problemi mal posti

//soluzione probabilistica

• Supponiamo di voler ricostruire il mondo 3D a partire dall’ombreggiatura

• Questo è il mondo che osserviamo, le ombre proiettate nella caverna di Platone...

• Supponiamo di voler ricostruire il mondo 3D a partire dall’ombreggiatura

• Questo è il mondo che osserviamo, le ombre proiettate nella caverna di Platone...

Problemi mal posti

//soluzione probabilistica

Questa è l’immagine di un oggetto concavo

o convesso ?

(14)

Probabilità //sintassi

• Proposizioni elementari

•C = IN, “la curvatura è di tipo IN”

• Proposizioni complesse

•L=sopra ! C = IN

C L I

Curvatura C={IN, OUT}

Posizione sorgente di luce L={sopra, sotto}

Immagine I ={ , }

C, L, I

le possiamo considerare variabili aleatorie che assumono un valore

(discreto/continuo) rispetto agli eventi che accadono nel mondo.

Il risultato numerico di un esperimento

Probabilità //assiomi

• P(A) ! 0

• P (A ! ¬A) = 0

• P (¬A) = 1 - P(A)

• P(A " B) = P(A) + P(B) - P(A ! B)

(15)

Probabilità

//modellare la percezione del mondo

C L

I

C={IN, OUT}

L={sopra, sotto}

Immagine I ={ , }

Probabilità

//modellare la percezione del mondo

• La scelta delle variabili aleatorie di interesse

• discrete

• continue

(16)

Probabilità

//la probabilità del tutto: congiunta

C L

I

C={IN, OUT}

L={sopra, sotto}

Immagine I ={ , }

P(I ! C ! L)=P(I, C, L) P(I, C, L) I C L

IN sopra

OUT sopra

IN sotto

OUT sotto

• Probabilità condizionata di A dato B (posto che conosco il valore di B)

• P(A | B) = P(A ! B) / P(B) = P(A , B) / P(B)

• Ci consente di strutturare la conoscenza sul mondo

• Regola del prodotto

• P(A , B) = P(A | B) P(B) = P(B | A) P(A) poichè P(A ! B) = P(B ! A)

• P(A , B , C) = P(A | B, C) P(B | C) P(C) (chain rule)

Probabilità

//la probabilità condizionata

B

A

semplifica una query difficile

in query più semplici

(17)

• Da un punto di vista strettamente Bayesiano esistono solo probabilità condizionate

• P(A ) -> P(A | H )

• H è l’insieme di ipotesi che ci consentono di esplicitare la conoscenza sul mondo

Probabilità

//la probabilità condizionata

L

P(L | H) L

0,9 sopra

0,1 ^sotto

Posizionamento luci possibile

Posizionamento luci inammissibile Alcune delle ipotesi in H

P(L | H) L

0,9 ^sopra

0,1 sotto

(18)

P(L | H) L

0,9 sopra

0,1 ^sotto

• Da un punto di vista strettamente Bayesiano esistono solo probabilità condizionate

• P(A ) -> P(A | H )

• H è l’insieme di ipotesi che ci consentono di esplicitare la conoscenza sul mondo

Probabilità

//la probabilità condizionata

C

Oggetti che esistono nel mondo osservato

Alcune delle ipotesi in H

Oggetti che non esistono nel mondo osservato

P(C | H) C

0,5 ^IN

0,5 OUT

(19)

(20)

(21)

Probabilità

//specificare un modello del mondo: struttura

C={IN, OUT}

L={sopra, sotto}

Immagine I ={ , }

P(I ! C ! L)=P(I, C, L) = P(I | C, L) P(C | L) P(L)

C L

I

Indipendenza di C da L P(C | L) = P(C)

P(I, C, L) = P(I | C, L) P(C ) P(L) questo è il mio modello del mondo

• Il modello del mondo mi semplifica la probabilità del tutto (2³-1 stati)

P(I, C, L) I C L

IN sopra

OUT sopra

IN sotto

OUT sotto

Probabilità

//specificare un modello del mondo

(22)

Probabilità

//specificare un modello del mondo

C L

I

P(I, C, L) = P(I | C, L) P(C ) P(L) P(C ) C

0,5 ^IN 0,5 OUT

P(L ) L 0,9 sopra 0,1 ^sotto

P(I |C, L) I C L

0 ^IN ^sopra

1 ^IN ^sopra

1 ^OUT ^sopra

0 ^OUT ^sopra

1 ^IN ^sotto

0 ^IN ^sotto

0 ^OUT ^sotto

1 ^OUT ^sotto

Probabilità

//specificare un modello del mondo

C L

I

P(I, C, L) = P(I | C, L) P(C ) P(L) P(C ) C

0,5 IN 0,5 ^OUT

P(L ) L 0,9 ^sopra 0,1 sotto

Probabilità a priori=

la mia conoscenza del mondo

(23)

Probabilità

//specificare un modello del mondo

C L

I

P(I, C, L) = P(I | C, L) P(C ) P(L)

P(I |C, L) I C L

0 ^IN ^sopra

1 ^IN ^sopra

1 ^OUT ^sopra

0 ^OUT ^sopra

1 ^IN ^sotto

0 ^IN ^sotto

0 ^OUT ^sotto

1 ^OUT ^sotto

Verosimiglianza=

la mia osservazione del mondo

• Dalla Regola del prodotto:

• P(A , B) = P(A | B) P(B) = P(B | A) P(A) poichè P(A ! B) = P(B ! A)

Probabilità

//fare inferenze: la regola di Bayes

B

A

B

A

Probabilità

inversa

(24)

Probabilità

//fare inferenze: la regola di Bayes

P (knowledge|observation) = P (observation|knowledge)P (knowledge) P (observation)

P( cosa c’è nel mondo | dati sensoriali)

P( cosa c’è nel mondo) P( dati sensoriali | cosa c’è nel mondo)

P( dati sensoriali )

= x

probabilità a posteriori

{

verosimiglianza

{

probabilità a priori

{

Probabilità

//Indipendenza (marginale)

C L

C={IN, OUT}

L={sopra, sotto}

Immagine I ={ , }

Indipendenza di C da L

P(C | L) = P(C)

P(C, L) = P(C| L) P(L) = P(C) P(L)

(25)

• Eventi mutualmente esclusivi

• P(A , B) =P(A ! B) =0

• Si semplifica la regola della somma:

• P(A " B) = P(A) + P(B) - P(A ! B) = P(A) + P(B)

• Generalizzata:

• P(A1 " A2 " ... " AN ) = " i=1;..;N P(Ai )

Probabilità

//Indipendenza (marginale)

P ( , ) = 0

P ( " ) = P ( ) + P ( )

Probabilità

//Marginalizzazione

• Dalla probabilità congiunta possiamo ottenere la probabilità (marginale) di una variabile sommando su tutti i possibili valori delle altre variabili

• P(X) = ! Y P(X, Y)

• P(X) = ! Y P(X, Y) = ! Y P(X | Y) P(Y)

(26)

Probabilità

//Marginalizzazione

• La marginalizzazione ci consente inferenze:

• Se osservo I= , qual è la probabilità di P( C = OUT | I = )

P( C = OUT | I = ) P( I = , C = OUT ) P( I = )

#

^!L={sopra, sotto} P( I = , C = OUT, L )

= ! L={sopra, sotto} P( I = | C = OUT, L ) P(C ) P(L)

= P(C = 0UT ) [ P( I = | C = OUT, L = sopra ) P(L =sopra) + P( I = | C = OUT, L = sotto ) P(L = sotto) ]

{

0,5

{

0

{

0,9

=

L C

Probabilità

//Problema per l’inferenza Bayesiana

• La marginalizzazione ci consente inferenze:

• Se osservo I= , qual è la probabilità di P( C = OUT | I = )

P( C = OUT | I = ) P( I = , C = OUT ) P( I = )

! C={IN, OUT} ! L={sopra, sotto} P( I = , C , L )

= [ P( I = | C = OUT, L = sopra ) P(L =sopra) P( C = OUT) + P( I = | C = OUT, L = sotto ) P(L = sotto) P( C = OUT)

=

+ P( I = | C = IN, L = sopra ) P(L =sopra) P( C = IN) + P( I = | C = IN, L = sotto ) P(L = sotto) P( C = IN)]

=

Hic sunt leones !

P( I = )

(27)

Modello generativo

Y immagine (visible) X oggetti

(hidden)

insieme di parametri

Probabilità e scienze cognitive

//percezione come inferenza Bayesiana

Y X

Θ

P(X|Y, Θ, M) = P(Y |X, Θ, M)P (X|Θ, M) P(Y |Θ, M)

Likelihood Prior

Inferire variabili nascoste

Occorrono i parametri!

Probabilità e scienze cognitive

//percezione come inferenza Bayesiana

(28)

Y X

P(Θ|Y, M) = P(Y |Θ, M)P (Θ|M) P(Y |M)

Inferire parametri

= Parameter Learning

Occorrono i modelli!

Θ

Probabilità e scienze cognitive

//percezione come inferenza Bayesiana

Y X

P (M|Y ) = P (Y |M)P (M) P (Y )

Inferire modelli = Model selection

P(Θ|Y, M) = P(Y |Θ, M)P (Θ|M) P(Y |M)

Θ

Probabilità e scienze cognitive

//percezione come inferenza Bayesiana

(29)

Y X

P (M|Y ) = P (Y |M)P (M) P (Y )

P(Θ|Y, M) = P(Y |Θ, M)P (Θ|M) P(Y |M)

Θ

Probabilità e scienze cognitive

//percezione come inferenza Bayesiana

Hic sunt leones !

P (M|Y ) = P (Y |M)P (M) P (Y )

P(Θ|Y, M) = P(Y |Θ, M)P (Θ|M) P(Y |M)

Probabilità e scienze cognitive

//percezione come inferenza Bayesiana

• Dove non è possibile inferenza esatta 1.Metodi Monte Carlo 2.Tecniche variazionali: