A.A. 2008/09 Note di calcolo delle probabilit`a per il corso di Sistemi ad Eventi Discreti

A.A. 2008/09

Note di calcolo delle probabilit`a per il corso di Sistemi ad Eventi Discreti

Lo scopo di queste note non `e fornire un riferimento completo e rigoroso di calcolo delle probabilit`a, bens`ı richiamare sinteticamente le nozioni di base

la cui conoscenza `e indispensabile per la comprensione della parte probabilistica del corso di Sistemi ad Eventi Discreti.

1 Fondamenti del calcolo delle probabilit`a

Gli elementi fondamentali di un problema di probabilit`a sono:

• un esperimento casuale;

• l’insieme Ω dei possibili risultati;

• gli eventi, cio`e i sottoinsiemi di Ω;

(Nota. In quest’ottica, Ω `e visto come l’evento certo)

• una funzione di probabilit`a P, cio`e un’applicazione dall’insieme degli eventi all’intervallo [0, 1] che fornisce una valutazione di quanto “frequentemente”

ciascun evento si pu`o verificare.

1.1 Operazioni insiemistiche/logiche sugli eventi

Se A e B sono eventi, allora possiamo costruire gli ulteriori eventi:

• unione

A ^S B ≡ almeno uno dei due eventi si verifica (operazione logica OR)

• intersezione

A ^T B ≡ entrambi gli eventi si verificano (operazione logica AND)

• complemento

A ^c ≡ l’evento non si verifica (operazione logica NOT)

Se A ^T B = /0 (insieme vuoto), allora gli eventi A e B si dicono disgiunti.

1.2 Propriet`a delle funzioni di probabilit`a

Due propriet`a fondamentali godute dalle funzioni di probabilit`a sono le seguenti:

i) P(Ω) = 1, P( /0) = 0

ii) P(A ^S B) = P(A) + P(B) − P(A ^T B)

Da queste se ne deducono diverse altre. Per esempio:

iii) P(A ^c ) = 1 − P(A)

Infatti, risulta A ^S A ^c = Ω e A ^T A ^c = /0. Quindi, applicando i) e ii):

1 = P(Ω) = P(A ^[ A ^c ) = P(A) + P(A ^c ) − P(A ^\ A ^c ) = P(A) + P(A ^c ) iv) P(B) = P(B ^T A) + P(B ^T A ^c )

Infatti, risulta A ^S A ^c = Ω e B = B ^T Ω . Quindi,

B = B ^\ (A ^[ A ^c ) = (B ^\ A) ^[ (B ^\ A ^c ),

dove gli eventi B ^T A e B ^T A ^c sono disgiunti. Si applica infine ii).

1.3 Probabilit`a condizionali

Dati due eventi A e B, si definisce probabilit`a condizionale di B dato A la quantit`a P(B|A) = P(A ^T B)

P(A) .

Intuitivamente, P(B|A) `e la valutazione di quanto “frequentemente” l’evento B si pu`o verificare, modificata dal fatto di aver osservato A. Per questo motivo, P(B) viene spesso detta probabilit`a a priori (o assoluta), mentre P(B|A) viene detta probabilit`a a posteriori.

1.4 Regola della probabilit`a totale e Teorema di Bayes

Sia {A 1 , . . . , A n } una partizione dell’evento certo, cio`e:

• A 1 S

. . . ^S A _n = Ω

• A i T

A j = /0, ∀i 6= j (eventi mutuamente disgiunti).

Sia B un evento. Allora vale la seguente relazione (regola della probabilit`a totale):

P(B) =

∑ n i=1

P(B|A i )P(A i ).

Se C `e un evento che condiziona B, allora la precedente relazione pu`o essere riscritta come:

P(B|C) =

∑ n i=1

P(B|C, A i )P(A i |C).

Dalla regola della probabilit`a totale , discende il Teorema di Bayes:

P(A j |B) = P(A j T B)

P(B) = P(B|A j )P(A j )

∑ ⁿ _i=1 P(B|A i )P(A i ) .

1.5 Indipendenza

Due eventi A e B si dicono indipendenti se

P(A ^\ B) = P(A)P(B).

Se A e B sono indipendenti, allora P(B|A) = P(B), cio`e l’osservazione di A non

2 Variabili aleatorie

Una variabile aleatoria X `e una funzione X : Ω → R tale che, per ogni x ∈ R, { ω ∈ Ω : X ( ω ) ≤ x} `e un evento, indicato sinteticamente con {X ≤ x}.

Essendo {X ≤ x} un evento, se ne pu`o calcolare la probabilit`a. La funzione F _X (x) = P(X ≤ x) ∀x ∈ R,

si chiama funzione di distribuzione della variabile aleatoria X .

Inoltre, si possono applicare a eventi del tipo {X ≤ x} le regole richiamate nella Sezione 1.1. Per esempio, dati a, b ∈ R con a < b:

P(a < X ≤ b) = P({X > a} ^\ {X ≤ b})

= P(X > a) + P(X ≤ b) − P({X > a} ^[ {X ≤ b})

| {z }

evento certo!

= P({X ≤ a} ^c ) + P(X ≤ b) − 1

= P(X ≤ b) − P(X ≤ a)

= F X (b) − F X (a).

2.1 Variabili aleatorie discrete

Una variabile aleatoria X si dice discreta se pu`o assumere solo una quantit`a nu- merabile di valori {x ⁽¹⁾ , x ⁽²⁾ , . . .}. In tal caso, la funzione

p _X (x ^(k) ) = P(X = x ^(k) ) ∀k = 1, 2, . . .

si chiama densit`a (discreta) di probabilit`a della variabile aleatoria X . Essa soddi- sfa le seguenti propriet`a:

• p X (x ^(k) ) > 0 ∀x ^(k)

• ∑

x

p _X (x ^(k) ) = 1

• F X (x) = P(X ≤ x) = ∑

x

≤x

p _X (x ^(k) )

(Nota. Si osservi che F _X (x) `e una funzione costante a tratti, discontinua in corrispondenza dei valori x ^(k) )

La quantit`a

E[X] = ∑

x

x ^(k) p _X (x ^(k) ),

se esiste finita, si chiama valore atteso (o media) di X . Il valore atteso gode della propriet`a di linearit`a:

• E[X +Y ] = E[X] + E[Y ]

• E[ λ ^X ] = λ E[X] ∀ λ ∈ R.

2.2 Variabili aleatorie continue

Una variabile aleatoria X si dice continua se la sua funzione di distribuzione `e una funzione continua. Si dice che X ha densit`a (continua) di probabilit`a f X (x) se:

• f X (x) ≥ 0 ∀x ∈ R

• Z + ∞

−∞ f X (t)dt = 1

• F X (x) = Z x

−∞ f _X (t)dt ∀x ∈ R.

Allora, nei punti in cui F _X (x) `e differenziabile con derivata continua, risulta:

f X (x) = dF _X (x) dx .

Diversamente dal caso delle variabili aleatorie discrete, per una variabile aleatoria continua X accade che P (X = x) = 0 per ogni x ∈ R. Dunque, per esempio, P(X < x) = P(X ≤ x), ecc.

L’utilizzo della densit`a di probabilit`a f _X (x) permette di svolgere il calcolo di una probabilit`a come un calcolo di aree. Infatti, per esempio:

P(a ≤ X ≤ b) = F (b) − F (a) = Z _b

f (t)dt − Z _a

f (t)dt = Z _b

f (t)dt.

La quantit`a

E[X] = Z _+∞

− ∞ x f _X (x)dx

se esiste finita, si chiama valore atteso (o media) di X . Il valore atteso gode della propriet`a di linearit`a.

2.2.1 Variabili aleatorie bivariate

Data una coppia di variabili aleatorie X e Y , si definisce distribuzione di probabi- lit`a congiunta di X e Y la funzione

F _{X ,Y} (x, y) = P(X ≤ x,Y ≤ y) = P((X,Y ) ∈ A x,y ) dove A x,y `e la regione del piano evidenziata in figura.

xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx xxx xxx xxx

x y

(x, y)

A _x,y

Una funzione f _{X ,Y} (x, y) si dice densit`a di probabilit`a congiunta di X e Y se:

• f X ,Y (x, y) ≥ 0 ∀(x, y) ∈ R ²

• Z Z

R

f _{X ,Y} (t, s)dtds = 1

• F X ,Y (x, y) = Z Z

A

f _{X ,Y} (t, s)dtds ∀(x, y) ∈ R ² .

Se le variabili aleatorie X e Y hanno densit`a di probabilit`a congiunta f _{X ,Y} (x, y), allora, per ogni insieme A ⊆ R ² , la probabilit`a dell’evento {(X,Y ) ∈ A } pu`o essere calcolata come

P((X,Y ) ∈ A ) = Z Z

A

f _{X ,Y} (t, s)dtds.

Le densit`a di probabilit`a di X e Y sono dette densit`a di probabilit`a marginali. Esse possono essere ricavate dalla densit`a congiunta di X e Y attraverso le relazioni:

f _X (x) = Z + ∞

−∞ f _{X ,Y} (x, y)dy f _Y (y) =

Z + ∞

−∞ f _{X ,Y} (x, y)dx.

In generale, ricavare la densit`a congiunta dalle densit`a marginali non `e pos- sibile. Lo `e se le variabili aleatorie X e Y sono indipendenti. Infatti, in tal caso:

f _{X ,Y} (x, y) = f X (x) f Y (y) (tranne al pi`u in un insieme di misura nulla).

3 Distribuzioni di probabilit`a notevoli

Si riportano alcune distribuzioni di probabilit`a notevoli, o di interesse pratico, nel caso dei sistemi ad eventi discreti.

3.1 Distribuzioni discrete

• distribuzione uniforme – X ∈ {1, . . . , N}

– p _X (k) = 1

N ∀k = 1, . . . , N – E[X] =

∑ N ^{k p X (k) = 1} ∑ ^{N k = 1 N(N + 1) = N + 1}

• distribuzione geometrica

– Deriva da uno schema successo-insuccesso di prove indipendenti in cui p ∈ (0, 1) `e la probabilit`a di insuccesso in ciascuna prova

– Si ricordi la serie geometrica:

∑ ∞ n=0

x ⁿ = 1

1 − x per |x| < 1 – X ∈ {1, 2, 3 . . .}

– p _X (k) = (1 − p)p ^k−1 ∀k = 1, 2, 3, . . . – E[X] =

∑ ∞ k=1

k p _X (k) = (1 − p)

∑ ∞ k=1

k p ^k−1 = (1 − p) d d p

∑ ∞ k=0

p ^k

!

= (1 − p) d d p

 1

1 − p



= (1 − p) 1

(1 − p) ² = 1 1 − p . – Gode della propriet`a di mancanza di memoria. Siano n, m > 0:

P(X = n + m|X > n)

| {z }

probabilit`a a posteriori

= P({X = n + m} ^T {X > n}) P(X > n)

= P(X = n + m)

P(X > n) = (1 − p)p ^n+m−1 p ⁿ

= (1 − p)p ^m−1 = P(X = m)

| {z }

probabilit`a a priori

3.2 Distribuzioni continue

• distribuzione uniforme – X ∈ [a, b], a < b

– f X (x) =





 1

b − a se x ∈ [a, b]

0 altrimenti

– F _X (x) =



 



 



0 se x < a x − a

b − a se a ≤ x ≤ b

1 se x > b

– E[X] = Z + ∞

− ∞ x f _X (x)dx = 1 b − a

Z b a

xdx = 1 b − a

 x ² 2

 b a

= a + b 2

• distribuzione esponenziale

– Dipende da un parametro λ ^> 0 detto tasso della distribuzione – X ∈ [0, +∞)

– f _X (x) =

( λ ^{e − λ x se x} ≥ 0 0 altrimenti

– F _X (x) = (

0 se x < 0 1 − e ^{− λ x} se x ≥ 0 – E[X] =

Z + ∞

−∞ x f _X (x)dx = Z + ∞

0

x λ ^{e −λ x dx}

= h

−xe ^{−λ x} i _+∞

0 +

Z _+∞

0

e ^{−λ x} dx =

"

− e ^{−λ x} λ

# +∞

0

= 1 λ – Gode della propriet`a di mancanza di memoria. Siano t, s > 0:

P(X > t + s|X > t)

| {z }

probabilit`a a posteriori

= P({X > t + s} ^T {X > t}) P(X > t)

= P(X > t + s)

P(X > t) = 1 − F X (t + s)

1 − F X (t) = e ^{− λ (t+s)} e ^−λt

= e ^{−λ s} = P(X > s)

| {z }

probabilit`a a priori

Nota. Le variabili aleatorie geometriche (nel caso discreto) ed esponenziali

(nel caso continuo) modellizzano dei tempi di attesa.