Nozioni di convergenza

Date due variabili aleatorie X1, X2 definite su (Ω, F , P) a valori rispettivamente in (E1, E1), (E2, E2), indichiamo le loro leggi con µX1, µX2. La coppia X = (X1, X2) è una variabile aleatoria a valori in (E1× E2, E1⊗ E2), la cui legge indichiamo con µX. È facile vedere che X1 e X2 sono indipendenti se e soltanto se µX = µX₁ ⊗ µX₂. Lo stesso vale per un numero finito di variabili aleatorie X1, . . . , Xn

a valori negli spazi (Ei, Ei): le variabili sono indipendenti se e soltanto se la loro legge congiunta su (×ⁿi=1Ei, ⊗ⁿi=1Ei) è data dal prodotto delle leggi marginali.

1.4.4. Successioni indipendenti. È noto che, assegnata un’arbitraria successione di probabilità {µ_n}_n∈N su R, esiste un opportuno spazio di probabilità (Ω, F, P) su cui è definita una successione {X_n}_n∈N di variabili aleatorie reali indipendenti tali che la legge diXn sia µn. Una costruzione tipica è richiamata nella sezione 1.8.3.

1.4.5. Lemma di Borel-Cantelli. Data una successione di eventi {An}_n∈N di uno spazio di probabilità (Ω, F, P), si definisce l’evento

lim sup

n→∞ A_n := \

k∈N

[

n≥k

A_n = {ω ∈ Ω : ω ∈ A_n per infiniti n} = (

X

n∈N

1_An = ∞ )

.

Si ha allora l’utilissimo

Lemma 1.8 (Borel-Cantelli). Sia {An}_n∈N una successione di eventi di uno spazio di probabilità(Ω, F, P).

• Se P

n∈NP(A_n) < ∞, allora P(lim sup_n→∞A_n) = 0.

• SeP

n∈NP(An) = ∞ e inoltre se Ai eAj sono indipendenti per ognii 6= j, allora P(lim sup_n→∞A_n) = 1.

Esercizio 1.9. Se {Xn}_n∈N sono variabili aleatorie i.i.d. conX_n∼ Exp(λ), allora q.c. si ha lim sup_n→∞X_n/ log n = λ⁻¹.

1.4.6. Convoluzione. Date due probabilità µ, ν su R^de due variabili aleatorie X e Y indipendenti, le cui leggi siano rispettivamente µ e ν, la convoluzione di µ e ν, indicata con µ∗ν, è per definizione la legge della variabile aleatoria X + Y . Per ogni insieme A boreliano di R^dsi ha µ ∗ ν(A) =R

R^dµ(A − y)ν(dy) = R

R^dν(A − y)µ(dy), che mostra tra l’altro come µ ∗ ν dipenda solo da µ e ν e non dalle variabili X e Y . Il caso più importante è quello in cui le leggi µ e ν siano assolutamente continue, con densità rispettivamente f e g. In questo caso la legge di µ ∗ ν è anch’essa assolutamente continua, con densità h(x) =R

R^df (x − y)g(y)dy =R

R^dg(x − y)f (y)dy, detta convoluzione di f e g e indicata con h = f ∗ g.

1.5. Nozioni di convergenza

1.5.1. Convergenza di misure. Sia (E, B(E)) uno spazio metrico, con distanza d(·, ·), munito della σ-algebra boreliana. Il caso tipico è dato da R^d, con la distanza indotta dalla norma euclidea: d(x, y) = |x − y| =

q P_d

i=1(x_i− y_i)². Data una successione di probabilità {µ_n}_n∈N su E, si dice che essa converge debolmente verso la probabilità µ su E se per ogni funzione f : E → R continua e limitata si ha che R f dµn→R f dµ.

Sebbene esistano altre nozioni di convergenza per successioni di misure, questa è la più importante e sarà l’unica che considereremo.

1.5.2. Convergenza di variabili aleatorie. Consideriamo una famiglia di variabili aleatorieX_n: (Ω_n, F_n, P_n) → (E, B(E)), per n ∈ N, e X : (Ω, F, P) → (E, B(E)), definite non necessariamente sullo stesso spazio di probabilità, ma tutte a valori nello stesso spazio metricoE.

• Diremo che la successione {X_n}_n∈N converge in legge (o in distribuzione) verso X se la successione delle leggi µXn diXn converge debolmente verso la leggeµX

diX. Usando la formula del cambio di variabili (Teorema 1.6), ciò è equivalente a richiedere che E_n(f (X_n)) → E(f (X)) per ogni funzione f : E → R continua e limitata.

Supponiamo ora che le variabili aleatorie {X_n}_n∈N, X siano tutte definite sullo stesso spazio di probabilità(Ω, F, P) e assumano valori nello spazio metrico (E, B(E)).

• Diremo che la successione {X_n}_n∈N converge in probabilità verso X se per ogni ε > 0 si ha che P(d(X_n, X) > ε) → 0.

• Diremo che la successione {Xn}_n∈N converge quasi certamente (q.c.) verso X se esiste A ∈ F con P(A) = 1 tale che per ogni ω ∈ A si ha X_n(ω) → X(ω), cioè d(X_n(ω), X(ω)) → 0.

Consideriamo infine il caso in cui le variabili aleatorie {X_n}_n∈N, X siano definite sullo stesso spazio(Ω, F, P) e assumano valori in R^d.

• Diremo che la successione {X_n}_n∈N converge versoX in L^p se kX_n− Xk_p → 0, cioè seE(|X_n− X|^p) → 0, dove | · | indica la norma euclidea su R^d.

Si noti che, essendo kXn− Xkq ≤ kXn− Xkp se p ≥ q (Jensen), la convergenza di X_n verso X in L^p implica quella in L^q. Dalla disuguaglianza triangolare si ha inoltre che

|kX_nk_p− kXk_p| ≤ kX_n− Xk_p, da cui si ricava che la convergenza inL^p implica quella del momentop-esimo. In definitiva,

Xn→ X in L^p =⇒ E(|Xn|^q) → E(|X|^q) , per ogni 1 ≤ q ≤ p . (1.7)

Proposizione 1.10. Date le variabili aleatorie Xn, X a valori in uno spazio metrico E, valgono le seguenti relazioni:

• se X_n→ X q.c., allora X_n→ X in probabilità;

• se X_n→ X in L^p, alloraX_n→ X in probabilità;

• se Xn → X in probabilità, allora esiste una sottosuccessione {n_k}_k∈N tale che X_nk → X q.c.;

• se X_n→ X in probabilità, allora X_n→ X in legge.

Dimostrazione. Se Xn→ X q.c., si ha d(X_n, X) → 0 q.c. e dunque 1_{d(Xn,X)>ε}→ 0 q.c., per ogni ε > 0. Per convergenza dominata si ottiene dunque P(d(X_n, X) > ε) = E(1_{d(Xn,X)>ε}) → 0, poiché |1_{d(Xn,X)>ε}| ≤ 1. Di conseguenza X_n→ X in probabilità.

1.5. NOZIONI DI CONVERGENZA 17

Supponiamo ora che Xn → X in L^p. In questo caso E = R^d e d(x, y) = |x − y|.

Applicando la disuguaglianza di Markov, si ha P(d(X_n, X) > ε) = P(|X_n− X| > ε) ≤ ε^−pE(|X_n− X|^p) → 0 per ogni ε > 0, dunque X_n→ X in probabilità.

Facciamo ora l’ipotesi che Xn → X in probabilità. Fissiamo arbitrariamente una successione {ε_k}_k∈N positiva e infinitesima, per esempio ε_k:= ¹_k. Per ognik fissato si ha P(d(X_n, X) > ε_k) → 0 per n → ∞, quindi possiamo definire n_kcome il più piccolo valore di n ∈ N per cui P(d(Xn, X) > ε_k) ≤ ₂¹k. Per costruzione P

k∈NP(d(Xnk, X) > ε_k) ≤ P

k∈N 1

2^k < ∞, quindi per il Lemma di Borel-Cantelli si ha che q.c. d(Xnk, X) ≤ ε_k= _k¹ per k grande, da cui segue che d(X_nk, X) → 0 q.c. per k → ∞. Abbiamo dunque determinato una successione(n_k)_k∈N per cuiX_nk → X q.c..

Supponiamo infine che Xn → X in probabilità e sia f : E → R una qualunque funzione continua e limitata. Vogliamo mostrare che E(f (X_n)) → E(f (X)), da cui segue che X_n → X in legge. Per un argomento classico (vedi Esercizio 1.11 più giù), è sufficiente mostrare che per ogni sottosuccessione {n_k}_k∈Nesiste una sotto-sottosuccessione {n⁰_k}_k∈N tale che E(f (X_n⁰

k)) → E(f (X)). Visto che per ipotesi X_n→ X in probabilità, anche X_nk → X in probabilità. Per quanto visto sopra, possiamo dunque estrarre una sottosuccessione {n⁰_k}_k∈N di {n_k}_k∈N tale che X_n⁰

k → X q.c.. Di conseguenza anche f (X_n⁰

k) → f (X) q.c., perché f è continua, e la convergenza E(f (X_n⁰

k)) → E(f (X)) segue dal teorema di convergenza dominata, poiché f è limitata.

Esercizio 1.11. Sia {xn}_n∈N una successione in uno spazio topologico E. Supponiamo esista x ∈ E con la seguente proprietà: per ogni sottosuccessione {x_nk}_k∈N esiste una sotto-sottosuccessione {x_n⁰

k}_k∈N di {xnk}_k∈N che converge verso x. Allora la successione completa {x_n}_n∈N converge versox.

Dimostrazione. La convergenza di {xn}_n∈N verso x significa per definizione che per ogni aperto A 3 x esiste n0 < ∞ tale che x_n ∈ A per ogni n ≥ n0. Da ciò segue che, se {x_n}_n∈N non convergesse versox, esisterebbe un aperto A 3 x tale che x_nk 6∈ A per un insieme infinito di indici {n_k}_k∈N, che possiamo supporre crescente; ma allora dalla sottosuccessione {x_nk}_k∈N non si potrebbe estrarre nessuna sotto-sottosuccessione che converge ax, contro l’ipotesi.

Esercizio 1.12. Siano X, {Xn}_n∈N variabili aleatorie reali. Supponiamo che, per ogni sottosuccessione di {X_n}_n∈N, sia possible estrarre una sotto-sottosuccessione che converge a X in L^p (risp. in probabilità). Si mostri che allora la successione completa {Xn}_n∈N converge aX in L^p (risp. in probabilità).

Osservazione 1.13. Consideriamo uno spazio di probabilità (Ω, F , P) per cui le nozioni di convergenza in probabilità e convergenza q.c. siano distinte, su cui si possa cioè definire una successione di variabili aleatorie {Xn}n∈N che converge in probabilità ma non converge q.c. (è il caso tipico di uno spazio di probabilità senza atomi).^† La Proposizione 1.10 e l’Esercizio 1.11 mostrano che in questo caso non esiste nessuna topologia sullo spazio delle variabili aleatorie definite su (Ω, F , P) che induca la nozione di convergenza quasi certa. Infatti, grazie alla Proposizione 1.10, sappiamo che da ogni sottosuccessione di {Xn}n∈Nsi può estrarre una sotto-sottosuccessione che converge q.c.; se la convergenza q.c. fosse indotta

†Se (Ω, F , P) è uno spazio di probabilità in cui Ω è un insieme numerabile, è facile vedere che ogni successione convergente in probabilità converge anche q.c..

da una topologia, per l’Esercizio 1.11 si dovrebbe avere che l’intera successione {Xn}n∈N converge q.c., cosa che abbiamo escluso per ipotesi.

La convergenza in probabilità è invece indotta da una topologia, anzi da una pseudometrica:^† introducendo la pseudodistanza δ(X, Y ) := E(|X − Y |/(1 + |X − Y |)) tra variabili aleatorie, non è difficile vedere che Xn→ X in probabilità se e solo se δ(Xn, X) → 0.

1.5.3. Ulteriori osservazioni. Se Xn→ X in legge e lo spazio d’arrivo è polacco (cioè metrico completo e separabile), è possibile definire su un opportuno spazio di probabilità (Ω, F , P) variabili aleatorie { eXn}_{n∈N} e eX, con la stessa legge rispettivamente di Xne X, tali che eXn→ X q.c. (teorema di Skorokod).

Date leggi µn, µ su R con funzioni di ripartizione rispettivamente Fn(·), F (·), la convergenza debole di µn verso µ è equivalente alla convergenza di Fn(x) verso F (x) per ogni x ∈ R in cui F (·) è continua.

Ricordiamo infine l’enunciato del Teorema Limite Centrale: se {Xn}n∈Nè una successione i.i.d. di variabili aleatorie reali con E(Xn) = 0, E(Xn²) = 1, allora P(X1+ . . . + Xn≤ x√

n) → Φ(x) per ogni x ∈ R, dove Φ(·) indica la funzione di ripartizione della legge normale standard (si noti che Φ(·) è continua in ogni x ∈ R). Possiamo dunque riformulare il Teorema Limite Centrale nel modo seguente: la legge della variabile aleatoria (X1+ . . . + Xn)/√

n converge debolmente verso la legge normale standard.