Probablità, Statistica e Processi Stocastici

(1)

Probablità, Statistica e Processi Stocastici

Franco Flandoli, Università di Pisa

Corso per la Scuola di Dottorato in Ingegneria

Corso per la Scuola di Dottorato in Ingegneria 1

(2)

Dinamiche stocastiche

Iniziamo la seconda parte del corso, non più dedicata a metodi statistici ma ad alcuni esempi di dinamiche stocastiche.

Esse potrebbero essere classi…cate in:

dinamiche markoviane a tempo continuo e spazio continuo (equazioni di¤erenziali stocastiche)

dinamiche markoviane a tempo continuo e spazio discreto (processi a salti, es. nascita e morte)

dinamiche markoviane a tempo discreto e spazio discreto (catene di Markov)

dinamiche non markoviane, di varia natura.

(3)

Spazio e tempo continuo (equazioni di¤erenziali stocastiche)

In analogia con la dinamica newtoniana, questo sarebbe il caso più naturale, per le applicazioni …siche ecc.

Si tratta di equazioni (inR^d) del tipo

X⁰

(

t

) =

f

(

t, X

(

t

)) +

rumore

o più generalmente equazioni di¤erenziali in cui entri l’aleatorietà in qualche modo (come forzante, come coe¢ cienti, come dati iniziali, come dati al bordo ecc.).

Noi studieremo le equazioni di tipo Itô (e Stratonovich), ad esempio della forma

dX

(

t

) =

f

(

t, X

(

t

))

dt

+

dB

(

t

)

dove B

(

t

)

è un moto browniano.

(4)

Tempo continuo, spazio discreto (processi a salti)

Nelle equazioni di¤erenzial precedenti, lo "stato" del sistema è un punto di R^d.

Invece, i processi a salti hanno come spazio degli stati un insieme discreto. Lo stato può assumere solo un insieme al più numerabile di valori.

Il tempo invece varia in modo continuo. Il sistema quindi salta da uno stato all’altro, trascorrendo in ogni stato che visita un tempo

aleatorio.

L’esempio più classico è quello dei processi di nascita e morte: gli stati sono i numeri interi n 0 (numero di individui vivi); il sistema si trova per un certo tempo nello stato n (n individui vivi); poi ad un istante aleatorio e¤ettua una transizione, saltando ad esempio allo stato n

+

1 (è nato un nuovo individuo) oppure allo stato n 1 (è morto un individuo).

Questi processi sono molto utili ad esempio in teoria delle code.

(5)

Spazio e tempo discreto (catene di Markov)

Sono simili ai processi a salti precedenti, ma con la restrizione (o caratteristica) che i salti avvengono ad istanti di tempo discreti. Il tempo t varia nei numeri interi: t

=

0, 1, 2, ...

La proprietà di Markov, detta in pratica, signi…ca che se al tempo t

=

n il sitema si trova nello stato xn, abbiamo tutte le informazioni necessarie per stabilire in che stato x_n₊₁ si troverà al tempo

t

=

n

+

1. La scelta dello stato x_n₊₁ può contenere un certo grado di aleatorietà, ma noto lo stato di partenza xn, il grado di aleatorietà non si riduce conoscendo il passato, cioè le posizioni prima del tempo n.

Queste dinamiche sono le più comode per le simulazioni: basta che il codice numerico, attravero generatori casuali, sappia scegliere lo stato successivo a partire da quello attuale; poi è su¢ ciente iterare il procedimento.

Tra gli esempi di cui si sente spesso parlare ci sono gli "automi cellulari".

(6)

Nostro programma di lavoro

Siccome mi preme spiegare le equazioni di¤erenziali stocastiche (è una scelta personale), partiamo da lì. Poi se ci stu…amo e resta tempo, vediamo degli esempi di catene di Markov (o se si preferisce di processi a salti).

Per raggiungere lo scopo delle equazioni di¤erenziali stocastiche, serve un po’di teoria dei processi stocastici.

Ad esempio serve il concetto di moto browniano (e di white noise).

Per una trattazione completa servono anche gli integrali di Itô e la formula di Itô, cose di cui daremo solo alcuni cenni.

Fondamentale per le applicazioni è il legame con l’equazione di Fokker-Planck.

Mi piacerebbe toccare il problema dei sistemi di particelle interagenti.

Naturalmente vedremo delle simulazioni numeriche.

(7)

Processi stocastici

In generale, ogni famiglia di variabili aleatorie è un processo stocastico.

Un’accezione più ristretta è quella di una famiglia indicizzata dal tempo:

Xt

dove il tempo t può variare in diversi modi:

nei reali positivi: t 0 (per noi sarà il caso più frequente) negli interi positivi: t 2N (ciò che serve ad es. per le catene di Markov)

altri casi (es. sui reali positivi e negativi, ecc.)

(8)

Realizzazioni di un processo. Distribuzioni marginali

Nell’esaminare un processo stocastico siamo continuamente di fronte ad una dicotomia.

1 Possiamo …ssare il tempo t, es t

=

2 ore, ed esaminare la variabile aleatoria X_t. Ad esempio ci chiediamo: dove sarà tra 2 ore il nostro sistema? Tipicamente possono interessare quantità del tipo

E

[

Xt

]

, Var

[

Xt

]

, P

(

Xt

>

λ

)

.

2 Possiamo far variare t, tenendo …ssato "l’esperimento": ad es. se stiamo facendo simulazioni, svolgiamo una simulazione che produce una traiettoria x_t, per t 0. Queste "traiettorie" verranno chiamate anche "realizazioni" del processo stocastico.

3 Chi avesse tempo di vedere una trattazione matematica rigorosa, vedrebbe che si deve introdurre uno spazio degli eventi, spesso detto universo, Ω ed un processo stocastico è una funzione di due variabili (da qui la dicotomia)

(

t, ω

) 7!

^X^t

(

ω

)

.

(9)

Esempi (molto statici)

Un esempio molto semplice, però anche molto "statico", è Xt

=

∑

N k=0

Zksin

(

kt

)

dove i coe¢ cienti Z_k sono variabili aleatorie (polinomi trigonometrici aleatori).

In realtà, per N

!

∞ e con opportune ipotesi sui coe¢ cienti, si ottengono processi estremamente generali.

Esempli…chiamo la dicotomia: se …ssiamo t, possiamo calcolare E

[

X_t

] =

∑

N k=0

E

[

Z_k

]

sin

(

kt

)

e se ad es. supponiamo i coe¢ cienti Z_k indipendenti

Var

[

X_t

] =

∑

N k=0

Var

[

Z_k

]

sin²

(

kt

)

.

(10)

Polinomi trigonometrici aleatori

Se inoltre supponiamo che le v.a. Zk siano gaussiane, allora (sempre per t …ssato) Xt è una v.a. gaussiana, di cui conosciamo media e varianza dai calcoli precedenti, e quindi possiamo calcolare ad es.

P

(

X_t

>

λ

)

.

Invece le realizzazioni di X_t

=

_∑^N_k₌₀Z_ksin

(

kt

)

si ottengono

prendendo a caso dei valori prodotti dai coe¢ cienti. Se il caso (in un esperimento reale; oppure il generatore casuale in una simulazione) ha dato, per le v.a. Z_k, i valori z_k, abbiamo trovato la realizzazione

t

7!

∑

N k=0

z_ksin

(

kt

)

.

(11)

Polinomi trigonometrici aleatori

N

=

3 ed N

=

30

(12)

Polinomi trigonometrici aleatori

X₂ (istogramma e qqplot, 10000 realizzazioni), coe¢ cienti gaussiani standard indipendenti

(13)

Esempi (molto statici)

Un altro esempio molto statico è quello della risoluzione di un’equazione di¤erenziale deterministica, con dati iniziali aleatori:

X⁰

(

t

) =

f

(

t, X

(

t

))

X

(

0

) =

Z

dove Z è una variabile aleatoria (a valori inR^d).

La soluzione al tempo t è una variabile aleatoria. Se Z ha pdf ρ0

(

x

)

, la pdf ρt

(

x

)

di X

(

t

)

è soluzione dell’equazione di continuità

∂ρ

∂t

+

div

(

f ρ

) =

0.

Oppure si possono e¤ettuare degli spostamenti casuali agli istanti t1

<

...

<

tk

<

... (random kicks)

X⁰

(

t

) =

f

(

t, X

(

t

)) + ∑

k 1

δ

(

t t_k

)

Z_k.

(14)

Il moto browniano (MB)

E’un processo stocastico Bt, t 0, caratterizzato da alcune proprietà salienti:

B₀

=

0 (convenzionale; si può anche parlare del MB uscente da una certa posizione x0)

Bt è N

(

0, t

)

; più in generale, per ogni t s 0, Bt Bs è N

(

0, t s

)

presi tn tn 1 ... t2 t1, gli incrementi Btn Btn 1, ..., B_t₂ B_t₁ sono indipendenti.

Siccome

B_t

= (

B_t B_{t h}

) + (

B_{t h} B_{t 2h}

) +

...

+ (

B_2h B_h

) + (

B_h B₀

)

(per t multiplo del passo h), un modo di simulare il MB è sommare tanti piccoli incrementi gaussiani indipendenti.

(15)

Il moto browniano

Due realizzazioni (bassa risoluzione, 100 punti)

(16)

Il moto browniano

Due realizzazioni (risoluzione media, 1000 punti)

(17)

Irregolarità delle traiettorie del MB

Come si intuisce dai gra…ci precedenti, le traiettorie non sono molto regolari.

Si può dimostrare rigorosamente che esse (con probabilità uno) sono non-derivabili in ogni punto.

Dalla proprietà

Var B_t₀₊_dt B_t₀

dt

=

^Var

[

B_t₀₊_dt B_t₀

] (

dt

)

²

=

¹

dt si intuisce che non esiste

dB

dt

(

t₀

) =

lim

dt!⁰

B_t₀₊_dt B_t₀

dt .

(18)

Moto browniano e white noise

Se euristicamente consideriamo la derivata ^dB_dt (lo si può fare

rigorosamente con la teoria delle distribuzioni) troviamo un "processo"

piuttosto singolare:

dB

dt

(

t0

)

indipendente da dB dt

(

t1

)

per ogni t₁

6=

^t⁰ ^(perché ^B^t0⁺^hh ^B^t0 e ^B^t1⁺^h_h ^B^t1 sono indipendenti per h abbastanza piccolo). Inoltre

dB

dt è "stazionario"

(le proprietà statistiche di ^B^t0⁺^h_h ^B^t0 non dipendono da t₀). Lo chiamiamo White Noise = dB

dt .

(19)

White noise

Appena si discretizza, spariscono tutte le criticità di de…nizione e si ritrova il "white noise" descritto nella lezione sulle serie storiche. Ecco una simulazione con risoluzione media, 1000 punti:

(20)

White noise

Nella letteratura …sica il white noise è descritto come quel processo

’generalizzato’ξt avente statistiche gaussiane, media nulla, e funzione di autocorrelazione

E

[

ξtξs

] =

δ

(

t s

)

(si dice "delta-correlato"). Il ’processo’^dB_dt ha tutte queste caratteristiche, in particolare

E

[

ξtξs

]

E Bt+h Bt

h

Bs+h Bs

h

=

1

h se s

=

t

0 se s

6=

^t ^δ

(

t s

)

. Quindi il MB è un processo rigorosamente de…nito che produce il white noise eseguendo la derivata in senso generalizzato.

Questo ne fa un processo centrale nella teoria dei processi stocastici:

in processo centrale sarebbe il white noise ma è di¢ cile da studiare.

Allora si cerca sempre di "integrarlo", riconducendosi al MB che è rigoroso.

(21)

Moto browniano nel piano

E’de…nito come una coppia di MB indipendenti (realizzazione con 50000 punti). Tipica struttura a cluster collegati da escursioni (a vari livelli di risoluzione). Qui la struttura autosimile è più evidente.

(22)

Prime equazioni di¤erenziali stocastiche (white noise additivo)

Si ricordi l’esempio fatto sopra di un’equazione di¤erenziale con kicks aleatori di tanto in tanto.

Una versione più "continua" è l’equazione

X⁰

(

t

) =

f

(

t, X

(

t

)) +

σξ

(

t

)

dove ξ

(

t

)

è un white noise e σ è un parametro di intensità del rumore.

L’idea ’…sica’è di un sistema governato da una legge classica su cui però agiscono altri impulsi, altre grandezze, che non vengono descritte nei dettagli ma raggruppate nel white noise.

E’un modo rozzo ma semplice e canonico di tener conto di fattori perturativi senza descriverli nei dettagli.

Che senso matematico ha, però?

(23)

Prime equazioni di¤erenziali stocastiche (white noise additivo)

Integriamo nel tempo ed usiamo il fatto che

R

t

0 ξ

(

s

)

ds è un MB B

(

t

)

: da X⁰

(

t

) =

f

(

t, X

(

t

)) +

σξ

(

t

)

troviamo

X

(

t

) =

X

(

0

) +

Z t 0

f

(

s, X

(

s

))

ds

+

σB

(

t

)

dove ora tutti gli oggetti sono ben de…niti. Si usa scrivere

dX

(

t

) =

f

(

t, X

(

t

))

dt

+

σdB

(

t

)

.

(24)

Esempio lineare

L’equazione

X⁰

(

t

) =

X

(

t

)

ha soluzione esplicita X

(

t

) =

e ^tX

(

0

)

. Con white noise additivo dX

(

t

) =

X

(

t

)

dt

+

σdB

(

t

)

ha ancora le traiettorire illustrate in …gura.

Per curiosità, è un raro caso in cui si può scrivere la soluzione esplicita X

(

t

) =

σB

(

t

) +

e ^tX

(

0

)

Z t

0 σe ⁽^{t s}⁾B

(

s

)

ds che è un processo gaussiano (da de…nire...) di media

E

[

X

(

t

)] =

e ^tE

[

X

(

0

)]

.

(25)

Esempio lineare

Traiettoria deterministica in nero, due realizzazioni (rosso e blue) con σ

=

0.1

(26)

Nota sul metodo numerico

Per queste simulazioni abbiamo usato il banale metodo di Eulero esplicito.

Fissato un passo temporale e, si calcola una soluzione approssimata X_e

(

tn

)

ai tempi tn

=

n e tramite la formula iterativa

X_e

(

t_n₊₁

) =

X_e

(

t_n

) +

e f

(

t_n, X_e

(

t_n

)) + p

eZn

dove Z_n è una gaussiana standard.

Infatti la soluzione vera soddisfa X

(

tn+1

) =

X

(

tn

) +

Z _t_n₊₁

tn

f

(

s, X

(

s

))

ds

+

σ

(

B

(

tn+1

)

B

(

tn

))

e B

(

t_n+1

)

B

(

t_n

)

è una N

(

0, e

)

, cioè ha la forma

p

eZn.