Modelli stocastici o di Box-Jenkins (approccio moderno post 1925)

1

Modelli stocastici o di Box-Jenkins (approccio moderno post 1925)

1. Modello autoregressivo (AR) 2. Modello a media mobile (MA) 3. Modello misto (ARMA)

1.

residuo o disturbo

coefficienti

AR(p) - modello autoregressivo di ordine p 2. Media mobile :

è una media aritmetica che si sposta, ad ogni iterazione, dall’inizio alla fine della successione di dati.

















 _{  }

t

t p

t p 2

t 2 1

t 1 t

a

a Z

...

Z Z

Z





_i (i 1,...,p)

Esempio: MA a tre termini

In generale termini dispari . MA centrata.

Può essere: - semplice - ponderata

n

n 1

n 2

1 n n 1

n 2 n

5 4

4 3 5

4

4 3

3 2 3

3 2

2 1 2

1

z 3

z z

zˆ z z

.z

.. 3

z z

zˆ z z

z 3

z z

zˆ z z

3

z z

zˆ z z

z



 



 



 



 



 





3

z z

zˆ_t z^t1  ^t  ^t1



3

Modelli a MA:

costanti Modello MA(q) di ordine q

3. Modelli misti

Modello ARMA (pq)

I modelli Box-Jenkins essendo di tipo stocastico generano un processo stocastico

Analizzare una serie empirica con i modelli Box-Jenkins significa scegliere, tra i molti modelli possibili, quello più adatto e stimarne i parametri

2 fasi di analisi:

_ identificazione _ stima

q t q 1

t 1 t

p t p 1

t 1

t Z ... Z a a ... a

Z   _    _    _    _ )

q , ...

, 1 i (

a ...

a a

Z

i

q t q 1

t 1 t

t















 _{ }

Operatori, funzioni generatrici, equazioni alle differenze finite

Operatore all’indietro (backward) B Data una sequenza

l’operatore B serve a trasformare un termine di tale sequenza in uno che lo precede di uno o più posti. Quindi :

oppure

Operatore in avanti (forward) F

Stessa definizione, salvo che F trasforma in avanti, cioè

oppure

2 t 1 t t 1 t 2

t ,z ,z ,z ,z

z _{   }

j t t

j 1

t

t z B z z

z

B  _  _

j t t

j 1

t

t z F z z

z

F  _  _

B F  ^

Operatore alle differenze finite . oppure

Ma:

cioè : Poi:







j t

j

t t

t

z z

z z

z z

z

 





















1 1

 

t t

1 t t

t z z z Bz 1 B z

z      

 _

B 1









2 zt   z  z  2z _  z _



PROCESSO AUTOREGRESSIVO DI ORDINE p AR(p)

(*)

Somma ponderata di valori passati cui si aggiunge un disturbo calcolato sul valore attuale . Riscrivendo la (*) si ha:

che diviene, con l’operatore B:

Ponendo la quantità in parentesi uguale a , nota anche come operatore AR(p) , si ha:

t p

t p 2

t 2 1

t 1

t z z ... z a

z   _   _    _ 

zt

at

t p

t p 2

t 2 1

t 1

t z z ... z a

z   _   _    _ 





 



 



disturbo

7

Nella (*) può essere aggiunta una costante

che misura il livello del processo che, se il processo è stazionario, è uguale alla sua media, quindi in generale AR(p) ha forma:

Le condizioni di stazionarietà del processo si ottengono dalle radici della sua equazione caratteristica, cioè ponendo , quindi

Si dimostra (Box & Jenkins) che la stazionarietà di AR(p) si ottiene quando le radici della equazione caratteristica sono in modulo > 1, o in altre parole sono esterne al cerchio di raggio

unitario



t p

t p 1

t 1

t z ... z a

z     _    _ 

 



0 B

...

B B

1 ₁  ₂ ²   _p ^p 

1

Casi particolari.

AR(1)

Il valore della serie al tempo t è pari ad una frazione del valore precedente aumentato (algebricamente) dell’errore .

t 1

t 1

t z a

z   _ 

at

9

Es: supponiamo . Allora graficamente:

innovazione Stazionarietà

Dal caso generale, siccome le radici dell’equazione caratteristica, cioè

sono esterne al cerchio unitario, allora : AR(1) è stazionario se e solo se

5 ,

1  0



zt

1 2 3 t

z1

5 , 0

z2

5 , 0

a3

 z1

2 1

2 0,5z a

z  

a2

3 2

3 0,5z a

z  

 

E , . c . v

a_t  _t 

 

 



1



Media

Se allora

Varianza

Dalle relazioni di e di AR(p) si ricava

da cui risulta che, siccome allora

, cioè , come rilevato per la condizione di stazionarietà.

Autocovarianza

Si dimostra (Nelson, Riccolo) che

 

E _t  ^E

 

k ₀

2 2 0 a

1 

 



0 0



2  1

   1

k 2

2 k a

1 





 



che utilizzando la relazione per diviene:

Autocorrelazione

Correlogramma

A seconda del segno di si ha:

Autocorrelazione parziale Si dimostra (Kendall) che

0 k

0

k   



k

k  





0 1

1

1

0

 0



   



 0 k 1

1

1 k

k 1 k

Non stazionarietà

La stazionarietà si ha per

Se allora Random Walk (non stazion. omogenea (*))

Se allora il processo assume un andamento esplosivo tipo reazione nucleare.

(*) considerando successivi intervalli temporali questi hanno dei componenti sostanzialmente uguali.

1 1



1 1

 z_t  z_t1  a_t

1 1



Random walk stazionarietà non omogenea

Stazionario

Esplosivo

t 1

t

t z a

z  _ 

t 1

t

t 0,35z a

z  _ 

t 1

t

t 1,2z a

z  _ 

Processo autoregressivo di 2° ordine

parametri Stazionarietà

Le radici dell’equazione caratteristica devono essere esterne al cerchio unitario.

Equazione caratteristica

Si dimostra che per soddisfare tale condizione si devono verificare, come vedremo poco sotto (correlogramma) le seguenti disuguaglianze





N a

, ,

a z

z z

2 a t

2 1

t 2

t 2 1

t 1 t



















 _{ }

 















   

   

 

1 1

1 1

2 1 2

1 2

Le disuguaglianze individuano nel piano la seguente regione triangolare:

1

0

-1

-2 0 2 Media

Modello completo (con costante )

Si può facilmente dimostrare che

, cioè gli scarti dalla media, siccome:

Sono anch’essi AR(2), senza costante

2 1,





 

 

 

 

E     _   _ 

     

2 1

2 t 2

1 t 1

t

1

z E z

E z

E









 











 _{ }

 

* t

t z E z

z  

2 1

* t

t z 1

z       

1

2

Varianza

Piccolo (1970) ha dimostrato che varianza

autocov.

lag 1,2

e che…… k > 2 , è ottenibile dalla usuale relazione di Yule-Walker

autocov. gen.

Quindi:

autocorrelazione

0 2 1

1 2

1 2 0

1 1

2 2 2 1

1 0













































 _a



2 k 2 1

k 1

k        



2 j 2 1

j 1 j

2 1

1 2

2 1 1

1



   

































17

PROCESSO A MEDIA MOBILE MA(q) Si definisce come caso particolare del p.s.

lineare già considerato:

( )

Il processo MA(q) è solamente costituito da un numero finito di q termini, cioè:

che è un caso particolare di ( ) . Introducendo l’operatore B si ha:

che diviene:

dove

Denota il cosiddetto operatore MA(q).





 



0 k

k t k

t a

z

q t q 1

t 1 t

t a a ... a

z    _    _





 

q q 2

2 1

t 1 B B ... B a

z        

 

t B a

z  

 



Stazionarietà

Siccome l’operatore MA(q) è una serie finita, non esistono particolari restrizioni per assicurare la stazionarietà

Invertibilità (vedi dopo per maggior dettaglio) Un MA(q) è invertibile quando le radici dell’equazione caratteristica

sono esterne al cerchio unitario.

Media

Se le hanno media nulla, è nulla pure la media del processo, quindi:

 



at

 

E _t 

19

Principio di dualità tra AR(p) e MA(q) 1)

2) Un AR(p) può essere sempre espresso come una media mobile di infiniti termini, cioè

Un MA(q) può essere espresso, se invertibile, come un processo autoregressivo infinito, cioè .

3) I coefficienti di autocorrelazione totale di un MA(r ) si comportano analogamente ai coeff. di autocorrelazione parziale di un AR(r ).

Stazionarietà invertibilità

MA incondizionata

Le radici dell’eq.

devono essere esterne al cerchio unitario

AR

Le radici dell’eq.

devono essere esterne al cerchio unitario

incondizionata

 ^{B  0}



 



) ( MA 

) ( AR 

k

k

k

Processo ARMA(pq)

(*) residuo o “innovazione”

, indipend.

Se non segue tali ipotesi, ma invece si comporta come una media mobile di ordine q e quindi risulta:

Sostituendo in (*) si ha:

( )

che è un processo misto autoregressivo di ordine p, con media mobile di ordine q, cioè un ARMA(pq).

t p

t p 1

t 1

t z ... z a

z )

p (

AR    _    _ 





N 



at

q t q 1

t 1

t a ... a

a   _    _

q t q 1

t 1 t

p t p 1

t 1 t

a ...

a a

z ...

z z

































21

Usando l’operatore B si ottiene:

dove

Stazionarietà

Per la condizione di stazionarietà della componente AR(p), le radici dell’equazione

devono essere esterne al cerchio unitario.

Invertibilità

Analogamente, per MA(q) le radici di

devono anch’esse essere esterne al cerchio unitario.

 

 



 

 

p p 2

2 1

B ...

B B

1 B

B ...

B B

1 B





































 



 



Media

Se ARMA(pq) è completo, cioè è presente anche una costante :

da cui:

Per cui se



     

 

 

 

t p

1 t 1

t

a E ...

a E a

E

z E ...

z E z

E





































 

p 1

t 1 ...

z

E     

 

 

E ,

0 _t 





23

Modelli Box & Jenkins per serie non stazionarie in media (modelli ARIMA) Quando le condizioni di stazionarietà richieste per i modelli BJ non sono presenti si possono avere due forme di non stazionarietà:

quella esplosiva quella omogenea

Si ha la prima quando almeno una radice dell’equazione caratteristica è in modulo < 1.

Si ha la seconda quando almeno una delle radici dell’equazione caratteristica è unitaria (cioè sul cerchio di raggio unitario).

I fenomeni socio-economici ben difficilmente presentano non stazionarietà esplosiva, limitandosi a forme omogenee, così dette perché a parte variazioni nel livello e/o nell’andamento di fondo (trend), la serie è di tipo stazionario.

In altri termini la serie non è temporaneamente costante nel suo livello medio, ma comunque tende a disporsi stabilmente intorno a tale livello medio.

Trasformazioni stazionarizzanti.

Una serie storica in cui è presente una non stazionarietà omogenea è facilmente trasformabile in una di tipo stazionario prendendo un adeguato numero di differenze successive.

Esempio:

non stazion.

omogenea

stazion.

zt

1 t t

t

z z

z

 





Un possibile modo di rappresentare una serie storica non stazionaria omogenea consiste nell’introdurre in un modello ARMA(pq) un operatore alle differenze finite di ordine opportuno.

Integrando le componenti AR(p) e MA(q) con la componente I(d) si ha il modello ARIMA(p,d,q).

Per definire formalmente tale modello si deve prima definire l’operatore autoregressivo generalizzato

che è un polinomiale di grado p+d con d radici uguali ad 1 e le altre p radici maggiori di 1. Pertanto:

 



       



 

 

  

d p d p 2

2 1

B 1

B r 1 , ...

, B r 1 B r 1

B r

1 , ...

, B r 1 B r 1 B



















 _ ^

Questo perché d radici sono unitarie.

I fattori della parte destra dell’equazione meno l’ultimo sono niente altro che l’operatore di un AR(p) stazionario.

Quindi:

Cioè:

________________________

ARIMA: * che scritto per esteso diviene:

 



 

 





    

 

d t

z B

z B B

z B











 1



q t q 1

t t

d p t d p 1

t t

a ...

a a

z ...

z z





































 

 

