PARAMETRIZZAZIONE MISTA PER MODELLI ESPONENZIALI CURVI

(1)

PARAMETRIZZAZIONE MISTA PER MODELLI ESPONENZIALI CURVI

NEL CASO DI PROCESSI MARKOVIANI DISCRETI Mixed Parametrisation for Curved Exponential Models

in Discrete Markov Processes

MARIA PIERA ROGANTIN

Dipartimento di Matematica - Universit`a di Genova

1. Introduzione

Si cerca una parametrizzazione di modelli markoviani in modo che l’insieme dei parametri sia suddiviso in due blocchi fra loro ortogonali (nel senso che le stime di massima verosimiglianza dei due blocchi di parametri siano asintoticamente indipendenti) il primo dei quali esprima le probabilit`a marginali e il secondo esprima le probabilit`a di transizione. L’utilizzo di questo tipo di parametrizzazioni ortogonali trova applicazione anche in modellizazioni di fenomeni in cui opportune funzioni dei parametri - marginali o di transizione - dipendono linearmente da covariate, si veda ad esempio (Azzalini, 1994).

Il lavoro si inserisce in un ﬁlone di studio, riguardante la teoria geometrica dei modelli statistici, che ha condotto alla stesura di alcuni lavori; si veda (Pistone, Rogantin, 1990, 1995 a, 1995 b), (Pistone, Sempi, 1995) e (Rogantin, 1995). Per un inquadramento pi`u completo sull’argomento si veda, ad esempio, (Murray, Rice, 1993).

Si generalizzano alcuni aspetti presentati in (Rogantin, 1995) in cui si trova una estensione della cosiddetta “parametrizzazione mista” in casi di modelli esponenziali curvi. Le applicazioni considerate riguardavano catene di Markov a due stati; in tal caso l’insieme dei parametri che esprimono le probabilità di transizione e che sono ortogonali alle probabilità marginali ha dimensione uno. È noto che è sempre possibile suddividere l’insieme dei parametri in due blocchi ortogonali se la dimensione di uno di essi è uno, vedi (Cox, Reid, 1987) e (Barndorff-Nielsen, Cox, 1994: 49).

Nel presente lavoro si mostra – sempre utilizzando metodi geometrici – che il risultato trovato per i processi binari è generale e vale anche nel caso in cui la catena di Markov abbia più di due stati, e quindi i parametri che esprimono le probabilità di transizione siano più di uno; anche in tal caso è possibile trovare una parametrizzazione delle probabilità di transizione ortogonale alle probabilità marginali.

1.1. Richiami

Anzitutto riprendiamo brevemente le argomentazioni che permettono di trovare una parametrizzazione che rende ortogonali due sottoinsiemi di parametri nel caso di modelli esponenziali; in (Amari,1982), (Barndorﬀ-Nielsen, Cox, 1994: 62) e (Pistone, Rogantin, 1995 a), ad esempio, si trova una trattazione pi`u completa.

(2)

In generale si consideri un modello statistico parametrico e regolare nel senso di Fisher, cio`e una struttura (Ω,F, (pθ)_θ∈Θ, μ) dove (Ω,F) è lo spazio misurabile in cui Ω `e campionario, μ è una misura dominante e (p_θ)_θ∈Θ è una famiglia di densità di probabilit`a rispetto a μ di misure tra loro equivalenti con parametro θ ∈ Θ, Θ aperto di R^d.

Quando sono soddisfatte opportune condizioni di regolarità discusse più ampia- mente in (Pistone, Rogantin, 1995 a), la famiglia parametrica di densità di probabilità che compare nel modello, per come è definita, si interpreta bene come varietà differen- ziabile di dimensione d nel convesso di tutte le densit`a di probabilità equivalenti a quelle date. Le funzioni che definiscono le carte per la costruzione della varietà differenziabile assumono valori nell’insieme dei parametri.

La trasformazione da θ alla densità p_θ deve essere invertibile per realizzare una carta: `e la condizione di identificabilità dei parametri. La scelta della parametrizzazione

`

e irrilevante per quanto riguarda la descrizione dei punti di tale superﬁcie.

Per definire le nozioni metriche nella varietà delle densità di probabilità si uti- lizza la matrice di informazione di Fisher, I(θ), in cui l’elemento (i, j) è E_θ^∂l

∂θi

∂l

∂θj

, dove con l si `e indicato il logaritmo della verosimiglianza del modello.

Nel caso specifico dei modelli esponenziali, indichiamo con l(x; θ) il logaritmo di una versione della verosimiglianza, l(x; θ) = −ψ(θ)+ < T (x), θ >, dove θ varia in un opportuno aperto convesso di R^d, la funzione ψ(θ) è analitica e strettamente convessa e T è una statistica sufficiente a valori in R^d, la cui media coincide con il gradiente di ψ e la cui varianza coincide la matrice hessiana di ψ (cio`e la matrice delle derivate seconde di ψ). La matrice di informazione di Fisher è la matrice hessiana di ψ.

Consideriamo anzitutto una riparametrizzazione tale che le stime di massima verosimiglianza dei nuovi parametri stiano in un aperto convesso che coincide con l’insieme in cui assume i valori la statistica suﬃciente T . Indichiamo con f tale tras- formazione, f : R^d⊇ Θ → H ⊆ R^d, e indichiamo con η i nuovi parametri, η = f (θ):

η = E_θ(T ) =∇ψ(θ)

Se I₁(θ) e I₂(η) sono le matrici di informazione di Fisher secondo le due para- metrizzazioni, allora la matrice I₂(η) `e l’inversa della matrice I₁(f⁻¹(η)); si veda, ad esempio (Barndorﬀ-Nielsen, Cox, 1994: 64) e (Pistone, Rogantin, 1995 a: 33).

Questo implica che nello spazio della varietà delle densità di probabilità la posi- zione reciproca dei due sistemi di riferimento nei parametri θ e η `e tale che è possibile trovare una riparametrizzazione che rende ortogonali due sottoinsiemi di parametri. Ad esempio, se si vuole che i primi a parametri siano ortogonali agli ultimi d−a parametri, basta scegliere come riparametrizzazione:

(θ₁, . . . , θ_a, η_a+1, . . . , η_d) ;

questa `e la cosiddetta parametrizzazione “mista”, si veda ad esempio (Amari, 1982), (Barndorﬀ-Nielsen, Cox, 1994: 62).

Conseguenza di questa ortogonalità è che le stime di massima verosimiglianza dei due blocchi di parametri sono asintoticamente indipendenti, si veda ad esempio (Barndorff-Nielsen, Cox, 1994: 98) e (Murray, Rice, 1993: 216).

Nei modelli esponenziali la dimensione dei parametri è uguale a quella della statistica sufficiente. È possibile trattare nel contesto dei modelli esponenziali anche

(3)

modelli più generali in cui la dimensione dei parametri è inferiore a quella della statistica sufficiente, immergendo tali modelli in un modello esponenziale ambiente (con numero di parametri uguale a quello della statistica sufficiente). Cioè la famiglia delle densità del modello generale risulta una sottovarietà della famiglia delle densità del modello esponenziale ambiente. Tali modelli sono detti “modelli esponenziali curvi”; si veda, ad esempio (Barndorff-Nielsen, Cox, 1994: 65) e (Pistone, Rogantin, 1995 a: 33).

Se si indicano con θ i parametri del modello esponenziale e con α i parametri del modello esponenziale curvo, risulter`a θ = θ(α) e l’espressione del logaritmo di una ver- sione della versosimiglianza del modello curvo `e: l(x; θ(α)) =−ψ(α)+ < T (x), θ(α) >.

Un sottomodello curvo eredita dal modello ambiente la sua geometria, nel senso che la matrice di informazione di Fisher del sottomodello curvo `e esprimibile come J_θ^t I₁(θ(α)) J_θ (dove J_θ `e la matrice jacobiana associata alla trasformazione θ(α)).

Questa immersione è solo un artificio analitico che permette di trattare più facilmente il modello generale e non fa perdere la potenza del metodo inferente.

Osserviamo che la curvatura di un modello esponenziale curvo, essendo un concetto metrico, risulta invariante per la scelta di parametrizzazioni; le approssima- zioni del secondo ordine dei modelli – legate al concetto di cuvatura – non sono trattate in questa sede; si veda ad esempio (Cox, Reid, 1987) e (Murray, Rice, 1993: cap. 5).

2. Processi markoviani a J stati

Si consideri un processo markoviano (X_t)_t=1,...,T in cui ciascuna variabile casuale X_t assume valori nell’insieme di livelli {1, 2, . . . , J} con probabilit`ap^(t)₁ , p^(t)₂ , . . . , p^(t)_J , dove^J_j=1 (p^(t)_j ) = 1. Si consideri quindi un suo n-campione.

Per ogni istante t, con t = 1, . . . , T , indichiamo con:

– p^(t) il vettore delle probabilit`a marginali al tempo t, cio`ep₁^(t), p^(t)₂ , . . . , p^(t)_J ; – a^(t)_ij

i,j=1,...,J, con ^J_j=1 a^(t)_ij = 1, la matrice di transizione che regola la dipen- denza di X_t+1 da X_t, per t = 1, . . . , T−1. Senza perdere di generalità imponiamo che a^(t)_ij > 0; se tale condizione non `e verificata le formule possono essere oppor- tunamente modificate, come è mostrato con un esempio in (Rogantin, 1995);

– (N_j)_t le variabili casuali che indicano il numero campionario di valori uguali a j (j ∈ {1, . . . , J}) che si realizzano al tempo t; deve essere ^J_j=1 (N_j)_t = n; le variabili ((N_j)_t)_j=1,...,J hanno legge multinomiale di parametri n e p^(t);

– (N_ij)_t con i, j = 1, . . . , J le variabili casuali che indicano il numero campionario delle transizioni dallo stato i al tempo t allo stato j al tempo t + 1, per t = 1, . . . , T − 1;

– N_ij con i, j = 1, . . . , J le variabili casuali che indicano il numero campionario delle transizioni dallo stato i allo stato j durate tutto il processo, cio`e N_ij =

_{T −1}

t=1(N_ij)_t.

Esamineremo tre classi di processi markoviani:

(4)

1. processo non omogeneo: le matrici di transizione sono diverse a ogni tempo e la probabilit`a iniziale `e generale;

2. processo omogeneo e non necessariamente stazionario: le matrici di transizione sono uguali a ogni tempo e la probabilit`a iniziale `e generale;

3. processo stazionario: le matrici di transizione sono uguali a ogni tempo e la probabilità iniziale è una probabilità stazionaria.

Il primo processo è il caso più generale, ma dal punto di vista delle applicazioni non è realistico pensare a modelli con un cos`ı alto numero di parametri. Più significativi sono invece il processo omogeneo non stazionario e quello stazionario; questi però non sono modelli esponenziali e per essi sono proposte generalizzazioni dei metodi geometrici di parametrizzazione “mista”.

2.1. Processo non omogeneo

Si consideri un n-campione di un processo markoviano non omogeneo.

Per t ≥ 2 le probabilit`a marginali di successo p^(t), possono essere espresse in funzione dei parametri della matrice di transizione.

Quindi i parametri del modello sono (J − 1) per le probabilità iniziali e (T − 1)J (J−1) per le probabilità della matrice di transizione, cioè in totale(J−1)(JT −J+1).

Si vogliono trovare dei parametri che esprimano le probabilità di transizione che siano ortogonali a tutte le probabilità marginali. Le probabilità marginali comples- sivamente sono espresse da T (J − 1) parametri, quindi i parametri che esprimono le probabilit`a di transizione devono essere (T − 1)(J − 1)².

E possibile scrivere il modello in modo che la statistica suﬃciente abbia ad` esempio come primi T (J − 1) elementi le variabili casuali ^(N_n^j⁾^t

j=1,...,J−1;t=1,...,T i cui valori attesi sono le probabilit`a marginali p^(t)

t=1,...,T.

Il logaritmo di una versione della verosimiglianza `e infatti:

J−1

j=1

⎛

⎝(n_j)₁ n log

⎛

⎝p⁽¹⁾_j p⁽¹⁾_J

a⁽¹⁾_jJ a⁽¹⁾_JJ

⎞

⎠+

T −1

t=2

(n_j)_t n log

⎛

⎝a^(t)_jJ a^(t)_JJ

a^(t−1)_Jj a^(t−1)_JJ

⎞

⎠ +

+ (n_j)_T n log

⎛

⎝a^{(T −1)}_Jj a^{(T −1)}_JJ

⎞

⎠

⎞

⎠+

T −1

t=1 J−1

i,j=1

(n_ij)_t

n (θ_ij)_t + log

p⁽¹⁾_J

T −1

t=1

a^(t)_JJ

(1)

dove (θ_ij)_t = log

a^(t)_ij a^(t)_iJ

a^(t)_JJ a^(t)_Jj

per i, j = 1, . . . , J − 1.

Nell’espressione di questa verosimiglianza si `e scelto come pivot l’elemento (J, J ) delle matrici delle probabilit`a di transizione; altre scelte conducono a risultati del tutto equivalenti. Osserviamo che i parametri (θ_ij)_t sono il logaritmo dei determinanti di tutti i minori di secondo ordine con elementi nell’ultima riga e nell’ultima colonna delle matrici di transizione.

Il modello `e un modello esponenziale e quindi gli ultimi (T−1)(J −1)² elementi del parametro canonico risultano ortogonali ai parametrip^(t)

t=1,...,T che esprimono le probabilit`a marginali.

(5)

2.2. Processo omogeneo e non stazionario

Si consideri un n-campione di un processo markoviano omogeneo in cui la ma- trice di transizione (non dipendente dal tempo) `e (a_ij)i,j=1,...,J con ^J_j=1 a_ij = 1.

I parametri del modello sono quindi J − 1 per le probabilit`a iniziali e J(J − 1) per le probabilit`a della matrice di transizione, cio`e in totale J²− 1.

Se indichiamo con (N_j)_C le variabili casuali ^{T −1}_t=2(N_j)_t, una versione del logaritmo della verosimiglianza del modello `e:

J−1

j=1

⎛

⎝(n_j)₁ n log

⎛

⎝p⁽¹⁾_j p⁽¹⁾_J

a_jJ a_JJ

⎞

⎠+ (n_j)_C n log

a_jJ a_Jj (a_JJ)²

+(n_j)_T n log

a_Jj a_JJ

⎞⎠+

+

J−1

i,j=1

n_ij n log

a_ij a_iJ

a_JJ a_Jj

+ log(p⁽¹⁾_J ) + (T − 1) log (aJJ) (2) Indichiamo con:

– θ i parametri log_a^a^ij

iJ

aJJ

aJj

i,j=1,...,J−1, – ζ i parametri p⁽¹⁾, (a_Jj)j=1,...,J−1

.

E possibile parametrizzare il modello [??] nei parametri θ e ζ. Infatti il parame-` tro a_iJ `e esprimibile come: a_iJ = a_JJ / a_JJ +^J−1_j=1 e^θ^ij a_Jj⁻¹ e tale trasformazione

`

e di rango pieno.

Il modello [??] `e un modello curvo; infatti le relazioni che legano i parametri θ non sono lineari negli altri parametri canonici del modello; la dimensione dei parametri

`

e J² − 1, mentre la dimensione della statistica sufficiente è 3(J − 1) + (J − 1)², cioè (J²− 1) + (J − 1).

Come si è visto nell’Introduzione, è possibile immergere un modello curvo in un modello esponenziale; una versione del logaritmo della verosimiglianza del più piccolo modello esponenziale che contiene il modello [??] `e:

< T₁, θ₁ > + < T₂, θ₂ >−ψ(θ1, θ₂) (3) dove:

– T₁ e θ₁ hanno dimensione 3(J− 1) e T1 = _n¹ ((N_j)₁, (N_j)_C, (N_j)_T)i,j=1,...,J−1, – T₂ e θ₂ hanno dimensione (J − 1)²; T₂ = ¹

n(N_ij)i,j=1,...,J−1 e θ₂ = θ, – i primi 3(J− 1) elementi di ∇ψ(θ1, θ₂) sono (p_j⁽¹⁾), (p^(C)_j ), (p^{(T )}_j ))j=1,...,J−1

, cio`e i parametri che dipendono dalle probabilit`a marginali. Indichiamo tali parametri con η₁.

Indichiamo con M la varietà differenziale corrispondente al modello esponen- ziale ambiente. Una sua parametrizzazione “mista” è:

M :

η₁ = (∇ψ(θ1, θ₂))₁ θ₂ = θ

(6)

dove (∇ψ(θ₁, θ₂))₁ `e il vettore con le derivate di ψ(θ₁, θ₂) rispetto ai parametri θ₁. Si osservi che la parametrizzazione delle probabilità marginali evidenzia la pro- babilità delle realizzazioni campionarie al tempo iniziale, al tempo finale e la somma delle probabilità delle realizzazioni campionarie intermedie.

2.2.1. Generalizzazione della parametrizzazione “mista” a modelli esponenziali curvi Indichiamo conSomola sottovariet`a diM corrispondente al modello del processo omogeneo non stazionario. Una rappresentazione parametrica di Somo inM `e:

Somo:

θ₁ = F (ζ, θ) θ₂ = θ

dove la dimensione di θ₁ `e J (J − 1).

La diﬀerenza fra la dimensione di M e quella di Somo `e J − 1.

Si consideri quindi un punto ˆP = (ˆζ, ˆθ) appartenente a Somo e la superﬁcie coordinata γ_P_ˆ(θ) che passa per ˆP e che giace su Somo. Una sua rappresentazione parametrica `e:

γ_P_ˆ(θ) :

θ₁ = F (ˆζ, θ) θ₂ = θ Indichiamo con γ_ˆ

P(ˆθ) la matrice Jacobiana corrispondente a γ_P_ˆ(θ) le cui colonne generano lo spazio tangente a γ_P_ˆ(θ) nel punto ˆP : γ_ˆ

P(ˆθ) =

F₂(ˆζ, ˆθ) I

dove F₂(ˆζ, ˆθ)

`

e una matrice di dimensione 3(J − 1) × (J − 1)² con le derivate di F (ζ, θ) rispetto ai parametri θ calcolate in ˆP e dove I `e la matrice identica di dimensione (J − 1)².

E possibile scrivere un modello esponenziale corrispondente anch’esso alla va-` riet`aM che in ˆP ha le ultime (J−1)² coordinate proporzionali a γ_ˆ

P(ˆθ), i cui parametri – indicati con (τ₁, τ₂) – sono combinazioni lineari dei parametri (θ₁, θ₂). In (Rogantin, 1995) viene fornito un calcolo dettagliato nel caso J = 2.

In tale modello τ₂ = θ₂ e inoltre i primi 3(J − 1) elementi del gradiente di ψ(θ₁, θ₂) fatto rispetto a (θ₁, θ₂) sono uguali ai corrispondenti elementi del gradiente di ψ(τ₁, τ₂) fatto rispetto a (τ₁, τ₂); cio`e, indicando con (.)_A i primi 3(J − 1) elementi del vettore:

(∇θψ(θ₁, θ₂))_A= (∇τψ(τ₁, τ₂))_A . (4) Quindi i parametri η₁ che dipendono dalle probabilit`a marginali sono ortogonali ai parametri θ che dipendono dalle probabilit`a di transizione.

Pertanto la superficie coordinata di M corrispondente a η₁ – che indicheremo con H – è ortogonale al piano tangente a γPˆ(θ) in ˆP . La superficie H è piatta in M, infatti corrisponde a un sottomodello esponenziale di [??].

IntersecandoH con la sottovariet`a Somo corrispondente al modello curvo [??] si ottiene una superﬁcie che indicheremo con C.

La Fig. 1 rappresenta quanto descritto sopra nel caso in cui η₁ e θ siano di dimensione rispettivamente due e uno.

(7)

Fig. 1: Variet`a M e sue sottovariet`a

M

S

H C

γ( )θ

o o

Pˆ γ^'(θ)ˆ P˜

θ) γ (^'˜

P˜

Pˆ Pˆ

La dimensione di C è 2(J − 1); infatti, per ogni ˆP di Somo, lo spazio tangente a H nel punto ˆP è ortogonale allo spazio tangente a γ_P_ˆ(θ) in ˆP e quindi la dimensione complessiva di questi due spazi tangenti è uguale alla dimensione diM. Per la formula di Grassmann: dimC = dim H + dim S − dim M; quindi è dim C = 2(J − 1).

Pertanto la superﬁcieC pu`o essere rappresentata con 2(J −1) parametri funzioni di η₁.

Per qualsiasi altro punto ˜P = (˜ζ, ˜θ) appartenente a C sia γP˜(θ) la superﬁcie coordinata che passa per ˜P . Lo spazio ortogonale allo spazio tangente γ_˜

P(˜θ) `e sempre H, come risulta da [??], e quindi la conclusione precedente non dipende dal punto scelto.

Anche per questo modello esponenziale curvo esistono quindi 3(J−1) parametri funzioni delle probabilit`a marginali η₁ che sono ortogonali ai parametri θ. Questa pu`o essere considerata una parametrizzazione “mista vincolata”.

2.3 Processo stazionario

Si consideri un n-campione di processo markoviano stazionario.

In tal caso la probabilit`a di successo iniziale e quelle marginali sono uguali e possono essere espresse in funzione dei parametri della matrice di transizione.

I parametri del modello sono quindi J (J − 1).

Il logaritmo della verosimiglianza si pu`o scrivere in modo analogo al precedente con (p⁽¹⁾_j ) funzione di (a_ij)i,j=1,...,J.

La famiglia parametrica di densità di probabilità associata a questo modello è una sottovariet`a di dimensione J (J − 1) immersa in M, che indicheremo con Ssta.

Si pu`o quindi ripercorrere il procedimento svolto nel caso della sottovariet`aSomo

del processo omogeneo.

Indichiamo con H la superficie di M corrispondente a η1; la sua dimensione è anche in questo caso 3(J−1). Intersecando H con la sottovarietà Sstacorrispondente al modello curvo del processo stazionario si ottiene una superficie che può essere rappre- sentata con J− 1 parametri funzione di η1 e tali parametri risultano quindi ortogonale ai parametri θ.

(8)

Riferimenti bibliografici

Amari S.-I.(1982), “Diﬀerential geometry of Curved Exponential Families-Curvature and Information Loss”,The Annals of Statistics, 18, 2, pp. 357-385

Azzalini A. (1994), “Logistic regression for autocorrelated data with application to repeated measures”, Biometrika, 81, pp. 767-75.

Barndorff-Nielsen O. E., Cox D. R.(1994), Inference and Asymptotics. London:

Chapman & Hall.

Cox D. R., Reid N. (1987), “Parameter orthogonality and approximate conditional inference (with discussion)”, J. R. Statist. Soc., B, 49, pp. 1-39.

Murray M. K., Rice J. W. (1993), Diﬀerential Geometry and Statistics, Mono- graphs in Statistics and Applied Probability, 48, London: Chapman & Hall.

Pistone G., Rogantin M.P. (1990), “Gli strumenti della geometria diﬀerenziale nell’inferenza statistica”, In Memorial Beniamino Gulotta, Giornate di lavoro di Probabilit`a e Statistica, Istituto Gramsci, Palermo, pp. 85-99.

Pistone G., Rogantin M. P.(1995 a), Geometria diﬀerenziale: strumenti dell’infe- renza statistica, Corso di Formazione, XXXVII Riunione Scientiﬁca Societ`a Ita- liana di Statistica, 1994, Rap. int. 1/1995; Dip. Matematica Politecnico Torino.

Pistone G., Rogantin M. P.(1995 b), “The exponential statistical manifold under space transformation and conditioning”, Rapporto interno n. 9/1995; Diparti- mento di Matematica del Politecnico di Torino, in revisione per Bernoulli.

Pistone G., Sempi C. (1992-95), “An Inﬁnite Dimensional Geometric Structure On the space of All the Probability Measures Equivalent to a Given one”, Preprint del Dipartimento di Matematica dell’Universit`a di Lecce, N. 10. Revised 1993, Rapporto interno n. 32/1993; Dipartimento di Matematica del Politecnico di Torino, in corso di stampa su Annals of Statistics (1995).

Rogantin M. P.(1995), “ Modellizzazione geometrica della dipendenza markoviana”, inviato a Metron.

Abstract

We describe a parametrisation of Markov chains such that the set of parameters splits into two mutually orthogonal blocks, the ﬁrst one representing the marginal probabilities and the latter one representing the transition probabilities. This aim is achieved by using methods of diﬀerential geometry. The examined Markov chains are curved exponential models; we propose a geometrical method which generalizes the

“mixed parametrisation” of the exponential models.

This work is a generalization of a previous paper on binary Markov chains;

in this case the parameters space representing transitions and orthogonal to marginal probabilities is one dimensional. In the present paper we show that the result is general and holds for Markov chains with more than two states.