MIGLIOR APPROSSIMAZIONE IN SPAZI EUCLIDEI

MIGLIOR APPROSSIMAZIONE IN SPAZI EUCLIDEI

^∗

A. SOMMARIVA^†

Conoscenze richieste. Spazio vettoriale. Spazio normato. Vettori linearmente indipendenti. Sistemi lineari.

Operatore delta di Kronecker.

Conoscenze ottenute. Spazi euclidei. Elemento di miglior approssimazione in un sottospazio di dimensione finita di uno spazio euclideo. Determinazione dei coefficienti di Fourier per basi generiche e ortogonali.

Sia E uno spazio vettoriale dotato di un prodotto interno (·, ·) (talvolta un tale spazio `e detto euclideo , cf. [5, p.148]), cio`e una funzione reale definita sulle coppie x, y ∈ E con le seguenti propriet`a

1. (x, x) ≥ 0 per ogni x ∈ E; inoltre (x, x) = 0 se e solo se x = 0;

2. (x, y) = (y, x) per ogni x, y ∈ E;

3. (λx, y) = λ(x, y) per ogni x, y ∈ E e λ ∈ R;

4. (x, y + z) = (x, y) + (x, z) per ogni x, y, z ∈ E.

A partire dal prodotto interno si pu `o definire lo spazio normato (E, k · k) ponendo kf k = p(f, f).

Vediamo alcuni esempi di spazi euclidei:

1. R

ⁿ

dotato dell’usuale prodotto scalare, `e uno spazio euclideo; se e

1

, . . . , e

n

`e una base ortonormale, cio`e per cui (φ

j

, φ

k

) = δ

j,k

(dove al solito δ

_j,k

`e il delta di Kronecker), allora ogni vettore x ∈ R

ⁿ

si pu `o scrivere come

x =

n

X

k=1

c

n

e

n

, c

k

= (x, e

k

).

Infatti, moltiplicando ambo i membri di x per e

k

si ha per la bilinearit`a del prodotto scalare

(x, e

k

) =

n

X

k=1

c

n

e

n

, e

k

!

=

n

X

k=1

c

n

(e

n

, e

k

) = c

k

(e

k

, e

k

) = c

k

.

2. lo spazio C([a, b]) delle funzioni continue nel compatto [a, b], dotato del prodotto scalare

(f, g) = Z

b

a

f (x)g(x) dx

`e uno spazio euclideo, cf. [5, p.145]. Una sua base ortogonale (cio`e per cui (φ

j

, φ

k

) = c

j,j

δ

j,k

con c

j,j

6= 0 per ogni j), facilmente ortonormalizzabile, `e il sistema di funzioni trigonometriche

1, cos  2πnt b − a



, sin  2πnt b − a



, n = 1, 2, . . . .

∗Ultima revisione: 7 novembre 2011

†Dipartimento di Matematica Pura ed Applicata, Universit´a degli Studi di Padova, stanza 419, via Trieste 63, 35121 Padova, Italia ([email protected]). Telefono: +39-049-8271350.

1

1.1. Sull’elemento di miglior approssimazione in spazi euclidei. Nella ricerca dell’e- lemento di miglior approssimazione in spazi euclidei partiamo da un teorema in un sottospa- zio di dimensione finita. Cominciamo introducendo una generalizzazione del noto teorema di Pitagora.

T

EOREMA

1.1. Sia E uno spazio euclideo, e siano f, g ∈ E tali che (f, g) = 0 (cio`e f e g sono ortogonali ). Allora kf + gk

²

= kf k

²

+ kgk

²

.

D

IMOSTRAZIONE

. Per la dimostrazione si consideri [2, p.90]. Essendo (f, g) = 0, dalla bilinearit`a del prodotto interno,

kf + gk

²

= (f + g, f + g) = (f, f ) + (g, f ) + (f, g) + (g, g)

= (f, f ) + 0 + 0 + (g, g)

= kf k

²

+ kgk

²

(1.1)

Il teorema di Pitagora servir`a per dimostrare il seguente teorema (della proiezione ortogona- le).

T

EOREMA

1.2. Sia f ∈ E, E spazio euclideo e {φ

j

}

1,...,N

un sistema finito di elementi di E linearmente indipendenti. Allora la soluzione del problema

kf − f

^∗

k

2

= min

g∈

span

{φ}_1,...,N

kf − gk

2

`e

f

^∗

= X

1,...,N

c

^∗_j

φ

j

dove i coefficienti c

^∗_j

verificano le cosidette equazioni normali

N

X

k=1

(φ

j

, φ

k

)c

^∗_k

= (φ

j

, f ), j = 1, . . . , N.

La soluzione `e caratterizzata dalla propriet`a di ortogonalit`a cio`e che f

^∗

− f `e ortogonale a tutti gli φ

k

, con k = 1, . . . , n, cio`e

(f

^∗

, φ

k

) = (f, φ

k

), k = 1, . . . , n. (1.2) Un caso importante `e quello in cui {φ

j

}

j=1,...,N

`e un sistema ortogonale, cio`e

(φ

j

, φ

k

) = c

j

δ

j,k

, c

j

6= 0,

dove al solito δ

j,k

denota il delta di Kronecker; allora i coefficienti c

^∗_j

(detti in questo caso di Fourier ) sono calcolabili pi`u semplicemente con la formula

c

^∗_j

= (f, φ

j

)

(φ

j

, φ

j

) , j = 1, . . . , N.

D

IMOSTRAZIONE

. La dimostrazione `e tratta da [2, p.92]. Supponiamo f

^∗

− f sia or-

togonale a tutti i φ

k

. Sia c = (c

k

)

1,...,N

, una vettore di coefficienti e supponiamo che per

almeno un indice j sia c

j

6= c

^∗_j

, cio`e c 6= c

^∗

= (c

^∗_k

)

1,...,N

. Allora

N

X

j=1

c

j

φ

j

− f =





N

X

j=1

c

j

φ

j

− f

^∗



 + (f

^∗

− f )

=

N

X

j=1

(c

j

− c

^∗_j

)φ

j

+ (f

^∗

− f ) (1.3)

Se u = f

^∗

− f `e ortogonale a tutti i φ

j

, allora `e ortogonale pure alla combinazione lineare di φ

j

come ad esempio

v =

N

X

j=1

(c

j

− c

^∗_j

)φ

j

=

N

X

j=1

c

j

φ

j

− f

^∗

∈ span {φ

k

}

k=1,...,N

.

Dal teorema di Pitagora, poich`e (u, v) = 0 implica ku + vk

²

= kuk

²

+ kvk

²

, da k P

N j=1

(c

j

− c

^∗_j

)φ

j

k > 0 poich`e c 6= c

^∗

abbiamo

k

N

X

j=1

c

j

φ

j

− f k

²

= k





N

X

j=1

c

j

φ

j

− f

^∗



 + (f

^∗

− f )k

²

= k

N

X

j=1

c

j

φ

j

− f

^∗

k

²

+ kf

^∗

− f k

²

= k

N

X

j=1

(c

j

− c

^∗_j

)φ

j

k

²

+ kf

^∗

− f k

²

> kf

^∗

− f k

²

(1.4)

Di conseguenza se f

^∗

∈ span{φ

k

}

k=1,...,N

e f

^∗

− f `e ortogonale a tutti i φ

k

allora f

^∗

`e la miglior approssimazione di f in span{φ

k

}

k=1,...,N

. Rimane allora da mostrare che le condizioni di ortogonalit`a





N

X

j=1

c

^∗_j

φ

j

− f, φ

k



 = 0, k = 1, . . . , N

possano essere soddisfatte per un qualche c

^∗

= (c

j

)

j=1,...,N

. Questo problema `e equivalente alla soluzione del sistema di equazioni normali

N

X

k=1

(φ

j

, φ

k

)c

^∗k

= (φ

j

, f ), j = 1, . . . , N (1.5)

Se φ

1

, . . . , φ

N

sono N vettori linearmente indipendenti che formano un sistema ortogonale, si ha che

N

X

k=1

(φ

j

, φ

k

)c

^∗_k

= (φ

j

, φ

j

)c

^∗_j

3

e quindi da (1.5) che

(φ

k

, φ

k

)c

^∗_k

= (φ

k

, f ).

Visto che (φ

k

, φ

k

) 6= 0 (se cos`ı non fosse 0 = (φ

k

, φ

k

) = kφ

k

k

²

avremmo φ

k

= 0 e quindi {φ

j

}

j=1,...,N

non sarebbe un sistema di vettori linearmente indipendenti) si vede subito che (c

^∗_k

)

k

esistono unici e uguali a

c

^∗_k

= (φ

k

, f ) (φ

k

, φ

k

) .

Se invece φ

1

, . . . , φ

N

non formano un sistema ortogonale, il sistema di equazioni normali ha una e una sola soluzione se il sistema omogeneo di equazioni

N

X

k=1

(φ

j

, φ

k

)c

^∗_k

= 0, j = 1, . . . , N (1.6)

ha la sola soluzione nulla. Se cos`ı non fosse, esisterebbe c

^∗

= (c

j

)

j=1,...,N

per cui da (1.6)

k

N

X

j=1

c

j

φ

j

k

²

=





N

X

j=1

c

j

φ

j

,

N

X

k=1

c

k

φ

k





=

N

X

k=1

c

k N

X

j=1

c

j

(φ

j

, φ

k

)

=

N

X

k=1

c

k

· 0

= 0 (1.7)

e quindi essendo k · k una norma, necessariamente P

N

j=1

c

^∗_j

φ

j

= 0, il che contraddice il fatto che i φ

k

erano linearmente indipendenti.

Osserviamo subito che se una base ortogonale `e a disposizione allora il calcolo della miglior approssimazione non richiede la soluzione del sistema delle equazioni normali bensi’ il solo calcolo di alcuni prodotti interni e N divisioni. Inoltre si noti che se {φ

k

}

k=1,...,N

`e un sistema ortogonale, allora i coefficienti di Fourier c

^∗_j

sono independenti da N col vantaggio che se `e necessario aumentare il numero totale di parametri c

^∗_j

, non `e necessario ricalcolare quelli precedentemente ottenuti.

1.2. Facoltativo: Sui sistemi ortogonali. Al momento non abbiamo detto nulla riguar- do una possibile base dello spazio euclideo E. E cosa serve richiedere perch`e abbiano car- dinalit`a numerabile? In tal caso, esistono delle basi da preferire, come per esempio quelle ortonormali?

Riguardo a queste questioni, si pu `o provare che ogni spazio euclideo separabile (cio`e che contiene un sottinsieme S ⊆ X denso e numerabile, cf. [5, p.48])), ha una base ortonormale finita o numerabile.

Inoltre vale il seguente teorema detto di ortogonalizzazione , basato sull’algoritmo di Gram-Schmidt

T

EOREMA

1.3. Siano f

1

, . . . , f

n

, . . . un insieme numerabile di elementi linearmente in- dipendenti di uno spazio euclideo E. Allora E contiene un insieme di elementi {φ

k

}

k=1,...,n,...

tale che

1. il sistema {φ

n

} `e ortonormale (cio`e (φ

m

, φ

n

)=δ

m,n

, dove δ

m,n

`e il delta di Kronec- ker);

2. ogni elemento φ

n

`e una combinazione lineare di f

1

, . . . , f

n

; 3. ogni elemento f

n

`e una combinazione lineare di φ

1

, . . . , φ

n

. Si osservi che

• l’insieme di partenza f

1

, . . . , f

n

, . . . non deve essere necessariamente finito, come di solito viene spesso richiesto nell’algoritmo di ortogonalizzazione di matrici;

• l’insieme φ

1

, . . . , φ

n

, . . . non deve essere necessariamente finito;

• se lo spazio euclideo ha una base numerabile formata da elementi linearmente indi- pendenti f

1

, . . . , f

n

, . . ., allora ha pure una base ortonormale.

Alcune definizioni:

D

EFINIZIONE

1.4. I numeri

c

k

= (x, φ

k

), k = 1, 2, . . . sono detti coefficienti di Fourier rispetto il sistema {φ

k

}.

D

EFINIZIONE

1.5. Se {φ

k

} `e un sistema ortonormale di E, f ∈ E, la serie (formale)

+∞

X

k=1

c

k

φ

k

`e chiamata serie di Fourier di f .

1.3. Facoltativo: Sull’elemento di miglior approssimazione in spazi euclidei. Viene naturale chiedersi quali propriet`a ha l’elemento di miglior approssimazione, e cosa bisogna assumere perch`e la serie di Fourier di f converga a f . In parte risponde il seguente teorema, detto di Bessel

T

EOREMA

1.6. Dato un sistema ortonormale φ

1

, . . . , φ

n

, . . . in uno spazio euclideo E, sia f ∈ E. Allora l’espressione

kf −

n

X

k=1

a

k

φ

k

k ha il minimo per

a

k

= c

k

= (f, φ

k

), k = 1, 2, . . . , n ed `e uguale a

kf k

²

−

n

X

k=1

c

²_k

.

Inoltre vale la disuguaglianza di Bessel

∞

X

k=1

c

²_k

≤ kf k

²

.

Osserviamo che

5

• la serie nella disuguaglianza di Bessel ha un insieme numerabile di termini;

• la soluzione al problema di miglior approssimazione in norma k · k esiste ed `e unica:

per ottenerla basta calcolare i coefficienti di Fourier; questo punto `e fondamentale perch`e dice costruttivamente come calcolare l’elemento di miglior approssimazione.

D

EFINIZIONE

1.7. Supponiamo che valga l’uguaglianza di Parseval

∞

X

k=1

c

²_k

= kf k

²

per ogni f nello spazio euclideo E. Allora il sistema {φ

k

} si dice chiuso .

D

EFINIZIONE

1.8. Un sistema ortogonale (o ortonormale) {φ

k

}

k=1,...,n,...

`e completo quando il pi`u piccolo sottospazio di E contenente {φ

k

}

k=1,...,n,...

`e l’intero spazio E. Un tale sistema `e detto base ortogonale (ortonormale) .

Si possono dimostrare i seguenti ed importanti teoremi

T

EOREMA

1.9. Un sistema ortonormale {φ

k

}

k=1,...,n,...

in uno spazio euclideo `e chiuso se e solo se ogni elemento f ∈ E `e la somma della sua serie di Fourier.

T

EOREMA

1.10. Se un sistema ortonormale {φ

k

}

k=1,...,n,...

`e completo allora {φ

k

}

k=1,...,n,...

`e chiuso e viceversa.

A questo punto abbiamo capito che se uno spazio euclideo E ha un sistema ortonormale chiuso (o equivalentemente completo) allora la serie di Fourier di un elemento f di E coincide con f stesso.

RIFERIMENTI BIBLIOGRAFICI

[1] K. Atkinson, An Introduction to Numerical Analysis, Wiley, (1989).

[2] G. Dahlquist e A. Bjorck , Numerical methods, Dover, (2003).

[3] G. Gilardi Analisi Due, seconda edizione, McGraw-Hill, (1996).

[4] D.H. Griffel,Applied functional analysis, Dover publications, 2002.

[5] A.N. Kolmogorov e S.V. Fomin,Introductory Real Analysis, Dover publications, 1970.

[6] A. Quarteroni, R. Sacco e F. Saleri Matematica Numerica, Springer, (1998).