Alvise Sommariva Universit`a degli Studi di Padova
Il problema ai minimi quadrati
Definizione (Spazio di Hilbert)
Unospazio di Hilbert`e uno spazio euclideo che `e completo,
separabile,
infinito dimensionale (cf. [7, p.155]).
Nota.
Al variare del testo la definizione di spazio di Hilbert pu`o essere leggermente diversa, ad esempio uno spazio di Hilbert `e uno spazio euclideo completo (cf. [2]).
Esempio
Consideriamo lo spazio normato delle funzioni reali misurabili (cf. [7, p.284]) quadrato integrabili(L2(a, b), k · k
2) dove (a, b) `e un intervallo della retta reale, non necessariamente limitato (cf. [7, p.386], ricordando [7, p.308]), e
kg k22 = (g , g ), (f , g )2 = Z b
a
f (x ) · g (x ) dx .
Il problema ai minimi quadrati
Esempio
Pi`u in generale se w : (a, b) → R `e una funzione misurabile positiva allora lo spazio (L2w(a, b), k · k2,w) definito come
L2w(a, b) = f misurabili t.c. Z b a |f (x)|2w (x ) dx < ∞ `
e unospazio di Hilbert dotato del prodotto scalare
(f , g )2,w = Z b
a
f (x ) · g (x ) w (x ) dx
(cf. [2, p.23]).
Definizione (Funzione peso)
Supponiamo sia w : (a, b) → R una funzione tale che
w `enonnegativa, con (a, b) non necessariamente limitato, Rb
a |x|
nw (x ) dx < +∞ per tutti gli n ∈ N; Rb
a g (x ) w (x ) dx = 0 per qualche funzione continua e non negativa g implica g ≡ 0 in (a, b).
Polinomi ortogonali
Esempio
Le funzionipesopi`u comuni sono (cf. [1, p.206]) 1 w (x ) = 1 con x ∈ [−1, 1] (peso diLegendre); 2 w (x ) = √1
1−x2 con x ∈ (−1, 1) (peso diChebyshev));
3 w (x ) = (1 − x2)γ−(1/2) con x ∈ (−1, 1), γ > (−1/2) (peso di Gegenbauer));
4 w (x ) = (1 − x )α· (1 + x)β con x ∈ (−1, 1), α > −1, β > −1 (peso di Jacobi));
5 w (x ) = exp (−x ) con x ∈ (0, +∞) (peso di Laguerre)); 6 w (x ) = exp (−x2) con x ∈ (−∞, +∞) (peso diHermite);
Teorema
Lo spazio vettoriale L2w(a, b) contiene lo spazio dei polinomi Pn di grado n (con n ∈ N arbitrario).
Dimostrazione.
Infatti, se pn(x ) = Pn
k=0akxk allora per la disuguaglianza triangolare e il fatto che per ogni k si ha
Il problema ai minimi quadrati
Nota.
Si osservi che se ”a” e ”b” sono finiti, dal teorema di Weierstrass kxnk∞= max x ∈[a,b] |x|n< +∞ ricordando che w ≥ 0, Z b a |x|nw (x ) dx ≤ kxnk ∞ Z b a w (x ) dx da cui se Z b a w (x ) dx < +∞ automaticamente, per tutti gli n ∈ N,
Z b a
|x|nw (x ) dx < +∞.
Problema.
Fissati
f ∈ L2w((a, b)), n ∈ N,
il problema ai minimi quadrati (nel continuo) consiste nel determinare il polinomio pn∗ di grado n tale che sia minima la quantit`a (cf. [1, p.204-207]) kf − pnk22,w = Z b a |f (x) − pn(x )|2w (x ) dx per pn∈ Pn. Nota.
Si pu´o dimostrare che se a, b sono finiti e f ∈ C ([a, b]), allora kf − p∗
Il problema ai minimi quadrati
Essendo L2w([a, b]) uno spazio euclideo, e (φk)k=0,...,n una base di Pn, abbiamo visto che la soluzione del problema
kf − f∗k2,w = min
g ∈span{φ0,...,φn}kf − g k2,w `ef∗=Pn
j =0γj∗φj dove i coefficienti γ∗j verificano le cosidette equazioni normali
n
X
k=0
(φj, φk)2,wγk∗= (φj, f )2,w, j = 0, . . . , n.
La soluzione `e caratterizzata dalla propriet`a di ortogonalit`a cio`e che f∗− f `e ortogonale a tutti gli φk, con k = 1, . . . , n, ovvero
(f , φk)2,w = (f∗, φk)2,w, k = 0, . . . , n
Definizione (Polinomi ortogonali)
Una famigliatriangolaredi polinomi {φk}k=0,...,n (cio`e tale che deg(φk) = k) si dice ortogonale rispetto alla funzione peso w nell’intervallo di riferimento se e solo se
(φi, φj)2,w = ciδi ,j, i , j = 0, . . . , n con
Facoltativo, Polinomi ortogonali, nota storica.
Nota.
I polinomi ortogonali erano noti a Legendre, Laplace (1810) e a Jacobi (1826), che utilizzando questi ultimi mostr´o l’esistenza delle formule gaussiane in [−1, 1], per w (x ) = 1 (peraltro gi´a nota a Gauss nel 1814). Il nome polinomi ortogonali fu probabilmente coniato da Schmidt nel 1905.
Il peso di Jacobi w (x ) = (1 − x )α· (1 + x)β
con x ∈ (−1, 1), α > −1, β > −1 fu introdotto da Jacobi nel 1859 e successivamente studiato da Mehler nel 1864 in ambito di quadratura numerica.
La funzione peso di Laguerre fu introdotta da quest’ultimo nel 1879, mentre quella di Hermite nel 1864, ma gi´a nota ad altri come Lagrange (1762), Abel (1826), Murphy (1835), Chebyshev (1859) e i polinomi di Hermite utilizzati da Laplace (1810).
Si pu`o dimostrare
usando la procedura di Gram-Schmidt che una tal famiglia triangolare di polinomi esiste e con la stessa procedura costruirla direttamente;
inoltre `e immediato osservare che ogni polinomio di grado n si pu`o scrivere univocamente come combinazione linearedi φ0, . . . , φn.
Di conseguenza se pm =Pmk=0akφk, m < n, allora per la bilinearit`a del prodotto scalare (·, ·)2,w
Polinomi ortogonali
Inoltre (cf. [4, p.978], [1, p.213])
Teorema (Zeri di polinomi ortogonali, Christoffel 1877)
Sia {φk}k=0,...,n una famiglia triangolare di polinomi ortogonali in (a, b) rispetto ad una funzione peso ”w ”. Allora gli zeri del polinomio ortogonale φn
sono esattamenten, hanno molteplicit`a 1,
appartengono all’intervallo aperto (a, b).
Dimostrazione.
Siano x1, . . . , xm (con m ≤ n) tutti e soli gli zeri di φn interni ad (a, b) con molteplicit`a rispettivamente α1, . . . , αm.
Di conseguenza, per qualche numero an abbiamo
φn(x ) = an m Y k=1 (x − xk)αk ! r (x ) avendo suppostoQm
k=1(x − xk)αk ≡ 1 se non ci sono zeri interni ad (a, b).
Polinomi ortogonali
Consideriamo il polinomio di grado al pi`u n
q(x ) = m Y k=1 (x − xk)mod2(αk) ! .
Se uno zero di φn ha molteplicit`a dispari ma maggiore di 1 allorail
grado di q `e minore di n(causa il mod2(αk)).
Se uno zero di φn ha molteplicit`a pari allorail grado di q `e minore
di n(causa il mod2(αk)).
Se uno zero di φn non `e in (a, b) allora il grado di q `e minore di n
(visto che il grado di r sarebbe maggiore o uguale a 1).
Qualsiasi sia un numero naturale, αk+ mod2(αk) `e un numero pari.
Seper assurdo q ∈ Pn−1, poich`e φn(x ) = an Qmk=1(x − xk)αk r (x) q(x ) =Qm k=1(x − xk)mod2(αk) abbiamo φn(x )q(x ) = an m Y k=1 (x − xk)αk+mod2(αk) ! r (x ) ha segno costante e grado almeno n,
non coincide col polinomio nullo, abbiamo una contraddizione in quanto
Polinomi ortogonali
Nota.
Potrebbe venire il dubbio superch`e qualche zero non possa essere ”a” o ”b”.
Nella dimostrazione avrebbe quale unico effetto che r si annulla in ”a” o ”b”, rimanendo di segno costante in (a, b).
La conclusione `e che il polinomio ortogonale pnha n radici distinte e semplici, interne ad (a, b).
Definizione (Polinomio monico)
Un polinomio pn(x ) =Pnk=0akxk si dicemonicose an= 1.
Teorema (Ricorsione a 3 termini (Christoffel 1877, Darboux 1878, Stieltjes 1884))
Sia {φk}k=0,...,n una famiglia triangolare di polinomi moniciin (a, b) e
ortogonali rispetto ad una funzione peso w .
Si supponga φ−1(x ) = 0, φ0(x ) = 0, Allora per n ≥ 1
Polinomi ortogonali
Nota.
Notiamo che
scelti i polinomi ortogonali φ0 e φ1, la procedura determina la famiglia triangolare di polinomi ortogonali di grado superiore, non appena sono disponibili i coefficienti αk, βk, γk.
Se φn`e tale che (φn, φk)= 0 per k = 0, . . . , n − 1 allora per τ 6= 0 pure ˜φn= τ φn`e tale che
( ˜φn, φk) = (τ φn, φk) = τ (φn, φk) = 0, k = 0, . . . , n − 1 e quindi potrebbe essere considerato quale polinomio ortogonale di grado n.
Nota.
Il caso in cui il polinomio ˆφn+1 richiesto sia in forma ortonormale deriva
da quello del caso monico. Infatti se γ0=
Rb
a w (x )dx e il polinomio ortogonale monico `e
φn+1(x ) = (x − βn)φn(x ) − γnφn−1(x )
allora
kφn+1k22,w = γ0· . . . · γn
da cui `e possibile ottenere facilmente ˆ
φn+1=
φn+1
kφn+1k2,w
Polinomi ortogonali
K. Atkinson, An Introduction to Numerical Analysis, Wiley, (1989).
K. Atkinson e W. Han, Theoretical Numerical Analysis, A Functional Analysis Framework, Springer, (2001). D. Bini, M. Capovani e O. Menchi , Metodi numerici per l’algebra lineare, Zanichelli, (1993).
V. Comincioli, Analisi Numerica, metodi modelli applicazioni , McGraw-Hill, (1990). G. Dahlquist e A. Bjorck, Numerical methods, Dover, (2003).
W. Gautschi, Orthogonal Polynomials, Computation and Approximation, Oxford University Press, (2004). A.N. Kolmogorov e S.V. Fomin, Introductory Real Analysis, Dover publications, 1970.