1 Francesca Mazzia Dipartimento Interuniversitario di Matematica Universit`a di Bari MATLAB: Problema dei minimi quadrati Consideriamo il sistema linere Ax = b con A ∈ R

1

Francesca Mazzia

Dipartimento Interuniversitario di Matematica Universit` a di Bari

MATLAB: Problema dei minimi quadrati

Consideriamo il sistema linere Ax = b con A ∈ R

, di rango k e n > k, x ∈ R

e b vettore di m componenti. Sappiamo che se il rango di [Ab] ` e maggiore di k il sistema non ammette soluzioni. Possiamo risolvere questo problema trovando la soluzione ai minimi quadrati, quella per cui la norma 2 di Ax − b `e pi`u vicina a 0 (si dice che x minimizza il residuo). Moltiplichiamo il sistema Ax = b per A

otteniamo un nuovo sistema:

A

Ax = A

b

la matrice A

A ` e non singolare poich` e la matrice A ha rango k, quindi possiamo trovare la soluzione del sistema calcolando la pseudo inversa di A, cio` e la matrice (A

A)

A

con la funzione pinv:

A

Ax = A

b = ⇒ x = (A

A)

A

b

Un altro modo per calcolare la soluzione ` e risolvere il sistema lineare usando la fattorizzazione di Cholesky della matrice:

(A

A)

.

Esempio:

2

>> A= [9 9 8

7 4 0

1 8 1

4 0 2

9 3 1]

A =

9 9 8

7 4 0

1 8 1

4 0 2

9 3 1

>> rank(A) ans =

3

>> b = [1 2 3 4 5]’

b = 1 2 3 4 5

>> rank([A,b]) ans =

4

3 Possiamo trovare la soluzione ai minimi quadrati usando

>> x = A\b x =

4.5008e-01 1.5033e-01 -4.1406e-01

La stessa soluzione si trova usando la pseudo inversa:

>> x=pinv(A)*b x =

4.5008e-01 1.5033e-01 -4.1406e-01

Controlliamo cosa calcola pinv:

>> pinv(A) - inv(A’*A)*A’

ans =

-3.4694e-18 2.0817e-17 6.9389e-17 -2.4286e-17 1.3878e-17 1.0625e-17 -3.4694e-17 -1.3878e-17 0 1.3878e-17 0 4.1633e-17 -8.3267e-17 4.8572e-17 -4.1633e-17 Il problema pu` o essere risolto utilizzando la fattorizzazione di Cholesky della matrice A

A:

>> R = chol(A’*A) R =

1.5100e+01 9.5366e+00 5.9604e+00 0 8.8912e+00 2.9420e+00

0 0 5.0812e+00

>> x = R\(R’\(A’*b)) x =

4.5008e-01

4

1.5033e-01 -4.1406e-01

Esercizio: Trovare la soluzione ai minimi quadrati del seguente sistema lineare Ax = b con:

>>A =[ 6 7

2 4

1 9

0 4];

>>b =[ 1;2;3; 4];

usando pinv e chol.