Vorgelegt sei das lineare (rangdefiziente) Kleinste-Quadrate-Problem kb − Axk

(1)

Fakultät für Mathematik und Informatik 17. Dezember 2013 TU Bergakademie Freiberg

Dr. M. Helm, Dr. A. Franke-Börner

Numerik linearer und nichtlinearer Parameterschätzprobleme Regularisierung, restringierte Probleme

Aufgabe 1

Vorgelegt sei das lineare (rangdefiziente) Kleinste-Quadrate-Problem kb − Axk

2

→ min!

mit

A =





1.0 2.0 2.0 4.0 3.0 6.0



 und b =



 1.0 2.1 2.9



 .

a) Geben Sie die Menge der Lösungen x

^Q

des Kleinste-Quadrate-Problems und die Normallö- sung x

^N

an!

b) Welche Lösungen x

^N

(α) ergeben sich für das regularisierte Kleinste-Quadrate-Problem mit verschiedenen Regularisierungsparametern α = 1, 0.1, 0.01, ...? Berechnen Sie kx

^N

(α)k

2

, kb−

Ax

^N

(α)k

₂

sowie kx

^N

k

₂

, kb − Ax

^N

k

₂

!

c) Zu jedem ω mit 0 < ω ≤ kx

^N

k

2

gibt es genau ein α = α(ω) ≥ 0 mit kx

^N

(α)k

2

= ω, und x

^N

ist eindeutige Lösung der Aufgabe

kb − Axk

2

→ min! bei kxk

2

≤ ω.

Geben Sie speziell für ω = 0.15 das zugehörige α an!

Aufgabe 2

Betrachtet werden soll das lineare gleichungsrestringierte Kleinste-Quadrate-Problem kb − Axk → min! bei Bx = d

mit

A =

0.4302 0.3516 0.6246 0.3384

und b =

0.6593 0.9666

sowie

B =

0.4087 0.1593

und d = 0.1376

.

a) Die Lösung des gleichungsrestringierten Kleinste-Quadrate-Problems ist eindeutig bestimmt.

Begründen Sie diese Aussage!

b) Berechnen Sie die Lösung

i) mit der Methode der direkten Elimination,

ii) näherungsweise mit der Methode der Wichtung unter Verwendung unterschiedlicher

Gewichte γ = 10

¹

, 10

²

, 10

³

, ..., 10

¹⁶

!

(2)

Regularisierung, restringierte Probleme 2 Vergleichen Sie die Ergebnisse beider Methoden!

Aufgabe 3

Vorgelegt sei das lineare gleichungsrestringierte Kleinste-Quadrate-Problem kb − Axk → min! bei Bx = d

mit

A =







1.0 1.0 1.0 1.0 3.0 1.0 1.0 −1.0 1.0 1.0 1.0 1.0







und b =





 1.0 2.0 3.0 4.0







sowie

B =

1.0 1.0 1.0 1.0 1.0 −1.0

und d = 7.0

4.0 .

Die exakte Lösung ist x =

5.75, −0.25, 1.50

^T

.

a) Berechnen Sie die Lösung näherungsweise mit der Methode der Wichtung i)

γd b

− γB

A

x

₂

→ min!

beziehungsweise ii)

b γd

− A

γB

x

₂

→ min!

unter Verwendung unterschiedlicher Gewichte γ = 10

¹

, 10

²

, 10

³

, ..., 10

¹⁶

! Die freien Minimie- rungsprobleme sind über die Normalgleichungen bzw. über eine QR-Zerlegung zu berechnen.

b) Vergleichen Sie die Ergebnisse der verschiedenen Methoden jeweils mit der exakten Lösung!