Einf¨ uhrung in die Optimierung

Einf¨ uhrung in die Optimierung

Fr¨uhjahrsemester 2011 Prof. Dr. H. Harbrecht

Ubungsblatt 4. ¨

Aufgabe 1. (Trust-Region-Verfahren I)

SeiF(x) := ¹₂x^TAx+b^Txmitb∈Rⁿ und einer symmetrischen Matrix A∈R^n×n. Zu F und dem Trust-Region-Radius ∆>0 geh¨ort das Trust-Region-Problem

min{F(x) | kxk₂ ≤∆}.

Seix^? die zugeh¨orige Optimall¨osung. Betrachten Sie die Bedingungen (i) λ^? ≥0,kx^?k₂≤∆,λ^?(∆− kx^?k₂) = 0,

(ii) (A+λ^?I)x^? =−b,

(iii) A+λ^?I ist positiv semidefinit.

Zeigen Sie:

a) Fallskx^?k₂<∆ gilt, so erf¨ullenx^? und λ^?= 0 die Bedingungen (i)–(iii).

b) Seikx^?k₂ = ∆ undv∈Rⁿ mitkv+x^?k₂≤∆. Dann gilt (b+Ax^?)^Tv≥0.

(4 Punkte) Aufgabe 2. (Trust-Region-Verfahren II)

Zeigen Sie (i)–(iii), fallskx^?k₂= ∆ gilt.

(4 Punkte) Aufgabe 3. (Optimierungsverfahren unter affiner Transformation)

Sei F : Rⁿ → R zweimal stetig differenzierbar. Zudem existiere ein x ∈ Rⁿ, so dass

∇²F(x) positiv definit ist. Sei ferner M ∈ R^n×n invertierbar und v ∈ Rⁿ. Die neue Iteriertex⁺=x+dberechne sich wie folgt:

1. Wechsel des Koordinatensystems x=x(y) :=My+v.

2. Gradientenschritt im

”y“-Koordinatensystem:y⁺:=y− ∇_yF(x(y)).

3. R¨ucktransformation auf

”x“-Koordinaten:x⁺ =x(y⁺).

a) Geben Sie eine Formel f¨urd an, die lediglich vonM und ∇F(x) abh¨angt.

b) Wie istMzu w¨ahlen, damit es sich beidum einen Gradientenschritt f¨urF im Punkt xhandelt? F¨ur welcheM entsprichtd einem Newton-Schritt im Punktx?

(4 Punkte)

Aufgabe 4. (Newton-Verfahren)

Sei f(x) = −¹₄x⁴. Zeigen Sie, dass das Newton-Verfahren (Algorithmus 3.1) f¨ur jeden beliebigen Startwert x₀ ∈Rgegen das eindeutige Maximum x^? = 0 konvergiert.

(4 Punkte)