Technische Universit¨at Darmstadt Fachbereich Mathematik
Prof. Dr. S. Ulbrich
Wintersemester 2009/10 Blatt 2
Ubungen zur Vorlesung ¨
Nichtglatte Optimierung und Anwendungen
G4. Subgradienten und Abstiegsrichtungen
Seif :X → Rkonvex auf der offenen konvexen MengeX ⊂ Rn undx ∈X beliebig. Sei H⊂Rneine Hyperebene durch0mit Normales. Zeigen Sie:
sist genau dann eine Abstiegsrichtung vonf inx, wenn∂f(x)∩H =∅und zudem∂f(x) vollst¨andig auf der Seite vonHliegt, in die−szeigt. Zeigen Sie weiter, dass dann gilt
f0(x, s) =−kskd(H, ∂f(x)),
wobeid(H, ∂f(x))den Abstand zwischenHund∂f(x)bezeichnet.
G5. Anwendung des Subgradientenverfahrens a) Betrachte das Problem
minx∈R
f(x)
f¨urf(x) =|x|mit L¨osungx¯= 0. Wenden Sie das Subgradientenverfahren aus Algorith- mus 2 (wegenX =RnistPX =id) an mit den Schrittweiten
i) σk= k+11 ,
ii) σk= f(xk|g)−fk|(¯x) (vgl. (2.12) aus der Vorlesung).
Berechnen Sie f¨urx0 = 2in beiden F¨allenx1, . . . , x5(solange nichtgk= 0auftritt).
b) Sei nunf(x) = (|x|+ 1)2 mit Minimumx¯= 0. Zeigen Sie, dass das Subgradientenver- fahren mit Schrittweitenwahl ii) f¨ur alle Startpunktex0∈RIteriertexkliefert mit
|xk+1−x| ≤¯ 1
2|xk−x|.¯
G6. Eigenwert-Optimierung
In zahlreichen Anwendungen tritt das Problem auf, den gr¨oßten Eigenwert einer symmetri- schen Matrix zu minimieren. Wir betrachten also die Funktion
λmax:A∈ Sn,n7→ max
kvk=1vTAv,
wobei Sn,n = {A ∈ Rn,n : A = AT} die Menge aller symmetrischen n×n-Matrizen bezeichne. Beachte hierbei, dass bei symmetrischen Matrizen die Eigenvektoren eine Ortho- gonalbasis bilden und daher tats¨achlichλmax(A) = maxkvk=1vTAvist.
Bitte wenden!
Wir versehenSn,nmit dem SkalarproduktA•B := Pn
i,j=1aijbij, wobeiA = (aij),B = (bij)(also dem euklidischen Skalarprodukt, wenn wir Matrizen alsn2-Vektoren auffassen).
a) Begr¨unden Sie, dass die Funktionλmaxkonvex ist.
b) Zeigen Sie, dass f¨ur allev∈RnundA∈ Sn,ngilt:
(vvT)•A=vTAv≤λmax(A)kvk2.
Zeigen Sie, dass Gleichheit in der rechten Ungleichung gilt, fallsvein Eigenvektor von Azuλmax(A)ist.
c) Sei nunq,kqk= 1, ein Eigenvektor zum maximalen Eigenwert vonA∈ Sn,n. Zeigen Sie, dass dannqqT ein Subgradient vonλmaxim
”Punkt“Aist, also:
λmax(B)−λmax(A)≥(qqT)•(B−A) ∀B ∈ Sn,n.
Beispielanwendung aus der Kontrolltheorie:Betrachte das Anfangswertproblem x0(t) =Ax(t) +Bu(t), x(0) =x0, t >0
mitA ∈ Rn,n,B ∈ Rn,m,m ≤ n. Hierbei seiu : [0,∞) → Rm eine Steuerfunktion und x: [0,∞)→Rnder resultierendeZustanddes Systems.
Aufgabe:Finde durch ein Eigenwertoptimierungsproblem eine Matrix K ∈ Rm,n, so dass die Feedbacksteuerung u(t) := Kx(t) die euklidische Norm kx(t)k := p
x(t)Tx(t) des Zustands m¨oglichst schnell abd¨ampft, alsodtdkx(t)k2m¨oglichst negativ wird.
Hausaufgaben:
H3. Oberhalbstetigkeit des Subdifferentials
Seif :U →Rkonvex auf der offenen konvexen MengeU ⊂Rn. a) Verwenden Sie die Subgradienten-Ungleichung, um zu zeigen: Aus
xk∈U, gk∈∂f(xk), k≥0, lim
k→∞xk=x∈U, lim
k→∞gk=g∈Rn folgtg∈∂f(x).
b) Zeigen Sie, dass∂foberhalbstetig ist, d.h.
∀x∈U, ε >0 ∃δ >0 : [
y∈Bδ(x)
∂f(y)⊂∂f(x) +Bε(0).
Das heißt: Istynahe genug beix, so liegt∂f(y)in einerε-Umgebung von∂f(x).
H4. Kompaktheit der Optimall¨osungsmenge Betrachte das Problem
minx∈Xf(x) (PX)
mitX⊂Rnnichtleer, abgeschlossen, konvex undf :Rn→Rkonvex.
Zeigen Sie, dass folgende Aussagen ¨aquivalent sind:
i) Die NiveaumengenN(ν) :={x∈X : f(x)≤ν}sind f¨ur jedesν ∈Rkompakt.
ii) Die MengeXoptder Optimall¨osungen von (PX) ist nichtleer und kompakt.