Ubungen zur Vorlesung ¨

Technische Universit¨at Darmstadt Fachbereich Mathematik

Prof. Dr. S. Ulbrich

Wintersemester 2009/10 Blatt 4

Ubungen zur Vorlesung ¨

Nichtglatte Optimierung und Anwendungen

G10. Duales Problem des regularisierten Schnittebenenmodells

Zeigen Sie:

a) (s^k, ξ^k)ist genau dann L¨osung von

s∈minRⁿ,ξ∈R

ξ+ 1

2γ_kksk² u.d.N. g^{j T}s−α^k_j −ξ ≤0, j ∈J_k, (1) wenn die KKT-Bedingungen gelten, d.h. wenn esλ^k_j ∈R,j∈J_k, gibt mit

1

γ_ks^k+X

j∈Jk

λ^k_jg^j = 0,

X

j∈Jk

λ^k_j = 1, (2)

g^{j T}s^k−α_j^k−ξ^k≤0, λ^k_j ≥0, λ^k_j(g^{j T}s^k−α^k_j −ξ^k) = 0, j ∈J_k. b) Der Vektorλ^kist genau dann L¨osung des Problems

minλ

γ_k 2

X

j∈J_k

λjg^j

2

+ X

j∈J_k

λjα^k_j

u.d.N. X

j∈J_k

λ_j = 1, λ_j ≥0, j ∈J_k,

(3)

wenn die KKT-Bedingungen gelten. Weiter ist(λ^k, µ^k, ξ^k) ∈ R^|Jk|×R^|Jk|×Rgenau dann ein KKT-Tupel von (3), wenn (2) f¨ur

s^k=−γ_k X

j∈Jk

λ^k_jg^j, (4)

erf¨ullt ist und zus¨atzlich gilt:

µ^k_j =−g^{j T}s^k+α^k_j +ξ^k, j ∈J_k. (5) gilt.

c) Seiλ^keine L¨osung von (3). Dann istλ^kauch L¨osung des folgenden Problems:

minλ

γ_k 2

X

j∈J_k

λjg^j

2

u.d.N. X

j∈J_k

λ_j = 1, λ_j ≥0, j ∈J_k, X

j∈J_k

λ_jα^k_j ≤ε_k

(6)

mit

ε_k= X

j∈Jk

λ^k_jα^k_j. (7)

d) Seiλ^keine L¨osung von (3) unds^k =−γ_kP

j∈J_kλ^k_jg^j =:−γ_kv^k. Dann gilt v^k=P_Gk

εk(0), wobeiε_k =P

j∈Jkλ^k_jα^k_j und G^k_ε =





 X

j∈J_k

λjg^j : X

j∈J_k

λjα^k_j ≤ε, X

j∈J_k

λj = 1, λj ≥0, j ∈Jk







. (8)

G11. Lagrange-Duales nichtlinearer Optimierungsprobleme Betrachte das nichtlineare Optimierungsproblem

minf(x) u.d. NB c(x)≤0. (NLP)

Die zugeh¨orige Lagrange-Funktion ist

L(x, λ) =f(x) +λ^Tc(x).

DasLagrange-Duale Problemzu (NLP) ist

maxλ d(λ) u.d. NB λ≥0. (DP)

mitd(λ) = infx∈RⁿL(x, λ). Die Probleme (NLP) und (DP) haben denselben Optimalwert genau dann, wenn die Lagrange-Funktion einen Sattelpunkt besitzt.

a) Zeigen Sie, dass (DP) als konvexes nichtglattes Optimierungsproblem schreiben kann.

b) Wie kann man einen Subgradienten fr Ihr Problem aus a) berechnen?

G12. Bundle-Verfahren

Wenden Sie das Bundle-Verfahren mitη = 0,1,γ = 1und= 0auf das folgende Problem an und veranschaulichen Sie sich den Lauf grafisch:

min f(x) u.d.N. 0≤x≤8 mitf(x) = max{4−x,3−x/2, x−3}undx⁰ = 0.

***** Frohe Weihnachten und Alles Gute f ¨ur das Neue Jahr! *****