In MaI, Satz 8.24 steht die notwendige Bedingung f¨ ur eine Extremalstelle:

(1)

7.1 Extremwertaufgaben mit Nebenbedingungen

Bemerkung 7.1. Wir behandeln das Problem: Gegeben ist eine zweimal stetig differen- zierbare Funktion f : R ⁿ → R und ein stetig differenzierbares Vektorfeld g : R ⁿ → R ^m , wobei m < n. Gesucht sind Maximal-/Minimalstellen x von f , wobei g(x) = 0 (Maxi- mierungs-/Minimierungsproblem mit Nebenbedingungen):

Minimiere/Maximiere f(x) wobei g(x) = 0. (O) In MaI, Kap. 8.4 wurden Extremwertaufgaben ohne Nebenbedingungen behandelt. In den ¨ Ubungen traten auch Ungleichungsnebenbedingungen auf, wenn die Menge, ¨ uber die man minimiert oder maximiert hat, abgeschlossen war (z.B. Aufgabe 12.2). In diesem Abschnitt sind nur Gleichheitsnebenbedingungen g(x) = 0 erlaubt.

In MaI, Satz 8.24 steht die notwendige Bedingung f¨ ur eine Extremalstelle:

Wenn x 0 ∈ R ⁿ eine lokale Extremalstelle von f ist, dann ist ∇f (x 0 ) = 0

(alle Punkte x mit ∇f (x) = 0 heißen kritische Punkte). In MaI, Satz 8.26 wurden im Fall n = 1 oder n = 2 hinreichende Bedingungen zweiter Ordnung formuliert:

F¨ ur n = 1 folgt aus f ⁰⁰ (x ₀ ) < 0, dass x ₀ eine Maximalstelle ist, und aus f ⁰⁰ (x ₀ ) > 0 folgt, dass x ₀ eine Minimalstelle ist.

F¨ ur n = 2 hatten wir eine Bedingungen f¨ ur die gemischten zweiten Ableitungen (d.h., f¨ ur die Eintr¨ age der Hesse-Matrix) aufgeschrieben.

Das Ziel in diesem Abschnitt ist es

(i) Bedingungen erster und zweiter Ordnung f¨ ur Minimierungs-/Maximierungsprobleme mit Nebenbedingungen zu formulieren.

(ii) Die hinreichenden Bedingungen zweiter Ordnung aus Ma1, Satz 8.26 f¨ ur beliebige

n ∈ N zu verallgemeinern,

(2)

7 Anwendungen der Linearen Algebra

Satz 7.2. (Notwendige Bedingung erster Ordnung) Es seien f : R ⁿ → R und g : R ⁿ → R ^m stetig differenzierbar, und x ₀ ∈ R ⁿ erf¨ ulle

g(x ₀ ) = 0 (Zul¨ assigkeit), Rang(∇g(x ₀ )) = m.

Wenn x 0 eine L¨ osung des Optimierungsproblems (O) ist, dann muss

∇f (x ₀ ) ∈ L(∇g(x _o )) (K) gelten, d.h. es m¨ ussen Zahlen λ ˆ ₁ , . . . , ˆ λ _m existieren, so dass

∇f (x ₀ ) =

m

X

k=1

ˆ λ _k ∇g _k (x ₀ ).

Beispiel 7.3.

Definition 7.4. Die Funktion L : R ^n+m → R ,

L(x, λ) = L(x 1 , x 2 , . . . , x n , λ 1 , λ 2 , . . . , λ m ) = f(x) +

m

X

k=1

λ k g k (x)

heißt Lagrange-Funktion zum Optimierungsproblem (O). Punkte x ₀ ∈ R ⁿ , die zul¨ assig

sind (d.h. g(x ₀ ) = 0) und die Bedingung (K) erf¨ ullen, heißen kritische Punkte, und die

zugeh¨ origen Koeffizienten λ ₁ , . . . λ _m heißen Lagrange-Multiplikatoren von (O) in x ₀ . Die

Zahlen λ _k entsprechen jeweils − λ ˆ _k aus Satz 7.2.

(3)

Bemerkung 7.5. (i) Die Bedingungen g(x ₀ ) = 0, ∇f (x ₀ ) + P m

k=1 λ _k ∇g _k (x ₀ ) bilden ein System von n + m Gleichungen mit n + m Unbestimmten x ₀ = (x _0,1 , . . . , x _0,n ), λ = (λ ₁ , . . . , λ _m ). Diese Gleichungen sind typischerweise nicht linear!

(ii) Mit der Lagrangefunktion L(x, λ) aus Def. 7.4 kann man die notwendigen Bedin- gungen aus Satz 7.2 kompakt schreiben als

∇L(x, λ) = 0 ∈ R ^n+m .

(iii) Extremwertaufgaben ohne Nebenbedingungen sind als Spezialfall von O mit m = 0 zu verstehen. Die Bedingung aus Satz 7.2 liefert dann

∇f(x 0 ) =

0 X

k=1

λ ˆ k ∇g k (x 0 ) = 0,

und das ist genau die Bedingung aus Ma1 Satz 8.26 (s.o.).

Satz 7.6 (Hinreichende Bedingung zweiter Ordnung). Es seien f : R ⁿ → R und g : R ⁿ → R ^m zweimal stetig differenzierbar, und x ₀ ∈ R ⁿ sei ein kritischer Punkt zum Optimierungsproblem (O). Wenn die Hesse-Matrix von L bez¨ uglich x

H _L ^x (x ₀ ) =







d

²

dx

²₁

L(x ₀ , λ ₀ ) _dx ^d

²

1

dx

2

L(x ₀ , λ ₀ ) . . . _dx ^d

²

1

dx

n

L(x ₀ , λ ₀ )

d

²

dx

2

dx

1

L(x ₀ , λ ₀ ) _dx ^d

²2

2

L(x ₀ , λ ₀ ) . . . _dx ^d

²

2

dx

n

L(x ₀ , λ ₀ )

.. . .. . .. .

d

²

dx

n

dx

1

L(x ₀ , λ ₀ ) _dx ^d

²

n

dx

1

L(x ₀ , λ ₀ ) . . . _dx ^d

²2

n

L(x ₀ , λ ₀ )







positiv definit ¨ uber dem Raum U = Ker(∇g(x ₀ ) ^> ) ist, dann ist x ₀ ein striktes lokales Minimum von f, wenn sie negativ definit ¨ uber U ist, dann ist x 0 ein striktes lokales Maximum von f, und wenn sie indefinit ¨ uber U ist, dann liegt in x ₀ kein Extremum vor.

Beispiel 7.7.

Bemerkung 7.8. Die Bedingungen aus Satz 7.6 liefern f¨ ur m = 0 und n = 1 bzw. n = 2

genau die Bedingungen aus MaI Satz 8.26.

(4)

7 Anwendungen der Linearen Algebra

7.2 Systeme linearer Differentialgleichungen 1. Ordnung mit konstanten Koeffizienten

Definition 7.9. Gegeben sind n ∈ N , ein Zeitintervall I ⊂ R , eine Matrix mit Koef- fizientenfunktionen A(t) = (a _ij (t)), und ein Vektorfeld h(t) ∈ K ⁿ (t ∈ I). Ein System linearer Differentialgleichungen erster Ordnung oder lineares Differentialgleichungssy- stem hat die Form

y ⁰ (t) = A(t)y(t) + h(t), (S)

wobei die gesuchte L¨ osung y(t) = (y ₁ (t), y ₂ (t), . . . , y _n (t)) ein Vektor mit n Komponenten ist. Das System heißt homogen, falls h(t) = 0 ist, und mit konstanten Koeffizienten, wenn alle Koeffizientenfunktionen konstant in t sind, d.h., A(t) = A h¨ angt nicht von t ab.

Beispiel 7.10.

Satz 7.11. Die L¨ osungsmenge eines linearen homogenen Differentialgleichungssystems mit n Gleichungen und konstanten Koeffizienten ist ein Vektorraum der Dimension n, und besitzt somit eine Basis B = {b ₁ (t), b ₂ (t), . . . , b _n (t)}. Eine solche Basis heißt Fun- damentalsystem der Differentialgleichung.

Satz 7.12. (i) Ist λ ∈ R ein Eigenwert von A und v ein zugeh¨ origer Eigenvektor, so ist b(t) = e ^λt v eine L¨ osung von y ⁰ (t) = Ay(t).

(ii) Ist λ = α +βi ∈ C ein Eigenwert von A und v = a+bi ein zugeh¨ origer Eigenvektor, dann sind b 1 (t) = e ^αt (cos(βt)a − sin(β)b) und b 2 (t) = e ^αt (cos(βt)a + sin(β)b) zwei linear unabh¨ angige reelle L¨ osungen von y ⁰ (t) = Ay(t).

(iii) Ist A diagonalisierbar, so besitzt die Differentialgleichung y ⁰ (t) = Ay(t) ein Fun- damentalsystem aus L¨ osungen der Form (i) und (ii).

Beweis.

(5)

Bemerkung 7.13. Ist ein homogenes Anfangswertproblem y ⁰ (t) = Ay(t), y(t ₀ ) = y ₀ ∈ R ⁿ zu l¨ osen, so bestimmt man die Koeffizienten c ₁ , c ₂ , . . . c _n in der Linearkombination y(t) = P n

k=1 c _k b _k (t) durch L¨ osen des linearen Gleichungssystems P n

k=1 c _k b _k (t ₀ ) = y ₀ . Beispiel 7.14.

Bemerkung 7.15 (Variation der Konstanten). Ist eine inhomogene Differentialglei- chung y ⁰ (t) = Ay(t) + h(t) zu l¨ osen, so kann man wie folgt vorgehen,

1. man bestimmt zun¨ achst die allgemeine L¨ osung y h,c (t) (d.h. ein Fundamentalsy- stem B = {b ₁ (t), . . . , b _n (t)}) der zugeh¨ origen linearen Differentialgleichung y ⁰ (t) = Ay(t),

2. man setzt den Ansatz

y _P (t) =

n

X

k=1

c _k (t)b _k (t)

in die inhomogene Differentialgleichung ein. Das liefert ein lineares Gleichungssy- stem f¨ ur die Funktionen c ⁰ _k (t),

3. dessen L¨ osung c ⁰ (t) = (c ⁰ ₁ (t), c ⁰ ₂ (t), . . . , c ⁰ _n (t)) man mit der Kramer’schen Regel aus Satz 5.17 berechnen kann.

4. Die Funktionen c _k (t) bestimmt man durch Integration, damit bekommt man die partikul¨ are L¨ osung y _p (t) = P n

k=1 c _k (t)b _k (t).

5. Die allgemeine L¨ osung der inomogenen Gleichung ist dann y(t) = y _h,c (t) + y _P (t).

Bemerkung 7.16. Ist ein inhomogenes Anfangswertproblem y ⁰ (t) = Ay(t) + h(t), y(t ₀ ) = y ₀ ∈ R ⁿ zu l¨ osen, so bestimmt man die Koeffizienten c ₁ , c ₂ , . . . c _n in der allge- meinen L¨ osung y(t) = y _P (t) + P n

In MaI, Satz 8.24 steht die notwendige Bedingung f¨ ur eine Extremalstelle:

7.1 Extremwertaufgaben mit Nebenbedingungen

In MaI, Satz 8.24 steht die notwendige Bedingung f¨ ur eine Extremalstelle:

Wenn x 0 ∈ R n eine lokale Extremalstelle von f ist, dann ist ∇f (x 0 ) = 0

(alle Punkte x mit ∇f (x) = 0 heißen kritische Punkte). In MaI, Satz 8.26 wurden im Fall n = 1 oder n = 2 hinreichende Bedingungen zweiter Ordnung formuliert:

F¨ ur n = 1 folgt aus f 00 (x 0 ) < 0, dass x 0 eine Maximalstelle ist, und aus f 00 (x 0 ) > 0 folgt, dass x 0 eine Minimalstelle ist.

F¨ ur n = 2 hatten wir eine Bedingungen f¨ ur die gemischten zweiten Ableitungen (d.h., f¨ ur die Eintr¨ age der Hesse-Matrix) aufgeschrieben.

Das Ziel in diesem Abschnitt ist es

(i) Bedingungen erster und zweiter Ordnung f¨ ur Minimierungs-/Maximierungsprobleme mit Nebenbedingungen zu formulieren.

(ii) Die hinreichenden Bedingungen zweiter Ordnung aus Ma1, Satz 8.26 f¨ ur beliebige

n ∈ N zu verallgemeinern,

7 Anwendungen der Linearen Algebra

Satz 7.2. (Notwendige Bedingung erster Ordnung) Es seien f : R n → R und g : R n → R m stetig differenzierbar, und x 0 ∈ R n erf¨ ulle

g(x 0 ) = 0 (Zul¨ assigkeit), Rang(∇g(x 0 )) = m.

Wenn x 0 eine L¨ osung des Optimierungsproblems (O) ist, dann muss

∇f (x 0 ) ∈ L(∇g(x o )) (K) gelten, d.h. es m¨ ussen Zahlen λ ˆ 1 , . . . , ˆ λ m existieren, so dass

∇f (x 0 ) =

m

X

k=1

ˆ λ k ∇g k (x 0 ).

Beispiel 7.3.

Definition 7.4. Die Funktion L : R n+m → R ,

L(x, λ) = L(x 1 , x 2 , . . . , x n , λ 1 , λ 2 , . . . , λ m ) = f(x) +

m

X

k=1

λ k g k (x)

heißt Lagrange-Funktion zum Optimierungsproblem (O). Punkte x 0 ∈ R n , die zul¨ assig

sind (d.h. g(x 0 ) = 0) und die Bedingung (K) erf¨ ullen, heißen kritische Punkte, und die

zugeh¨ origen Koeffizienten λ 1 , . . . λ m heißen Lagrange-Multiplikatoren von (O) in x 0 . Die

Zahlen λ k entsprechen jeweils − λ ˆ k aus Satz 7.2.

Bemerkung 7.5. (i) Die Bedingungen g(x 0 ) = 0, ∇f (x 0 ) + P m

k=1 λ k ∇g k (x 0 ) bilden ein System von n + m Gleichungen mit n + m Unbestimmten x 0 = (x 0,1 , . . . , x 0,n ), λ = (λ 1 , . . . , λ m ). Diese Gleichungen sind typischerweise nicht linear!

(ii) Mit der Lagrangefunktion L(x, λ) aus Def. 7.4 kann man die notwendigen Bedin- gungen aus Satz 7.2 kompakt schreiben als

∇L(x, λ) = 0 ∈ R n+m .

(iii) Extremwertaufgaben ohne Nebenbedingungen sind als Spezialfall von O mit m = 0 zu verstehen. Die Bedingung aus Satz 7.2 liefert dann

∇f(x 0 ) =

0

X

k=1

λ ˆ k ∇g k (x 0 ) = 0,

und das ist genau die Bedingung aus Ma1 Satz 8.26 (s.o.).

Satz 7.6 (Hinreichende Bedingung zweiter Ordnung). Es seien f : R n → R und g : R n → R m zweimal stetig differenzierbar, und x 0 ∈ R n sei ein kritischer Punkt zum Optimierungsproblem (O). Wenn die Hesse-Matrix von L bez¨ uglich x

H L x (x 0 ) =













d

dx

L(x 0 , λ 0 ) dx d

dx

L(x 0 , λ 0 ) . . . dx d

dx

L(x 0 , λ 0 )

d

dx

dx

L(x 0 , λ 0 ) dx d

L(x 0 , λ 0 ) . . . dx d

dx

L(x 0 , λ 0 )

.. . .. . .. .

d

dx

dx

L(x 0 , λ 0 ) dx d

dx

L(x 0 , λ 0 ) . . . dx d

L(x 0 , λ 0 )













positiv definit ¨ uber dem Raum U = Ker(∇g(x 0 ) > ) ist, dann ist x 0 ein striktes lokales Minimum von f, wenn sie negativ definit ¨ uber U ist, dann ist x 0 ein striktes lokales Maximum von f, und wenn sie indefinit ¨ uber U ist, dann liegt in x 0 kein Extremum vor.

Wenn x 0 ∈ R ⁿ eine lokale Extremalstelle von f ist, dann ist ∇f (x 0 ) = 0

F¨ ur n = 1 folgt aus f ⁰⁰ (x ₀ ) < 0, dass x ₀ eine Maximalstelle ist, und aus f ⁰⁰ (x ₀ ) > 0 folgt, dass x ₀ eine Minimalstelle ist.

Satz 7.2. (Notwendige Bedingung erster Ordnung) Es seien f : R ⁿ → R und g : R ⁿ → R ^m stetig differenzierbar, und x ₀ ∈ R ⁿ erf¨ ulle

g(x ₀ ) = 0 (Zul¨ assigkeit), Rang(∇g(x ₀ )) = m.

∇f (x ₀ ) ∈ L(∇g(x _o )) (K) gelten, d.h. es m¨ ussen Zahlen λ ˆ ₁ , . . . , ˆ λ _m existieren, so dass

∇f (x ₀ ) =

ˆ λ _k ∇g _k (x ₀ ).

Definition 7.4. Die Funktion L : R ^n+m → R ,

heißt Lagrange-Funktion zum Optimierungsproblem (O). Punkte x ₀ ∈ R ⁿ , die zul¨ assig

sind (d.h. g(x ₀ ) = 0) und die Bedingung (K) erf¨ ullen, heißen kritische Punkte, und die

zugeh¨ origen Koeffizienten λ ₁ , . . . λ _m heißen Lagrange-Multiplikatoren von (O) in x ₀ . Die

Zahlen λ _k entsprechen jeweils − λ ˆ _k aus Satz 7.2.

Bemerkung 7.5. (i) Die Bedingungen g(x ₀ ) = 0, ∇f (x ₀ ) + P m

k=1 λ _k ∇g _k (x ₀ ) bilden ein System von n + m Gleichungen mit n + m Unbestimmten x ₀ = (x _0,1 , . . . , x _0,n ), λ = (λ ₁ , . . . , λ _m ). Diese Gleichungen sind typischerweise nicht linear!

∇L(x, λ) = 0 ∈ R ^n+m .

Satz 7.6 (Hinreichende Bedingung zweiter Ordnung). Es seien f : R ⁿ → R und g : R ⁿ → R ^m zweimal stetig differenzierbar, und x ₀ ∈ R ⁿ sei ein kritischer Punkt zum Optimierungsproblem (O). Wenn die Hesse-Matrix von L bez¨ uglich x

H _L ^x (x ₀ ) =

L(x ₀ , λ ₀ ) _dx ^d

L(x ₀ , λ ₀ ) . . . _dx ^d

L(x ₀ , λ ₀ )

L(x ₀ , λ ₀ ) _dx ^d

L(x ₀ , λ ₀ ) . . . _dx ^d

L(x ₀ , λ ₀ )

L(x ₀ , λ ₀ ) _dx ^d

L(x ₀ , λ ₀ ) . . . _dx ^d

L(x ₀ , λ ₀ )

positiv definit ¨ uber dem Raum U = Ker(∇g(x ₀ ) ^> ) ist, dann ist x ₀ ein striktes lokales Minimum von f, wenn sie negativ definit ¨ uber U ist, dann ist x 0 ein striktes lokales Maximum von f, und wenn sie indefinit ¨ uber U ist, dann liegt in x ₀ kein Extremum vor.

Definition 7.9. Gegeben sind n ∈ N , ein Zeitintervall I ⊂ R , eine Matrix mit Koef- fizientenfunktionen A(t) = (a _ij (t)), und ein Vektorfeld h(t) ∈ K ⁿ (t ∈ I). Ein System linearer Differentialgleichungen erster Ordnung oder lineares Differentialgleichungssy- stem hat die Form

y ⁰ (t) = A(t)y(t) + h(t), (S)

wobei die gesuchte L¨ osung y(t) = (y ₁ (t), y ₂ (t), . . . , y _n (t)) ein Vektor mit n Komponenten ist. Das System heißt homogen, falls h(t) = 0 ist, und mit konstanten Koeffizienten, wenn alle Koeffizientenfunktionen konstant in t sind, d.h., A(t) = A h¨ angt nicht von t ab.

Satz 7.12. (i) Ist λ ∈ R ein Eigenwert von A und v ein zugeh¨ origer Eigenvektor, so ist b(t) = e ^λt v eine L¨ osung von y ⁰ (t) = Ay(t).

(ii) Ist λ = α +βi ∈ C ein Eigenwert von A und v = a+bi ein zugeh¨ origer Eigenvektor, dann sind b 1 (t) = e ^αt (cos(βt)a − sin(β)b) und b 2 (t) = e ^αt (cos(βt)a + sin(β)b) zwei linear unabh¨ angige reelle L¨ osungen von y ⁰ (t) = Ay(t).

(iii) Ist A diagonalisierbar, so besitzt die Differentialgleichung y ⁰ (t) = Ay(t) ein Fun- damentalsystem aus L¨ osungen der Form (i) und (ii).

Bemerkung 7.13. Ist ein homogenes Anfangswertproblem y ⁰ (t) = Ay(t), y(t ₀ ) = y ₀ ∈ R ⁿ zu l¨ osen, so bestimmt man die Koeffizienten c ₁ , c ₂ , . . . c _n in der Linearkombination y(t) = P n

k=1 c _k b _k (t) durch L¨ osen des linearen Gleichungssystems P n

k=1 c _k b _k (t ₀ ) = y ₀ . Beispiel 7.14.

Bemerkung 7.15 (Variation der Konstanten). Ist eine inhomogene Differentialglei- chung y ⁰ (t) = Ay(t) + h(t) zu l¨ osen, so kann man wie folgt vorgehen,

1. man bestimmt zun¨ achst die allgemeine L¨ osung y h,c (t) (d.h. ein Fundamentalsy- stem B = {b ₁ (t), . . . , b _n (t)}) der zugeh¨ origen linearen Differentialgleichung y ⁰ (t) = Ay(t),

y _P (t) =

c _k (t)b _k (t)

in die inhomogene Differentialgleichung ein. Das liefert ein lineares Gleichungssy- stem f¨ ur die Funktionen c ⁰ _k (t),

3. dessen L¨ osung c ⁰ (t) = (c ⁰ ₁ (t), c ⁰ ₂ (t), . . . , c ⁰ _n (t)) man mit der Kramer’schen Regel aus Satz 5.17 berechnen kann.

4. Die Funktionen c _k (t) bestimmt man durch Integration, damit bekommt man die partikul¨ are L¨ osung y _p (t) = P n

k=1 c _k (t)b _k (t).

5. Die allgemeine L¨ osung der inomogenen Gleichung ist dann y(t) = y _h,c (t) + y _P (t).

Bemerkung 7.16. Ist ein inhomogenes Anfangswertproblem y ⁰ (t) = Ay(t) + h(t), y(t ₀ ) = y ₀ ∈ R ⁿ zu l¨ osen, so bestimmt man die Koeffizienten c ₁ , c ₂ , . . . c _n in der allge- meinen L¨ osung y(t) = y _P (t) + P n

k=1 c _k b _k (t) durch L¨ osen des linearen Gleichungssystems P n

k=1 c _k b _k (t ₀ ) = y ₀ − y _P (t ₀ ).