13 Differentiation im R

13 Differentiation im R ⁿ

Beim Studium von eindimensionalen, reellen Funktionen f : R ! R ist die Ableitung ein bedeutendes Mittel, um die lokale Änderung einer Funktion zu bestimmen. Existiert die Ableitung in einem Punkt, dann lässt sich durch sie eine lineare Approximation der Funktion in einer Umgebung des Punkts angeben. Durch Hinzunahme höherer Ableitun- gen lässt sich diese Approximation verbessern und dies führt auf die Darstellungsformel von Taylor, die zur Bestimmung der Extrema einer Funktion genutzt werden kann. Alle diese Betrachtungen lassen sich auf mehrdimensionale Funktionen verallgemeinern. Ein wesentlicher Unterschied zwischen ein- und mehrdimensionalen Funktionen liegt jedoch darin, dass man in einer Dimension nur eine Richtung zur Verfügung hat bzgl. derer man die Änderungsrate betrachten muss und kann. In mehreren Dimensionen kann man ausgehend von einem Punkt die Änderung in alle Richtungen betrachten.

13.1 Partielle Ableitung

Da die Ableitung eine punktweise Eigenschaft ist, sei ein Punkta= (a₁, a₂, . . . , a_n)2Rⁿ betrachtet, an dem man die Ableitung einer mehrdimensionalen Funktion

f :Rⁿ !R, x7!f(x) = f(x1, x2, . . . , xn),

bestimmen möchte. Betrachtet man Ebenen durch den Punkt a, die parallel zu den Koordinatenachsen liegen, so kann man die Funktion auf diese Ebenen einschränken.

Dies erreicht man dadurch, dass man alle Argument bis auf eines fest hält und dies als eine Funktion von einer Variablen auffasst, d.h. man betrachtet für jedes k,1  k  n die Funktion

f˜k:R!R, x7!f˜k(x) := f(a1, . . . , ak 1, x, ak+1, . . . , an),

die eine reellwertige Abbildung f˜k mit einer einzigen Variablenxist. Zu dieser lässt sich die gewöhnliche eindimensionale Ableitung im Punkt ak bestimmen durch

f˜_k⁰(a_k) = lim

h!0

f˜k(ak+h) f˜k(ak)

h .

a1

a₂ a

x1

x2

%

&

a1

x

˜f1(x)=f(x,a2)

a2

x

˜f2(x)=f(a1,x)

Man findet somit eine direkte Verallgemeinerung des Differenzenquotienten für mehrdi- mensionale Funktionen.

Definition 13.1 (Partielle Ableitung) Sei D⇢Rⁿ eine offene Teilmenge.

(i) Eine Abbildung f : D ! R heißt in einem Punkt x0 2 D partiell differenzierbar bzgl. der i-ten Koordinatenrichtung, falls der Limes

@if(x0) := @f

@x_i(x0) := lim

h!0

f(x0+hei) f(x0) h

existiert und dieser heißt die partielle Ableitung bzgl. x_i von f in x₀.

(ii) Existieren alle partiellen Ableitungen @_if(x₀) (i = 1, . . . , n) in allen Punkten x0 2D, so heißt f partiell differenzierbar. Sind zusätzlich alle partiellen Ablei- tungen stetig auf D, so heißt f stetig partiell differenzierbar.

(iii) Eine vektorwertige Abbilung f : D ! R^m heißt (stetig) partiell differenzierbar, wenn alle Komponenten fj (j = 1, . . . , m)(stetig) partiell differenzierbar sind.

Da die partielle Ableitung der gewöhnlichen Ableitung entspricht, bei der man sich auf eine Ebene parallel zu den Achsen einschränkt, lässt sie sich auch analog zur eindi- mensionalen Ableitung interpretieren: Betrachtet man eine Tangente parallel zur i-ten Koordinatenachse durch den Punkt f(x0), so ist die Steigung dieser Geraden durch die partielle Ableitung @_if(x₀) gegeben und die Funktion lässt sich lokal in der Richtungx_i als eine lineare Funktion

f(x0+hei) = f(x0) +@if(x0)·h+o(h²)

13.1 Partielle Ableitung approximieren. Die Rechenregeln für eindimensionale Funktionen übertragen sich direkt auf die partiellen Ableitungen.

x0

x1

x2

Beispiel 13.2 (i) Seif :R² !R gegeben durch

f(x) =f(x1, x2) = x²₁+x³₂+x1x2.

Betrachtet man eine Variable als konstant und leitet nach der anderen Variablen wie im eindimensionalen Fall ab, so findet man die partiellen Ableitungen

@1f(x) = @f

@x1

(x) = 2x1+x2,

@2f(x) = @f

@x2

(x) = 3x²₂+x1.

(ii) Seif :Rⁿ!R gegeben durch f(x) =kxk2 =

q

x²₁+. . .+x²_i +. . .+x²_n.

Dann kann man für x6=0 alle Variablen außer xi als Konstanten betrachten und die gewöhnlichen Ableitungsregeln anwenden. Damit erhält man für alle1in:

@if(x) = @i

⇣

(x²₁+. . .+x²_i +. . .+x²_n)¹²⌘

= 1

2(x²₁+. . .+x²_i +. . .+x²_n) ¹² ·@i(x²₁+. . .+x²_i +. . .+x²_n)

= 1

2kxk2

·2xi = xi

kxk2

.

Definition 13.3 (Mehrfache partielle Ableitung)

Sei D ⇢ Rⁿ eine offene Teilmenge. Sind für eine partiell differenzierbare Abbildung f : D! R die partiellen Ableitungen @if :D !R ebenfalls partiell differenzierbar, so heißt f zweimal partiell differenzierbar mit den partiellen Ableitungen zweiter Ordnung

@ijf(x) := @i@jf(x) := @²f

@_i@_j(x) := @

@x_i

✓@f

@x_j(x)

◆ .

Die k-te partielle Ableitung ist induktiv definiert als

@i1. . .@i_kf(x) = @

@xi1

. . . @

@xik

f(x).

Die Abbildung heißtk-mal stetig partiell differenzierbar, wenn alle partiellen Ableitungen bis zu k-ter Ordnung existieren und stetig sind.

Im Allgemeinen ist die Reihenfolge bei Mehrfachableitungen wichtig. Zum Beispiel ist

f(x1, x2) =

(x1x2x²₁ x²₂

x²₁+x²₂, für(x1, x2)6= (0,0), 0, für(x1, x2) = (0,0), zweimal partiell differenzierbar. Jedoch gilt

@1@2f(0,0)6=@2@1f(0,0).

Hinreichend für Vertauschbarkeit ist die Stetigkeit der Ableitung.

Bemerkung 13.4 (Vertauschbarkeit von partiellen Ableitungen)

Sei D⇢ Rⁿ eine offene Teilmenge und f : D !R eine zweimal stetig partiell differen- zierbare Abbildung. Dann gilt für alle x2D:

@_j@_if(x) =@_i@_jf(x), i, j = 1, . . . , n.

13.2 Gradient, Jacobi-Matrix, Laplace-Operator

Für skalar- und vektorwertige Funktionen fasst man die partielle Ableitung für häufig genutzte Operatoren zusammen und führt die folgende Notation ein.

Definition 13.5 (Gradient)

Sei D ⇢ Rⁿ offen und f : D ! R eine partiell differenzierbare Abbildung. Der Vektor der ersten partiellen Ableitungen

gradf(x) := rf(x) :=

0 BB B@

@1f(x)

@₂f(x) ...

@nf(x) 1 CC CA2Rⁿ

heißt Gradient von f im Punkt x 2 D (lat. gradiens: Anstieg, Gefälle, Steigung). Der Operator

r= 0 BB B@

@1

@2

...

@n

1 CC CA heißt Nabla-Operator.

13.2 Gradient, Jacobi-Matrix, Laplace-Operator Beispiel 13.6

Für f(x) = kxk2 und x6=0 findet man

rf(x) = 0 BB B@

@1f(x)

@₂f(x) ...

@nf(x) 1 CC CA=

0 BB BB

@

x1

kxk2

x2

kxk2

...

xn

kxk₂

1 CC CC A= 1

kxk2

0 BB B@

x1

x₂ ...

xn

1 CC CA= x

kxk2

.

Definition 13.7 (Hesse-Matrix)

Sei D ⇢Rⁿ offen und f :D !R eine zweimal partiell differenzierbare Abbildung. Die Matrix der zweiten partiellen Ableitungen

H_f(x) := (@_i@_jf(x))ⁿ_i,j=1= 0 BB B@

@1@1f(x) @1@2f(x) . . . @1@nf(x)

@2@1f(x) @2@2f(x) . . . @2@nf(x)

... ... ...

@_n@₁f(x) @_n@₂f(x) . . . @_n@_nf(x) 1 CC

CA2R^n⇥n

heißt Hesse-Matrix von f im Punkt x2D. Definition 13.8 (Jacobi-Matrix)

Sei D⇢ Rⁿ offen und f :D !R^m eine partiell differenzierbare Abbildung. Die Matrix der ersten partiellen Ableitungen

Jf(x) := (@jfi(x))^m,n_i,j=1 = 0 BB B@

@₁f₁(x) @₂f₁(x) . . . @_nf₁(x)

@1f2(x) @2f2(x) . . . @nf2(x)

... ... ...

@1fm(x) @2fm(x) . . . @nfm(x) 1 CC

CA2R^m⇥n

heißt Jacobi-Matrix (oder Funktionalmatrix) von f im Punktx2D. Bemerkung 13.9

Für eine skalarwertige Funktion (m = 1) gilt daher

Jf(x) = @1f(x) @2f(x) . . . @nf(x) = (rf(x))^T 2R^1⇥n. Definition 13.10 (Divergenz)

Sei D ⇢ Rⁿ offen und f : D !Rⁿ ein partiell differenzierbares Vektorfeld. Die skalare Funktion

div f(x) := r·f :=@1f1(x) +. . .+@nfn(x) heißt Divergenz von f im Punkt x2D.

Definition 13.11 (Laplace-Operator)

Sei D⇢Rⁿ offen undf :D!R zweimal stetig partiell differenzierbar. Dann definiert f(x) :=div gradf(x) :=r·(rf(x)) =@1@1f(x) +. . .+@n@nf(x)

den Laplace-Operator

:=r·r.

13.3 Differenzierbarkeit

Ist eine eindimensionale Funktion differenzierbar, so lässt sie sich lokal durch eine lineare Funktion approximieren. Die partiellen Abbildungen übertragen dieses Konzept auf aus- gezeichnete Richtungen von mehrdimensionalen Räumen. Analog zum eindimensionalen Fall kann man jedoch für eine Funktionf :Rⁿ!R^m auch die Approximierbarkeit durch eine lineare FunktionDf :Rⁿ!R^m fordern.

Definition 13.12 (Differenzierbarkeit)

Sei D ⇢Rⁿ eine offene Teilmenge. Eine Abbildungf : D!R^m heißt in x0 2D (total) differenzierbar (oder schlicht differenzierbar), wenn sie im Punkt x0 linear approximier- bar ist, d.h. wenn eine lineare Abbildung L:Rⁿ! R^m existiert, so dass für alle x2D gilt:

f(x) =f(x0) +L(x x0) +!(x x0) mit einer Funktion !:D!R^m und

xlim2D kx x0k!0

!(x x0)

kx x0k =0, d.h. !(x x0) =o(kx x0k).

In dem Fall wird die Abbildung Df(x0) :Rⁿ !R^m definiert durch (Df)(x0) :=L

die (totale) Ableitung (oder das Differential) von f inx0 2D genannt.

Bemerkung 13.13 (Verallgemeinerung auf beliebige Vektorräume)

In dieser Definition wird lediglich benötigt, dass es sich beim Rⁿ um einen Vektorraum handelt. Daher lässt sich diese Definition direkt auf Abbildungen zwischen beliebigen Vektorräumen erweitern, indem man eine lineare, stetige Abbildung sucht, die eine lokale Approximation darstellt.

Beispiele 13.14 (i) Sei f : Rⁿ ! R^m eine lineare Abbildung, d.h. mit einer Matrix A2R^m⇥n gilt f(x) = A·x. Dann findet man wegen

f(x) = f(x₀) +f(x x₀) +0

=f(x0) +A·(x x0) +0 die Ableitung Df(x0) :Rⁿ!R^m als

Df(x0) = f, d.h. (Df)(x0)(x) =A·x.

(ii) Für das Skalarprodukt f :Rⁿ !R,x7! hx,xi findet man f(x) = hx,xi=hx0+x x0,x0+x x0i

=hx0,x0i+ 2hx0,x x0i+hx x0,x x0i

=f(x0) + 2|hx0,x{z x0}i

Df(x0)(x x0)

+k|x {zx0k}²

o(kx x0k)

.

13.3 Differenzierbarkeit

die Ableitung Df(x0) :Rⁿ!R als

Df(x0) = 2hx0,·i, d.h. (Df)(x0)(x) = 2hx0,xi. Satz 13.15 (Stetig partiell differenzierbar ) differenzierbar) Sei D⇢Rⁿ offen undf :D!R^m.

(i) Ist f inx0 2D (total) differenzierbar, dann ist f inx0 partiell differenzierbar und die (totale) Ableitung ist die Jacobi-Matrix

Df(x₀) = J_f(x₀).

Die (totale) Ableitung ist somit eindeutig bestimmt.

(ii) Istf inx0 2Dpartiell differenzierbar und sind zusätzlich die partiellen Ableitungen stetig, dann ist f (total) differenzierbar in x0.

Beweis. (i) Ist f in x0 (total) differenzierbar, dann gilt die Approximation

f(x) =f(x0) +Df(x0)(x x0) +!(x x0) mit !(x x0) =o(k(x x0)k) und damit durch die Wahl x=x0+hei und der Linearität der Ableitung auch

@if(x0) = lim

h!0

f(x0+hei) f(x0)

h = lim

h!0

1

h(f(x0) +Df(x0)(hei) +!(hei) f(x0))

=Df(x₀)(e_i) + lim

h!0

!(hei)

h =Df(x₀)(e_i).

Damit istf in jeder Komponente partiell differenzierbar und es gilt@ifj(x0) = (Df(x0))ji. (ii) (Skizze) Sukzessives Anwenden des Mittelwertsatzes für eindimensionale Ableitun-

gen. ⇤

Bemerkung 13.16

Die lineare Approximationf(x) =f(x0)+f⁰(x0)(x x0)einer eindimensionalen Funktion f :R!Rlässt sich als Tangente an den Graphen vonf durch den Punkt(x₀, f(x₀))^T 2 R² mit Steigung f⁰(x0)2R auffassen.

Für den Fall f : R² ! R überträgt sich diese Anschauung analog und die (totale) Ableitung ist eine Tangentialebene an den Graphen von f. Diese Ebene ist gegeben durch die Gleichung

f(x) =f(x0) +Jf(x0)(x x0)

=f(x0) +@1f(x0)(x1 x01) +@2f(x0)(x2 x02).

Durch Setzen vonx=x0 zeigt sich, dass die Ebene durch den Punkt(x01, x02, f(x0))^T 2 R³ verläuft. Schränkt man sich auf den Schnittx₂ =x₀₂ ein, so besitzt die resultierende

Gerade die Steigung @1f(x0) der partiellen Ableitung und analog für die andere Basis- richtung. Beachtet man, dass die x₃ Komponente der Ebene in der Graphdarstellung durch f(x) gegeben ist, so findet man die Normalenform der Ebenengleichung durch

@1f(x0)(x1 x01) +@2f(x0)(x2 x02) (x3 f(x0)) = 0 ,

0

@ x1 x01

x2 x02

x3 f(x0) 1 A·

0

@@1f(x0)

@2f(x0) 1

1 A= 0, , mit p := (x0, f(x0))^T,n:= (rf(x0), 1)^T, (x p)·n = 0.

x0

x1

x2

Wie schon im eindimensionalen Fall gibt es die Kettenregel.

Bemerkung 13.17 (Kettenregel)

SeienDf ⇢R^r undDg ⇢Rⁿ offen und g:Dg !Df sowief :Df !R^m differenzierbare Abbildungen und h = f g die Verkettung dieser Abbildungen. Dann ist auch h : Dg ! R^m differenzierbar, die Ableitungsmatrizen haben die Dimension Dh 2 R^m⇥n, Df 2R^m⇥r, Dg2R^r⇥n, und es gilt die Kettenregel gemäß dem Matrixprodukt

Dh(x) = D(f g)(x) =Df(g(x))·Dg(x).

Es gilt also

stetig partiell differenzierbar)(total) differenzierbar) partiell differenzierbar.

Die Umkehrung davon gilt im Allgemeinen jedoch nicht. Selbst dann nicht, wenn die Funktion in alle Richtungen des Raums (nicht nur in Richtung der Einheitsvektoren) differenzierbar ist.

Satz 13.18 (Richtungsableitung)

Sei D ⇢Rⁿ offen und f : D ! R im Punkt x0 2 D differenzierbar. Dann existiert für jeden Vektorv2Rⁿ mitkvk= 1dieRichtungsableitung, d.h. die Ableitung in Richtung v gegeben durch

@_vf(x₀) := @f

@v(x₀) := lim

h!0

f(x0+hv) f(x0)

h =hrf(x₀),vi.

13.3 Differenzierbarkeit Beweis. Man definiert g(h) :=x0+hv und damit q(h) :=f(g(h)). Damit folgt

@vf(x0) = lim

h!0

f(x₀+hv) f(x₀)

h = lim

h!0

f(g(h)) f(g(0))

h = dq

dh(0) =q⁰(0).

Mit der Kettenregel findet man jedoch direkt q⁰(h) =

Xn

i=1

@_if(g(h))·g_i⁰(h)

und damit wegen g(0) =x0 und g⁰(0) =v

@vf(x0) =q⁰(0) = Xn

i=1

@if(x0)·vi.

⇤ Beispiel 13.19

Die Funktion f :R² !Rgegeben durch

f(x1, x2) = (_x2

1

x2, für x2 6= 0, 0 für x2 = 0,

0.2 0

0.2 0.2 0 5 0.2

0 5

x1 x₂

ist inx₀ =0nicht stetig (z.B.lim_h!0f(h, h) = 0, aberlim_h!0f(h, h³) =1) und damit auch nicht (total) differenzierbar, d.h. man kann keine lokale Approximation durch eine Ebene finden. Alle Richtungsableitungen (und damit auch die partiellen Ableitungen) existieren jedoch gemäß

@vf(0,0) = lim

h!0

f(0+hv) f(0)

h =

(lim

h!0 (hx1)²

hx2 = ^x_x²¹₂ ·lim

h!0h= 0, fürx2 6= 0,

0 fürx2 = 0.

Bemerkung 13.20 (Der Gradient ist die Richtung des stärksten Anstiegs) Für rf(x)6= 0 ist der Winkel ↵ zum Vektor v gegeben durch

cos(↵) = hrf(x),vi krf(x)k kvk.

Für kvk= 1 folgt daher

@f

@v(x) = hrf(x),vi=krf(x)kcos(↵).

Daran liest man ab: Der Gradient zeigt in die Richtung des stärksten Anstiegs, denn die Richtungsableitung ist maximal, wenn vund rf dieselbe Richtung haben.

Analog zeigt rf in die Richtung des stärksten Abstiegs.

rf(x) x1

x2

f(x1, x2)

13.4 Taylorentwicklung und Extrema

Definition 13.21 (Multiindex)

EinMultiindex ist einn-Tupel↵= (↵1, . . . ,↵n)2Nⁿ. DieOrdnung |↵|und dieFakultät

↵! eines Multiindex ist gegeben durch

|↵|:=↵1+. . .+↵n, ↵! :=↵1!·. . .·↵n!.

Für einen Vektor x2Rⁿ gilt die Schreibweise

x^↵ :=x^↵₁¹·. . .·x^↵_nⁿ

und für eine |↵|-mal stetig differenzierbare Funktion schreibt man

@^↵f :=@₁^↵1·. . .·@_n^↵nf := @^|↵|

@x^↵₁¹ ·. . .·@x^↵_nⁿ. Satz 13.22 (Taylor-Formel im Rⁿ)

Sei D ⇢ Rⁿ offen und f : D ! R k-mal stetig differenzierbar. Dann lässt sich die Funktion um jeden Punkt x0 2D durch die Taylor-Formel entwickeln:

f(x) = X

|↵|k

@^↵f(x0)

↵! (x x0)^↵+o(kx x0k^k) für x!x0,x2D.

13.4 Taylorentwicklung und Extrema Bemerkung 13.23 (Approximation zweiter Ordnung)

Unter Vernachlässigung Terme höherer Ordnung findet man somit für eine zweimal stetig differenzierbare Funktion:

f(x) = X

|↵|2

@^↵f(x0)

↵! (x x0)^↵+o(kx x0k²)

= X

|↵|=0

@^↵f(x0)

↵! (x x0)^↵+ X

|↵|=1

@^↵f(x0)

↵! (x x0)^↵+ X

|↵|=2

@^↵f(x0)

↵! (x x0)^↵+o(kx x0k²)

=f(x0) + Xn

i=1

@if(x0)(x x0)i+1 2

Xn

i,j=1

@i@jf(x0)(x x0)i(x x0)j+o(kx x0k²)

=f(x0) + (rf(x0))^T ·(x x0) + (x x0)^T ·Hf(x0)·(x x0) +o(kx x0k²) mit dem Gradenten rf(x0) und der Hesse-Matrix Hf(x0)am Punkt x0 2D. Damit lassen sich erneut lokale Maxima und Minima untersuchen.

Definition 13.24 (Maximum / Minimum)

Sei D ⇢ Rⁿ offen. Eine Funktion f : D ! R hat in einem Punkt x0 2 D ein lokales Minimum (bzw. Maximum), falls in einer Umgebung U ⇢D von x₀ gilt

f(x0)f(x) ( bzw. f(x0) f(x) ) für alle x2U.

Die Bedingungen für Extrema ergeben sich analog zum eindimensionalen Fall.

Satz 13.25 (Notwendige Bedingung für Extrema)

Sei D ⇢ Rⁿ offen und f : D ! R partiell differenzierbar. Hat f in x0 2 D ein lokales Extremum, so gilt

rf(x0) =0.

Definition 13.26 (Definitheit)

Eine symmetrische Matrix A2R^n⇥n heißt

positiv definit, falls x^TAx>0, positiv semidefinit, falls x^TAx 0, negativ definit, falls x^TAx<0, negativ semidefinit, falls x^TAx0,

jeweils für alle x 2 Rⁿ,x 6= 0 gilt. Trifft keiner dieser Fälle zu, so heißt die Matrix indefinit.

Bemerkung 13.27

Die symmetrische Matrix besitzt eine Orthonormalbasis aus Eigenvektoren und lässt sich daher diagonalisieren und hat n Eigenwerte. Die Definitheit lässt direkt an den Eigenwerten ablesen: Sind alle Eigenwerte von Apositiv (bzw. negativ), so istApositiv (bzw. negativ) definit. Sind einige Eigenwerte Null, dann ist die Matrix A noch positiv (bzw. negativ) semidefinit. Gibt es jedoch Eigenwerte mit entgegengesetztem Vorzeichen, dann ist A indefinit.

Satz 13.28 (Notwendige Bedingung für Extrema)

Sei D ⇢ Rⁿ offen und f :D !R zweimal stetig differenzierbar und x₀ 2D ein Punkt mit rf(x0) = 0. Dann gilt:

(i) Ist Hf(x0)positiv definit, so hat f inx0 ein striktes lokales Minimum, (ii) ist H_f(x₀) negativ definit, so hat f inx₀ ein striktes lokales Maximum, (iii) ist H_f(x₀) indefinit, so hat f in x₀ weder Minimum noch Maximum.

13.5 Newton-Verfahren

Sei D ⇢ Rⁿ offen und eine Abbildung f : D ! R^m gegeben. Sucht man nach den Nullstellen

f(x) = 0

dieser Funktion, so kann man das Verfahren von Newton auf den mehrdimensionalen Fall verallgemeinern.

Sei dazu f differenzierbar und daher lokal durch eine lineare Abbildung approximierbar als

f(x) =f(x0) +Jf(x0) (x x0) +o(kx x0k)

mit der Jacobi-Matrix Jf(x0). Vernachlässigt man die Terme höherer Ordnung und de- finiert die nächste Iterierte als f(x1)⇡0, so findet man

0⇡f(x1)⇡f(x0) +Jf(x0) (x1 x0) ) x1 =x0 (Jf(x0)) ¹f(x0).

Damit lässt sich das Newton-Verfahren für den mehrdimensionalen Fall formulieren.

Definition 13.29 (Newton-Verfahren)

Sei D⇢ Rⁿ offen und die Abbildung f :D!R^m differenzierbar. Die Newton-Iteration zur Approximation einer Nullstelle f(x) =0 lautet mit einem Startwert x0 2Rⁿ:

xk =xk 1 (Jf(xk 1)) ¹f(xk 1), k= 1,2, . . . .

In jedem Schritt des Newton-Verfahrens muss folglich die Jacobi-Matrix an der aktuellen Iterierten berechnet werden und danach die Matrix invertiert werden. Genauer: Man sucht eine Korrektur c durch die Lösung des folgenden Gleichungssystems und addiert diese zur aktuellen Iterierten xk 1:

J_f(x_{k 1})c= f(x_{k 1}), x_k=x_{k 1} +c, k = 1,2, . . . .