Numerik 1: Inhalts ¨ ubersicht

Ronald St ¨over SoSe 2008

Numerik 1: Inhalts ¨ ubersicht

0.) Einf ¨uhrung und Motivation Bsp: Patriot-Rakete,R

xⁿe^x−1dx, Rundungs- und andere Fehlerarten 1.) Zahldarstellungen und Computerarithmetik

1.1) Zahldarstellungen

Bin ¨ar-, Dezimal-, Hexadezimalzahlen und Umrechnungen 1.2) Computerzahlen

M(β, t, e_min, e_max), Eigenschaften, Rundungsarten, Rundungsfehler Def + Charakterisierung:u:= ¹₂β^1−t,u= min{ε ∈M|1 +]ε >1},

∀x: ^|x−˜_|x|^x| ≤u(zz:|x−x| ≤˜ ^y2−y₂ ¹ (auf/abrunden)),∃ |δ| ≤u: ˜x=x(1 +δ) 1.3) Gleitpunktoperationen

Modell f ¨ur Rundungsfehler, Rundungsfehlerverst ¨arkung (Bsp. R1 0

xⁿ

x+42dx), Addition (Bsp.P ₁

n⁴), Ausl ¨oschung und deren Vermeidung 1.4) IEEE Floating Point Arithmetic

single/double format (und entspr.u), Exponent VZ-frei, “hidden bit”, subnormalisierte Zahlen, Inf/NaN

2.) L ¨osung linearer Gleichungssysteme 2.1) LU-Zerlegung

Interpretation Gauß-Algorithmus alsA =LU, Vorteil gegenA⁻¹b(Cramer-Regel) Herleitung:Ln−1· · ·L₁·A=U, Satz: Ex. (induktiv) & Eind.

2.2) Pivotisierung

Motivation, Permutationsmatrizen, Ex. (Idee), keine Eind.

2.3) Erg ¨anzende Bemerkungen

AufwandO(²₃n³)+O(2n²)flops, effiziente Implementierung, Nachiteration, Grenzen Bsp. ( ¨UA): streng diagonal dominant, tridiagonal, Bandstruktur

2.4) Cholesky-Zerlegung

Ex. (Idee: iterativer oder elementweiser Ansatz), Eind., Aufwand O(¹₃n³), rationale Cholesky-Zerlegung

3.) Fehleranalyse: Kondition und Stabilit ¨at 3.1) Matrix- und Operatornormen

Def. und fundamentale Absch ¨atzung

Bsp.k · k₁ Spaltensumme,k · k₂,k · k∞Zeilensumme,k · k_F, wie zeigt man das?

Neumannsche Reihe 3.2) Kondition eines Problems

Idee: ^ky−ˆ_kyk^yk ≤κ(x)^kx−ˆ_kxk^xk, Def:κ(x) := ^kDf(x)kkxk_kf(x)k , Motivation: Taylor Bsp. Subtraktion

lin. Gls.:κ(A) =kAkkA⁻¹k, Motivation: betrachteA, bgetrennt, Fehlerabsch ¨atzungen: ^kx−˜_kxk^xk ≤κ(A)^krk_kbk , ^k∆xk_kxk ≤ ^κ(A)

1−κ(A)k∆Ak kAk

_k∆Ak

kAk +^k∆bk_kbk Idee:0 = (A+ ∆A)(x+ ∆x)−(b+ ∆b)

3.3) Stabilit ¨at eines Algorithmus

Vorw ¨artsanalyse: verfolge Fehler schrittweise durch den Algorithmus

R ¨uckw ¨artsanalyse: fehlerbehaftete L ¨osung als exakte zu gest ¨orten Daten, vergleiche gest ¨orte und exakte Daten — Diagramm!

Stabilit ¨atsindikatoren: min.σ,ηmit ^ky−˜_kyk^yk ≤σ·κ(x)·u+O(u²), ^k∆xk_kxk ≤η·u+O(u²) r ¨uckw ¨artsstabil⇒vorw ¨artsstabil

Bsp: quadr. Gleichungx=a−√

a²−bstabil außer f ¨urb a(Ausl ¨oschung) Gauß-Algorithmus streng genommen nicht r ¨uckw ¨artsstabil (Satz von Wilkinson) 4.) Lineare Ausgleichsprobleme

4.1) Problemstellung

Allgemein & typ. Beispiele, linear:kAx−yk₂ →minmitA ∈R^{m×n, Rang}A=n ≤m 4.2) Normalengleichungen

Lemma:ku0−vk= minu⁰∈Uku−vkgdw.u0−v ∈U^⊥

Satz:x₀ = arg minkAx−yk₂ ⇐⇒ A^TAx₀ =A^TyBew: Lemma f ¨urU=BildA geometr. Interpretation, Normalengleichungen schlecht konditioniert (typ. Bsp.) 4.3) Householder-Transformationen

AnsatzH =I− _vT²vvv^Tmitv so, dassHx=ξe₁, Eig.: orthogonal, Spiegelung Herleitung:|ξ|=kxk₂,x−ξe₁ =αv(geometr.),

alsov = _α¹(x−ξe1), w ¨ahleξ=−sgn(x1)kxk2 undα=x1−ξ(dannv1 = 1) Alg.:O(4mn)flops, ¨uberschreibeAmitv, Ha_j

Alternativ: Givens-Rotationen ( ¨UA) 4.4) QR-Zerlegung

Satz:∃Qorth.,R = R₁

0

:A=QR, Bew: eliminiere spaltenweise mit H-Trafos damit:kAx−yk²₂ =kR₁x−z₁k²₂ +kz₂k²₂,z =Q^Ty

Alg.: berechneQ, R, z₁, l ¨oseR₁x=z₁, AufwandO(2n²(m−ⁿ₃))flops (f ¨urA=QR), numerisch stabil

BildA=span(q₁, . . . , q_n), (BildA)^⊥=span(q_n+1, . . . , q_m)Bew:a_k =P r_ikq_i 4.5) Singul ¨arwertzerlegung

A=UΣV^T mitU,V orth.,Σ =

diag(σ_i) 0

0 0

,σ₁ ≥. . .≥σ_r >0 Bew: setzeσ₁ =kAk₂,A^TAx=σ²₁x,y= _σ¹

1Ax,P = [y, P₁],Q= [x, Q₁], dannP^TAQ=

σ₁ 0 0 A₂

Damit:kAx−yk²₂ =

Σ_rp₁ −q₁

−q₂

2

2

mitp=V^Tx,q=U^Ty, w ¨ahlep₂ = 0f ¨ur L ¨osung mit min. Norm

Moore-Penrose-Pseudoinverse ( ¨UA) 5.) Nichtlineare Gleichungen

5.1) Fixpunktiterationen

Nullstellen ⇐⇒ Fixpunkte, verschiedene Umformungsmgl., Bsp.3x= tanx Banachscher Fixpunktsatz (ohne Bew.), Korollar f ¨ur st. diff’bare Fkten

lineare, superlin., quadr. Konvergenz, Konv.ordnungp, auch f ¨urp6∈N Bem:x^∗FP mitΦ⁽ⁱ⁾(x^∗) = 0f ¨uri= 1, ..., p−1⇒Konv.ordnungp 5.2) Das eindimensionale Newton-Verfahren

Herleitung grafisch und durch Linearisierung,f⁰(x^∗) 6= 0hinr. Bed. f ¨ur quadr. Konv., Variante f ¨urm-fache Nullstelle ( ¨UA)

Sekantenverfahren ( ¨UA)

5.3) Das Newton-Verfahren imRⁿ

Herleitung durch Linearisierung, lokale Konv. falls FP ex. (wg.kDΦ(x^∗)k= 0) Prakt. Implementierung: geeignetes x₀, Abbruchbed., Ableitungen berechnen bzw.

approximieren, ged ¨ampftes Newton-V.

Newton-Kantorovich:kDF(x)−DF(y)k ≤γkx−yk,kDF(x)⁻¹k ≤β, kDF(x₀)⁻¹F(x₀)k ≤α,h= ^αβγ₂ <1,B(x₀,_1−h^α )⊂D

⇒(x_k)wohldef.,(x_k)⊂B, FPx^∗ex. und lokal eind.,kx^∗−x_kk ≤α^h2

k−1

1−h^2k

5.4) Gauß-Newton-Verfahren

Idee: Newton-V. f ¨ur0 = G(x) = ∇kF(x)k²₂, vereinfacheDG(x);

Folge nichtlin. AusgleichsproblemeDF(xk)^TDF(xk)∆xk =−DF(xk)^TF(xk) 6.) Interpolation und Approximation

6.1) Klassische Polynom-Interpolation

Motivation, Aufgabenstellung, Satz: Ex. & Eind.

Lagrange, Vandermonde, Aitken-Neville, Newton: Vor/Nachteile (Aufwand) Aitken-Neville:p_kk(t) =f_k,p_kl(t) = ^{(t−tk)pk+1,l(t)−(t−t}_t ^{l)pk,l−1(t)}

k−t_l (Interpol.gerade) Satz:p_kl ∈Πl−kinterpoliert(t_k, f_k), ...,(t_l, f_l)(Induktion, Eind. IP)

Newton:p_n(t) =Pn

k=0a_k(t−t₀)· · ·(t−t_k−1)

mit dividierten Differenzena_k=f[t₀, ..., t_k](Bew. geschickter Koeff’vgl.) Vorteile: Koeff. unabh. vont, AufwandO(n²), AuswertungO(n), leicht erweiterbar Interpolationsfehler:∀ˆt∃τ:f(ˆt)−p(ˆt) = _(n+1)!¹ f⁽ⁿ⁺¹⁾(τ)ω(ˆt)

Bew.F(t) = f(t)−p(t)−Kω(t)mitKso, dassF(ˆt) = 0 Korollar: Absch ¨atzungkf−pk_∞ ≤ kf⁽ⁿ⁺¹⁾k_∞^(b−a)_(n+1)!ⁿ⁺¹

Approx. h ¨aufig schlecht (Runge-Bsp, Satz von Faber), Tschebyscheff-Knoten “opt.”

6.2) Hermite-Interpolation

∀t₀ ≤. . .≤t_n,y₀, . . . , y_n∃¹p∈Π_n:p^(j)(t_i) = y_i f ¨uri= 0, ..., n,j = 0, ..., m_i 6.3) Spline-Interpolation

S_∆,k =n

s: [t₀, t_n]→R|s∈C^k−1, s_|[ti,ti+1]∈Π_ko

dimS_∆,k =k+n(Monome & abgebrochene Potenzen), besser: B-Splines (Idee) quadr. C¹-Splines (Fallk = 2): Ansatz si(t) = ai +bi(t−ti) + ci(t−ti)² liefert Rekursionsformel f ¨urb_i, also ein freier Parameter, eind. l ¨osbar mitO(n)

kub.C²-Splines (Fallk = 3): 2 freie Parameter;nat ¨url./vollst./period. RB mi :=s⁰⁰(ti)als Variable;(zykl.) tridiag. Gls., eind. l ¨osbar mitO(n) Approx.eigenschaft:Rb

a(f^(k)(t)−s^(k)(t))²dt ≤ ^b−a₁₂₀kf⁽⁴⁾k²_∞h^2(4−k) bzw.kf^(k)−s^(k)kL2 ≤q

b−a

120kf⁽⁴⁾k∞h^4−kf ¨urk = 0,1,2

Bew.idee: zun ¨achstk = 2, interpolieref⁰⁰linear mitl, integriere IP-Fehler,

s⁰⁰ interpoliert mind. so gut wie l (Lemma 2), daf ¨ur zeige mit part. Integration (Lem- ma 1)R

g⁰⁰²dt=R

s⁰⁰²dt+R

(g⁰⁰−s⁰⁰)²dt,

k= 1,k = 0durch Integration und CSU:(f⁰(t)−s⁰(t))² = (Rt

τi(f⁰⁰(x)−s⁰⁰(x))dx)² Satz: Unter allenC²-Interpol. hatsmin. Kr ¨ummung im Sinne vonR

s⁰⁰²dt(Lemma 1) 7.) Gew ¨ohnliche Differentialgleichungen

7.1) Motivation und Zusammenfassung theoretischer Grundlagen

Fundamentallemma:kx(t)−y(t)k ≤δe^L(t−t0)+ε^eL(t−t_L⁰⁾⁻¹ f ¨ur allet Bew. via Diff’ungl.u˙ ≤Lu+ε, AWP gut konditioniert f ¨urL(t_f −t₀)“klein”

7.2) Einschrittverfahren

Idee: Integralapprox., Bsp. expl. Euler, impl. Euler, Trapez-, Mittelpunktsregel Konsistenzordnungp:x(t₁)−x₁ =O(h^p+1)

bzw.x(t1)−x(t0)−hΦ(x(t0), x(t1), h) = O(h^p+1), Bsp. wie oben

Konvergenzordnungp:x(t_f)−x(t_f, h) =O(h^p) Satz: Kons.ord.p⇒Konv.ord.p

Bew.kEk=P

kE_ik ≤P

ke_ike^L(tf−ti) ≤P

ch^p+1e^L(tf−ti) ≤ch^pR

e^L(tf−s)dt Satz:kx(t_f)−x˜_nk ≤ch^{p eL(tf−t}_L⁰⁾⁻¹ +εe^M(tf−t0)+_h^εeM(tf_M^−t0)−1 f ¨ur expl. ESV 7.3) Runge-Kutta-Verfahren

Def.K_i =hf(t₀+c_ih, x₀+P

a_ijK_j)f ¨uri= 1, ..., s,x₁ =x₀+P b_iK_i explizite/implizite RKV, Ex./ & Eind. (z.B. fallsh·L· kAk∞<1)

Ordnungsbed.: Konsistenz ⇐⇒ P

b_i = 1(Bew!),c_i =P a_ij p= 2:P

b_ic_i = ¹₂, p= 3:P

b_ic²_i = ¹₃,P P

b_ia_ijc_j = ¹₆

Idee: Taylor-Entw. vonf, wiederholt inK_i =hf(·)einsetzen, Koeff’vgl. mitx(t₁) Lemma 3/4:p≤sf ¨ur expl. RKV (betrachtex˙ =x, x(0) = 1),p≤2sf ¨ur alle RKV Lemma 5:∀p∃expl. RKV mit Ordnungp

7.4) Schrittweitensteuerung

Fehlersch ¨atzerERR=kx₁−x₁kmitx₁, x₁Ordnungpbzw.p+ 1,ˆh:=h^p+1 qT OL

ERR

ERR > T OL: Schritt nochmal mitˆh < h,ERR≤T OL: n ¨achster Schritt mitˆh≥h berechnex₁, x₁ z.B. mit eingebettetem RKV

7.5) Steife Differentialgleichungen

steife Dgl.: min{Reλ|λEW vonf_x(x(t)), t∈[t₀, t_f]} ·(t_f −t₀)0 Bsp.: Testgl.x˙ =λx(λ <0) f ¨ur expl./impl. Euler

Ziel: Stabilit ¨atsgebietG“groß”, z.B.C⁻⊂G(A-stabil)

Lemma: F ¨ur RKV istG={z| |R(z)| ≤1}mitR(z) = 1 +zb^T(I−zA)⁻¹e= ^P_Q(z)^(z), P, QPolynome vom Grad≤s

Satz: GradP >GradQ⇒Stab.gebiet beschr ¨ankt, gilt f ¨ur alle expliziten RKV Bew.:Q= 1, P(z) = 1 +z+O(z²)

L ¨ose Gls. f ¨urKi mit Newton-Verfahren, Vereinfachungen:K⁰ = 0, Jacobi-Matrix fix, DIRK bzw. SDIRK, Bsp.: Rosenbrock-Verfahren

8.) Extrapolation und numerische Differentiation