Lösungsvorschlag zu Aufgabe 1

ETH Zürich

Institut für Theoretische Informatik

Prof. Dr. Angelika Steger, Dr. Johannes Lengler Len Florian Meier

HS 2018

Algorithmen und Komplexität Lösungsvorschlag zu Übungsblatt 1

Lösungsvorschlag zu Aufgabe 1

(a) Ja, da limn→∞ lnn

log₂n =ln 2.

(b) Nein, da lim sup_n→∞logⁿ

2n =∞.

(c) Ja, da lim sup_n→∞n^n!n =limn→∞n·(n−1)····1

n·n····n ≤limn→∞1

n =0. Via

n→lim∞

n!

nⁿ ≤ lim

n→∞

dn/2e n

dn/2e n n

bn/2c

≤ lim

n→∞

1

2+ ¹ n

dn/2e

(oder mit der Stirling-Formel) sieht man sogar dass der Limes exponentiell gegen 0 geht.

(d) Nein, siehe (c).

(e) Nein, da lim sup_n→∞²₂²ⁿn =lim sup_n→∞2ⁿ =∞.

(f) Ja, da limn→∞1/n 1 =0.

Lösungsvorschlag zu Aufgabe 2

Das folgende Programm verdoppelt die Zahlen in den SpeicherzellenM1, . . . ,Mn: Eingabe: nnatürliche Zahlen inM₁, . . . ,MnsowieM₀=n.

Ausgabe: Die Zahlen inM₁, . . . ,Mnverdoppelt.

1:M−2←1 2:M−1←M_M0 3:M−1←M−1+M−1

4:MM₀ ←M−1

5:M0←M0−M−2

6: GOTO 2 IFM0>0.

Die Zahl inM0sagt uns, wieviele Zahl wir verdoppeln müssen. Wir starten beiMnund kopieren in Befehlszeile 2 die Zahl vonMnnachM−1. Dort wird sie verdoppelt, anschliessend überschrei- ben wirMnmit dem neuen Wert. Wir habenMnsomit verdoppelt, machen unseren Zähler inM0

um eins kleiner und fahren danach mitMn−1fort. Dieses Prozedere wiederholen wir solange bis M0=0. Dann sind alle Zahlen verdoppelt und das Programm ist fertig.

Lösungsvorschlag zu Aufgabe 3

Seien L_A(n)_, L_B(n)_bzw. L_C(n) die Laufzeiten der Algorithmen FIBA, FIBB bzw. FIBC für die Eingaben.

Wir bemerken zuerst, dass die Fibonacci-Zahlen exponentiell wachsen, indem wir folgende Schran- ken mittels vollständiger Induktion zeigen

2ⁿ ≥Fn≥

3

2 n−2

1

Als Induktionsschritt haben wir

2ⁿ⁺¹≥2ⁿ+2ⁿ⁻¹≥Fn+Fn−1=Fn

und

Fn+1=Fn+Fn−1≥

3

2 n−2

+

3

2 n−3

=

3

2

n−3

3 2+1

≥

3

2 n−1

;

als Induktionsanfang 2¹ ≥ F1 = 1 ≥ ³₂⁻¹ = ²₃ und 2² ≥ F2 = 1 ≥ ³₂⁰ = 1. Aus obiger Schranke folgt, dass

nlog₂2=_log22ⁿ ≥log₂Fn≥log₂

3

2 n−2

= (n−2)_log2³ 2 , insbesondere werdenΘ(n)Bits benötigt umFnabzuspeichern.

a) Wir zeigen dass unter Annahme des EinheitskostenmodellLA(n) = Ω((³₂)ⁿ),LB(n) = Θ(n) undLC(n) = Θ(logn)gilt. Es folgt, dass Algorithmus FIBC schneller als Algorithmus FIBB und dieser schneller als FIBA ist.

FIBA berechnetFnrekursiv, indem er FIBA(n−1)und FIBA(n−2)aufruft. gilt aufgrund der rekursiven Definition

L(n) =L(n−1) +L(n−2) +O(1) (1) (die Addition der beiden vorhergehenden Fibonacci-Zahlen und die vorhergehenden Befehle benötigenO(1)Zeit), wobei

L(0) =L(1)≥1 .

Man sieht, dassL(n)selbst einer Fibonacci-ähnlichen Rekursionsgleichung folgt undL(n)≥ Fngilt.

Es folgt, dassL_A(n) = _Ω( ³₂ⁿ)gilt, d.h. die Lauzeit von FIBA ist exponentiell. Ganz genau könnte man durch Lösen der inhomogenen Differenzengleichung (1) zeigen, dass die Laufzeit Θ(Φⁿ)ist, wobei Φ = ¹⁺

√5

2 ≈ 1.61 („Goldener Schnitt“). Dies hängt natürlich zusammen mit der expliziten Darstellung der Fibonacci-Folge Fn = ^√1

5(_Φⁿ−(1−_Φ)ⁿ), welche man als Lösung der zu (1) zugehörigen homogenen Differenzengleichung erhält. Die Laufzeit von FIBA wächst also gleich schnell wie die Fibonacci-Zahlen selbst.

Nun zu FIBB. Hier wird die FOR-Schleife(n−1)-mal durchlaufen, wobei in jedem Durch- lauf konstant viele Operationen ausgeführt werden. Da wir das Einheitskostenmass benutzen benötigt jede dieser Operatioinen eine Zeiteinheit. Es folgtLB(n) =Θ(n).

Zuletzt betrachten wir FIBC. Beachte, dass die Multiplikation von zwei 2×2 Matrizen nur konstant viele Multiplikationen und Additionen benötigt. Das bedeutet, dass jede Iteration der For-Schleife konstant viel Zeit benötigt. Da die For-Schleife log₂(n)mal durchlaufen wird, giltL_C(n) =_Θ(_logn)_.

b) Untersuchen wir also noch die Laufzeiten mit dem logarithmischen Kostenmass.

Die Laufzeit von FIBA folgt nun der Rekursion

L(n) =L(n−1) +L(n−2) +logFn−1+logFn−2+O(1),

da der Zeitbedarf für die Addition der zwei vorhergehenden Fibonaccizahlen nun gleich der Summe der Anzahl involvierter Bits ist. Wie oben wächstL_A(n)mindestens so schnell wieFn

und gleichermassen folgt dassL_A(n) =_Ω((³₂)ⁿ)gilt.

2

In FIBB benötigt die i-te Iteration der For-Schleife Θ(_logF_i) = _Θ(i) Zeit, da die Fibonacci- Zahlen exponentiell wachsen. Als Gesamtlaufzeit ergibt sich

∑

Θ(i) =_Θ(n²).

Für FIBC bemerken wir zuerst, dass

1 1

1 0 n

=

F_n+1 Fn

Fn Fn−1

gilt. Diei-te Iteration der For-Schleife benötigtΘ(logF₂i) =_Θ(2ⁱ)Zeit, da Zahlen der Grösse F₂i involviert sind und konstant viele Operationen ausgeführt werden. Als Gesamtlaufzeit ergibt sich

∑

Θ(2ⁱ) =Θ(n).

Demnach ist auch unter der Annahme des logarithmischen Kostenmasses AlgorithmusFibC schneller alsFibB, welcher schneller alsFibAist.

Wir bemerken, dass auch das logarithmische Kostenmass nicht ganz der Wahrheit entspricht.

Zwar benötigt eine Addition zweier Zahlenmundn tatsächlich annähernd log₂m+log₂n Zeit. Die Mutliplikation vonmundnwürde allerdings unter der Verwendung der schriftliche Multiplikation log₂mlog₂n Zeit benötigen, da man log₂mZahlen der Länge log₂n addie- ren muss. Es gibt effizientere Verfahren zur Multiplikation zweier Zahlen, zum Beispiel der Schönhage-Strassen-Algorithmus (1971) kann zwei Zahlen der LängeninO(nlognlog logn) Bitoperationen multiplizieren. Allerdings ist dieser Algorithmus für praktische Zwecken meist nicht geeignet, da die Konstanten die sich hinter derO-Notation verstecken riesig sind.

c) Leider haben wir bei der Analyse in a) gemogelt: die Fibonaccizahl Fn ist exponentiell viel grösser als die Eingaben, d.h., wir haben die “ungeschriebenen Regeln” verletzt. Diese be- sagen, dass unter Verwendung des Einheitskostenmasses nurpolynomial beschränkteZahlen in Speicherzellen abgespeichert werden dürfen, d.h. Zahlen, die kleiner sind als n^k für ein beliebiges aber festesk. Beachte, wennkfest ist, werdenΘ(logn)Bitoperationen für die Ad- dition zweier Zahlen der Grössen^kbenötigt. Für die Addition zweier Zahlen der Grösse 2ⁿ benötigen wir allerdingsΘ(n)Bitoperationen, was deutlich grösser alsΘ(logn)ist und nicht mit guten Gewissen vernachlässigt werden kann. Deshalb sollte für Algorithmen, bei denen Zahlen exponentiell viel Grösser als die Eingaben werden, das logarithmische Kostenmass verwendet werden. Für diese Aufgabe ist deshalb die Analyse in b) besser geeignet. Für den Rest der Vorlesung (mit Ausnahme des Kapitels Komplexitätstheorie) werden wir zur Lauf- zeitanalyse das Einheitskostenmass verwenden.

d) Ähnlich zur Binärdarstellung von n stellen wir Aⁿ als Produkt der von FIBC berechneten Matrizen dar.

Seik=dlog₂nedie Anzahl Stellen in der Binärdarstellungn₁n2. . .n_kvonn. Der Algorithmus FIBC berechnet die Matrizen A²¹,A²²,A²³, . . .. Wir speichern alleA²ⁱ füri = _{0, . . .}kab und benutzen diese Matrizen umAⁿzu berechnen:

Aⁿ= A^{∑ki=12k−ini} =

∏

A^2k−ini

Um dieses Produkt zu berechnen brauchen wirO(logn)zusätzliche Matrixmultiplikationen, das heisst, die asymptotische Laufzeit bleibt unverändert.

3