Datenstrukturen und Algorithmen Vorlesung 16: Minimale Spannbäume (K23) Joost-Pieter Katoen

(1)

Minimale Spannbäume

Datenstrukturen und Algorithmen

Vorlesung 16: Minimale Spannbäume (K23)

Joost-Pieter Katoen

Lehrstuhl für Informatik 2 Software Modeling and Verification Group

https://moves.rwth-aachen.de/teaching/ss-18/dsal/

22. Juni 2018

(2)

Minimale Spannbäume

Übersicht

1 Spannbäume

2 Minimale Spannbäume

3 Greedy Algorithmen

4 Die Algorithmen von Kruskal und Prim

5 Implementierung und Komplexität

(3)

Minimale Spannbäume Spannbäume

Übersicht

1 Spannbäume

(4)

Spannbaum Probleme

Spannbaum

Ein Spannbaumeines ungerichteten, zusammenhängenden Graphen G ist einTeilgraph von G, der ein ungerichteter Baum ist und alle Knoten von G enthält.

Beispiel (Spannbaum Probleme)

I Verbinde alle Kunden durch Glasfaberkabeln

I Computernetzwerke verkabeln

I Verdrahtung von Schaltungen beim Chipdesign

I Erneuere die Straßenbeläge zwischen alle Flughafenterminals

I . . . .

(5)

Spannbaum Probleme

Spannbaum

Ein Spannbaumeines ungerichteten, zusammenhängenden Graphen G ist einTeilgraph von G, der ein ungerichteter Baum ist und alle Knoten von G enthält.

Beispiel (Spannbaum Probleme)

I Verbinde alle Kunden durch Glasfaberkabeln

I Verdrahtung von Schaltungen beim Chipdesign

I Erneuere die Straßenbeläge zwischen alle Flughafenterminals

(6)

Glasfabernetz

I Müssen alle Leitungen erneuert werden?

I Wie wählt man die zu erneuernden Abschnitte aus?

I Gibt es eine eindeutige Lösung?

so daß

I Alle Kunden profitieren

I Jeder kann mit jedem über Glasfaber kommunizieren

I Sparsamkeit: keine doppelte Verbindungen

(7)

Glasfabernetz

so daß

(8)

Glasfabernetz

so daß

(9)

Telefonleitungsnetz

(10)

Zwei Abdeckungen

Alle Kunden sind angeschlossen

. . . und sind miteinander verbunden

(11)

Zwei Abdeckungen

Alle Kunden sind angeschlossen . . . und sind miteinander verbunden

(12)

Einige Fakten bzgl. Bäume

Satz

In einem Baum sind je zwei Knoten durch genau einen Weg verbunden.

Satz

Ein Baum ist minimal zusammenhängend und maximal kreisfrei.

Fügt man eine Kante in einem Baum hinzu, entsteht ein Kreis. Löscht man eine Kante, erhält man zwei Zusammenhangskomponenten.

(13)

Einige Fakten bzgl. Bäume

Satz

Fügt man eine Kante in einem Baum hinzu, entsteht ein Kreis. Löscht man eine Kante, erhält man zwei Zusammenhangskomponenten.

(14)

Einige Fakten bzgl. Bäume

Satz

Fügt man eine Kante in einem Baum hinzu, entsteht ein Kreis.

(15)

Einige Fakten bzgl. Bäume

Satz

Beweis.

In jedem Baum sind je 2 Knoten durch einen eindeutigen Weg verbunden.

Löscht man eine Kante, wird mindestens einer dieser Wege unterbrochen. Damit ist der Restgraph nicht zusammenhängend. Fügt man eine Kante (u,v) hinzu, dann bekommt man zusätzlich zu den eindeutigen Weg im Baum zwischen uundv einen weiteren Weg zwischen uundv. Das ergibt ein Kreis.

1. Jeder Baum (mit mindestens 2 Knoten) besitzt mindestens 2 Blätter 2. Ein Baum mit n Knoten hat n−1 Kanten.

Beweis.

Hausaufgabe. Hinweis für 2: plücken Sie Blatt um Blatt ab.

(16)

Einige Fakten bzgl. Bäume

Satz

Beweis.

In jedem Baum sind je 2 Knoten durch einen eindeutigen Weg verbunden. Löscht man eine Kante, wird mindestens einer dieser Wege unterbrochen.

Damit ist der Restgraph nicht zusammenhängend. Fügt man eine Kante (u,v) hinzu, dann bekommt man zusätzlich zu den eindeutigen Weg im Baum zwischen uundv einen weiteren Weg zwischen uundv. Das ergibt ein Kreis.

Beweis.

(17)

Einige Fakten bzgl. Bäume

Satz

Beweis.

In jedem Baum sind je 2 Knoten durch einen eindeutigen Weg verbunden. Löscht man eine Kante, wird mindestens einer dieser Wege unterbrochen. Damit ist der Restgraph nicht zusammenhängend.

Fügt man eine Kante (u,v) hinzu, dann bekommt man zusätzlich zu den eindeutigen Weg im Baum zwischen uundv einen weiteren Weg zwischen uundv. Das ergibt ein Kreis.

Beweis.

(18)

Einige Fakten bzgl. Bäume

Satz

Beweis.

In jedem Baum sind je 2 Knoten durch einen eindeutigen Weg verbunden. Löscht man eine Kante, wird mindestens einer dieser Wege unterbrochen. Damit ist der Restgraph nicht zusammenhängend. Fügt man eine Kante (u,v) hinzu, dann bekommt man zusätzlich zu den eindeutigen Weg im Baum zwischenu undv einen weiteren Weg zwischen uundv. Das ergibt ein Kreis.

Beweis.

(19)

Einige Fakten bzgl. Bäume

Satz

Beweis.

In jedem Baum sind je 2 Knoten durch einen eindeutigen Weg verbunden. Löscht man eine Kante, wird mindestens einer dieser Wege unterbrochen. Damit ist der Restgraph nicht zusammenhängend. Fügt man eine Kante (u,v) hinzu, dann bekommt man zusätzlich zu den eindeutigen Weg im Baum zwischenu undv einen weiteren Weg zwischen uundv. Das ergibt ein Kreis.

1. Jeder Baum (mit mindestens 2 Knoten) besitzt mindestens 2 Blätter 2. Ein Baum mit n Knoten hatn−1 Kanten.

(20)

Anzahl der Spannbäume

Spannbaum

Ein Spannbaumeines ungerichteten, zusammenhängenden Graphen G ist einTeilgraph von G, der ein Baum ist und alle Knoten vonG enthält.

Die Cayley Formel

Den vollständigen Graphen mit n Knoten hat nⁿ⁻² Spannbäume.

3 Spannbäume fürn=3 Knoten

(21)

Anzahl der Spannbäume

Spannbaum

Ein Spannbaumeines ungerichteten, zusammenhängenden Graphen G ist einTeilgraph von G, der ein Baum ist und alle Knoten vonG enthält.

(22)

Anzahl der Spannbäume

Beweis.

In der Vorlesung.

(23)

Minimale Spannbäume Minimale Spannbäume

Übersicht

1 Spannbäume

(24)

Kosten

Beispiel

I Finde den kostengünstigstenWeg, um eine Menge von Flughafenterminals, Städten, . . . zu verbinden

I Verdrahtung von Schaltungen mit geringstemEnergieverbrauch

I Verbinde alle Kunden kostengünstigdurch Glasfaberkabeln

Das ist die Begründung für (kosten-) minimale Spannbäume!

(25)

Kosten

Beispiel

I Finde denkostengünstigsten Weg, um eine Menge von Flughafenterminals, Städten, . . . zu verbinden

(26)

Kosten

Beispiel

(27)

Kosten

Beispiel

(28)

Leitungskosten

Unterschiedliche Umgebungen verursachen unterschiedliche Kosten für die Verlegung von Kabeln.

(29)

Was ist ein minimaler Spannbaum?

Kantengewichteter ungerichteter Graph

Ein (kanten-)gewichteter GraphG ist ein Tripel (V,E,W), wobei:

I (V,E) ein ungerichteter Graph ist, und

I W :E −→IR Gewichtsfunktion.W(e) ist dasGewicht der Kantee.

Gewicht eines Graphen

Das GewichtW(G⁰) des Teilgraphen G⁰ = (V⁰,E⁰) vom gewichteten Graph G ist:W(G⁰) = ^X

e∈E⁰

W(e).

Minimaler Spannbaum

Ein Spannbaum vom (ungerichteter, gewichteter, zusammenhängen) Graphen G mit minimalem Gewicht heißtMinimaler Spannbaum (minimum spanning tree, MST) vonG.

(30)

Was ist ein minimaler Spannbaum?

e∈E⁰

W(e).

Ein Spannbaum vom (ungerichteter, gewichteter, zusammenhängen) Graphen G mit minimalem Gewicht heißtMinimaler Spannbaum (minimum spanning tree, MST) vonG.

(31)

Was ist ein minimaler Spannbaum?

e∈E⁰

W(e).

(32)

Minimaler Spannbaum – Beispiel

A

B

C

D

E

F G

H 14

6

10 5 5

3 3

4 4

8 8

2

15 15 9 9

Was ist ein minimaler Spannbaum?

(33)

Minimaler Spannbaum – Beispiel

A

B

C

D

E

F G

H 14

6

10 5 5

3 3

4 4

8 8

2

15 15 9 9

(34)

Minimaler Spannbaum – Beispiel

A

B

C

D

E

F G

H 14

6

10 5 5

3 3

4 4

8 8

2

15 15 9 9

Dasist einminimaler Spannbaum (mit Gesamtgewicht 46).

In diesem Fall ist es auch der einzige.

(35)

Minimaler Spannbaum – Beispiel

A

B

C

D

E

F G

H 14

6

10 5 5

3 3

4 4

8 8

2

15 15 9 9

(36)

Tiefen- oder Breitensuche?

A

B

C

D

E

F G

H 14

6

10 5 5

3 3

4 4

8 8

2 15 15 9 9

Tiefensuchbaum (von A gestartet) Gesamtgewicht: 55

A

B

C

D

E

F G

H 14

6

10 5 5

3 3

4 4

8 8

2 15 15 9 9

Breitensuchbaum (von A gestartet) Gesamtgewicht: 67

Der Tiefensuchbaum und der Breitensuchbaum sind zwar Spannbäume, aber nicht notwendigerweise minimale Spannbäume.

(37)

Minimale Spannbäume Greedy Algorithmen

Übersicht

1 Spannbäume

(38)

Greedy Algorithmen

Wir werden zwei Greedy-Algorithmen für MST präsentieren.

Greedy-Algorithmen („ gierig“)

I Treffe in jedem Schritt eine Entscheidung, die bezüglich eines

„kurzfristigen“ Kriteriums optimal ist.

I Dieses Kriterium sollte günstig(→ Komplexität) auswertbar sein.

I Nachdem eine Wahl getroffen wurde, kann sienicht mehr rückgängig gemacht werden.

Mit Greedy-Methoden ist nicht garantiert, dass immer die beste Lösung gefunden wird, denn

I immer das lokale Optimum zu nehmen, führt nicht automatisch auch zum globalen Optimum.

I In einigen Fällen, wie dem minimalen Spannbaum und dem Kürzesten-Wege-Problem, wird aber immerdie optimale Lösung gefunden.

(39)

Greedy Algorithmen

(40)

Greedy Algorithmen

(41)

Greedy Algorithmen

(42)

Greedy Algorithmen

(43)

Greedy Algorithmen

(44)

Greedy Algorithmen

I In einigen Fällen, wie dem minimalen Spannbaum und dem Kürzesten-Wege-Problem, wird aber immerdie optimale Lösung

(45)

Greedy?

Beispiel

Greedy kann beliebig schlecht werden:

I Knotenfärbungsproblem für Graphen Greedy kann gutsein:

I Bin Packing (62x Optimum) Greedy kann optimal sein:

I Minimaler Spannbaum, Kürzester-Weg-Problem. Wann ist eine greedy Lösungsstrategie optimal?

I Optimale Lösung setzt sich aus optimalen Teilproblemen zusammen

I Unabhängigkeit von anderen Teillösungen

(46)

Greedy?

Beispiel

I Knotenfärbungsproblem für Graphen

Greedy kann gutsein:

(47)

Greedy?

Beispiel

I Bin Packing (62x Optimum)

Greedy kann optimal sein:

(48)

Greedy?

Beispiel

I Minimaler Spannbaum, Kürzester-Weg-Problem.

Wann ist eine greedy Lösungsstrategie optimal?

(49)

Greedy?

Beispiel

(50)

Greedy?

Beispiel

(51)

Das Inselreich der Stamm der Algolaner

(52)

Minimale Spannbäume Die Algorithmen von Kruskal und Prim

Übersicht

1 Spannbäume

(53)

Zwei Greedy minimaler Spannbaumalgorithmen

Eingabe: ein gewichteter zusammenhängender Graph G mitn Knoten Ausgabe: ein minimaler Spannbaum vonG

Prim’s Strategie

1. Wähle einen Startknoten.

2. Markiere die “billigste” vom bereits konstruierten Baum ausgehende Kante, falls sie keinen Kreis schließt

3. Wiederhole Schritt 2., so lange noch keine n−1 Kanten markiert sind. Kruskal’s Strategie

So lange noch keinen−1 Kanten markiert (d.h. selektiert) sind: 1. Wähle eine “billigste” noch unmarkierte Kante

2. Markiere sie, falls sie keinen Kreis mit anderen markierten Kanten schließt

(54)

Zwei Greedy minimaler Spannbaumalgorithmen

3. Wiederhole Schritt 2., so lange noch keine n−1 Kanten markiert sind.

Kruskal’s Strategie

So lange noch keinen−1 Kanten markiert (d.h. selektiert) sind: 1. Wähle eine “billigste” noch unmarkierte Kante

2. Markiere sie, falls sie keinen Kreis mit anderen markierten Kanten schließt

(55)

Zwei Greedy minimaler Spannbaumalgorithmen

3. Wiederhole Schritt 2., so lange noch keine n−1 Kanten markiert sind.

Kruskal’s Strategie

So lange noch keinen−1 Kanten markiert (d.h. selektiert) sind:

1. Wähle eine “billigste” noch unmarkierte Kante

(56)

Beispiel Prim’s und Kruskal’s Strategie

Das Inselreich der Algolaner. . . .

(57)

Korrektheit des Algorithmus von Kruskal

Der Algorithmus von Kruskal bestimmt einen minimalen Spannbaum.

Die Beweisidee beruht auf den Kantentausch für Kreise: man kann aus einem Spannbaum B einen anderen SpannbaumB⁰ konstruieren, indem man eine neue Kante hinzufügt, die—daB ein Baum ist—einen Kreis schließt, und anschließend eine andere Kante aus diesem Kreis löscht.

(58)

Korrektheit des Algorithmus von Kruskal

Die Beweisidee beruht auf den Kantentausch für Kreise: man kann aus einem Spannbaum B einen anderen Spannbaum B⁰ konstruieren, indem man eine neue Kante hinzufügt, die—daB ein Baum ist—einen Kreis schließt, und anschließend eine andere Kante aus diesem Kreis löscht.

(59)

Korrektheit des Algorithmus von Kruskal

Beweis.

Der Algorithmus liefert ein BaumB.

Zu beweisen:B ist minimal. Mit Induktion. Idee: die Mengen von Kanten die nachk Iterationen vorliegt, ist zu einem MST vonG zu ergänzen. Am Ende gilt dann die Behauptung.Basis: die erste markierte Kante hat ein minimales Gewicht. Sie kann zu einem MST ergänzt werden. Induktionsschritt: seiB_k eine MST von G, die die erstek gewählte Kanten

{e1,. . .,ek} enthält. Betrachte die (k+1). Kante ek+1. Falls ek+1∈Bk, folgt die

Behauptung. Seiek+16∈Bk. Das Hinzufügen vonek+1zuBk führt zu einem Kreis, daB_k ein Baum ist. Der (eindeutige!) Kreis inB_k enthält mindestens eine Kante e6∈B, daB ein Baum ist. Die Entfernung vone ausBk liefert wieder ein Baum. Es folgtW(e)>W(ek+1), ja sonst wäree vom Algorithmus vorek+1 gewählt worden. Damit folgt:W(B_k+1)6W(B_k). DaB_k minimal ist (I.V.), istB_k+1 minimal. Somit istBk+1 ein MST der die Kanten{e1,. . .,ek+1}enthält.

(60)

Korrektheit des Algorithmus von Kruskal

Beweis.

Der Algorithmus liefert ein BaumB. Zu beweisen:B ist minimal.

Mit Induktion. Idee: die Mengen von Kanten die nachk Iterationen vorliegt, ist zu einem MST vonG zu ergänzen. Am Ende gilt dann die Behauptung.Basis: die erste markierte Kante hat ein minimales Gewicht. Sie kann zu einem MST ergänzt werden. Induktionsschritt: seiB_k eine MST von G, die die erstek gewählte Kanten

(61)

Korrektheit des Algorithmus von Kruskal

Beweis.

Der Algorithmus liefert ein BaumB. Zu beweisen:B ist minimal. Mit Induktion.

Idee: die Mengen von Kanten die nachk Iterationen vorliegt, ist zu einem MST vonG zu ergänzen. Am Ende gilt dann die Behauptung.Basis: die erste markierte Kante hat ein minimales Gewicht. Sie kann zu einem MST ergänzt werden. Induktionsschritt: seiB_k eine MST von G, die die erstek gewählte Kanten

(62)

Korrektheit des Algorithmus von Kruskal

Beweis.

Idee: die Mengen von Kanten die nachk Iterationen vorliegt, ist zu einem MST vonG zu ergänzen.

Am Ende gilt dann die Behauptung.Basis: die erste markierte Kante hat ein minimales Gewicht. Sie kann zu einem MST ergänzt werden. Induktionsschritt: seiB_k eine MST von G, die die erstek gewählte Kanten

(63)

Korrektheit des Algorithmus von Kruskal

Beweis.

Idee: die Mengen von Kanten die nachk Iterationen vorliegt, ist zu einem MST vonG zu ergänzen. Am Ende gilt dann die Behauptung.

Basis: die erste markierte Kante hat ein minimales Gewicht. Sie kann zu einem MST ergänzt werden. Induktionsschritt: seiB_k eine MST von G, die die erstek gewählte Kanten

(64)

Korrektheit des Algorithmus von Kruskal

Beweis.

Idee: die Mengen von Kanten die nachk Iterationen vorliegt, ist zu einem MST vonG zu ergänzen. Am Ende gilt dann die Behauptung.Basis: die erste markierte Kante hat ein minimales Gewicht.

Sie kann zu einem MST ergänzt werden. Induktionsschritt: seiB_k eine MST von G, die die erstek gewählte Kanten

(65)

Korrektheit des Algorithmus von Kruskal

Beweis.

Idee: die Mengen von Kanten die nachk Iterationen vorliegt, ist zu einem MST vonG zu ergänzen. Am Ende gilt dann die Behauptung.Basis: die erste markierte Kante hat ein minimales Gewicht. Sie kann zu einem MST ergänzt werden.

Induktionsschritt: seiB_k eine MST von G, die die erstek gewählte Kanten

(66)

Korrektheit des Algorithmus von Kruskal

Beweis.

Induktionsschritt: seiB_k eine MST vonG, die die erstek gewählte Kanten {e1,. . .,ek}enthält.

Betrachte die (k+1). Kante ek+1. Falls ek+1∈Bk, folgt die Behauptung. Seiek+16∈Bk. Das Hinzufügen vonek+1zuBk führt zu einem Kreis, daB_k ein Baum ist. Der (eindeutige!) Kreis inB_k enthält mindestens eine Kante e6∈B, daB ein Baum ist. Die Entfernung vone ausBk liefert wieder ein Baum. Es folgtW(e)>W(ek+1), ja sonst wäree vom Algorithmus vorek+1 gewählt worden. Damit folgt:W(B_k+1)6W(B_k). DaB_k minimal ist (I.V.), istB_k+1 minimal. Somit istBk+1 ein MST der die Kanten{e1,. . .,ek+1}enthält.

(67)

Korrektheit des Algorithmus von Kruskal

Beweis.

Induktionsschritt: seiB_k eine MST vonG, die die erstek gewählte Kanten

{e1,. . .,ek}enthält. Betrachte die (k+1). Kanteek+1.

Fallsek+1∈Bk, folgt die Behauptung. Seiek+16∈Bk. Das Hinzufügen vonek+1zuBk führt zu einem Kreis, daB_k ein Baum ist. Der (eindeutige!) Kreis inB_k enthält mindestens eine Kante e6∈B, daB ein Baum ist. Die Entfernung vone ausBk liefert wieder ein Baum. Es folgtW(e)>W(ek+1), ja sonst wäree vom Algorithmus vorek+1 gewählt worden. Damit folgt:W(B_k+1)6W(B_k). DaB_k minimal ist (I.V.), istB_k+1 minimal. Somit istBk+1 ein MST der die Kanten{e1,. . .,ek+1}enthält.

(68)

Korrektheit des Algorithmus von Kruskal

Beweis.

{e1,. . .,ek}enthält. Betrachte die (k+1). Kanteek+1. Falls ek+1∈Bk, folgt die

Behauptung.

Seiek+16∈Bk. Das Hinzufügen vonek+1zuBk führt zu einem Kreis, daB_k ein Baum ist. Der (eindeutige!) Kreis inB_k enthält mindestens eine Kante e6∈B, daB ein Baum ist. Die Entfernung vone ausBk liefert wieder ein Baum. Es folgtW(e)>W(ek+1), ja sonst wäree vom Algorithmus vorek+1 gewählt worden. Damit folgt:W(B_k+1)6W(B_k). DaB_k minimal ist (I.V.), istB_k+1 minimal. Somit istBk+1 ein MST der die Kanten{e1,. . .,ek+1}enthält.

(69)

Korrektheit des Algorithmus von Kruskal

Beweis.

{e1,. . .,ek}enthält. Betrachte die (k+1). Kanteek+1. Falls ek+1∈Bk, folgt die

Behauptung. Seiek+16∈Bk.

Das Hinzufügen vonek+1zuBk führt zu einem Kreis, daB_k ein Baum ist. Der (eindeutige!) Kreis inB_k enthält mindestens eine Kante e6∈B, daB ein Baum ist. Die Entfernung vone ausBk liefert wieder ein Baum. Es folgtW(e)>W(ek+1), ja sonst wäree vom Algorithmus vorek+1 gewählt worden. Damit folgt:W(B_k+1)6W(B_k). DaB_k minimal ist (I.V.), istB_k+1 minimal. Somit istBk+1 ein MST der die Kanten{e1,. . .,ek+1}enthält.