Eﬃziente Algorithmen (SS2015) Kapitel 7 Lineare Programme 2 Walter Unger

(1)

Effiziente Algorithmen (SS2015)

Kapitel 7 Lineare Programme 2

Walter Unger

Lehrstuhl für Informatik 1

11:15 Uhr, den 15. Juli 2015

(2)

Algorithmus von Seidel Dualität Ganzzahligkeit

7 Inhaltsverzeichnis < > Walter Unger 15.7.2015 11:15 SS2015 Z

Inhalt I

1 Algorithmus von Seidel Einleitung Details Algorithmus Laufzeit

2 Dualität

Einleitung Aussagen Beispiele

3 Ganzzahligkeit Einleitung Unimodularität

(3)

7:1 Einleitung < > Walter Unger 15.7.2015 11:15 SS2015 Z

Idee des Algorithmus von Seidel

Wenn die Dimension klein ist, oder die Anzahl der Nebenbedingungen klein ist, dann ist das Lösen von einem Ungleichungssystem einfach. Daher wird beim Algorithmus von Seidel eine kleine Menge von Nebenbedingungen zufällig aus- gewählt und für dieses vereinfachte System dann eine Lösung bestimmt.

Danach werden zufällig die bisher nicht betrachteten Nebenbedingungen hin- zugefügt. Es gibt dann zwei Möglichkeiten:

Die bisher berechnete Lösung ist zufällig weiterhin gültig und damit weiterhin optimal.

Die bisher berechnete Lösung ist nicht mehr gültig. Damit muss die neue optimal Lösung auf dem Schnitt mit dem bisherigen Polyhedron und der durch die hinzugefügte Nebenbedingung bestimmte Hyperebene liegen.

Nun wird rekursiv auf diesem Schnitt eine neue optimal Lösung bestimmt.

Zu beachten ist, daß das im Weitern beschriebene Verfahren rekursiv ist, d.h.

es fängt mit dem Löschen von Nebenbedingungen an, bis ein einfaches kleines System entsteht. Nachdem da eine Lösung gefunden ist, werden die Nebenbe- dingungen wieder einzeln eingefügt.

(4)

Die Idee

Kann eine zufällige Auswahl helfen?

Können effiziente Algorithmen noch schneller gemacht werden?

Kann bei schweren Problemen mit ausreichender Wahrscheinlichkeit ein gutes Ergebnis erreicht werden?

(5)

Einleitung

Bestimme Extrempunkt eines Polyhedrons bezüglich einer Zielfunktion.

Eingabe:

Gegeben sindd Variablen.

Gegeben sindmlineare Ungleichungen (Nebenbedingungen).

Gegeben ist eine lineare Zielfunktionf über died Variablen.

Gesucht:

Maximieref unter Berücksichtigung aller Nebenbedingungen.

Das ist ein LP (lineares Programm)

Obere Schranke für Laufzeit:O((^m_d)) =O(n^d).

Untersuche für jeded-elementige Teilmenge dermUngleichungen den jeweiligen Schnittpunkt (Basislösung).

Hier nun Algorithmus mit erwarteter linearer Laufzeit (d.h. linear inm).

(6)

7:4 Einleitung 1∕10 < > Walter Unger 15.7.2015 11:15 SS2015 Z

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f f₄

f₅

f6

f7 f8 f9

Maximierey unter den Nebenbedingungen 0≤x≤20, 0≤y≤10, und:

f1∶y ≤3⋅x+1 f4∶y≤ −0.9⋅x+9 f7∶y≥0.5⋅x−5 f2∶y ≤1⋅x+2 f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10 f3∶y ≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y≤1.05⋅x+8

(7)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹

f2

3f f₄

f₅

f6

f7 f8 f9

f1∶y ≤3⋅x+1

f4∶y≤ −0.9⋅x+9 f7∶y≥0.5⋅x−5 f2∶y ≤1⋅x+2 f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10 f3∶y ≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y≤1.05⋅x+8

(8)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f f₄

f₅

f6

f7 f8 f9

f1∶y ≤3⋅x+1

f4∶y≤ −0.9⋅x+9 f7∶y≥0.5⋅x−5

f2∶y ≤1⋅x+2

f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10 f3∶y ≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y≤1.05⋅x+8

(9)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f

f₄

f₅

f6

f7 f8 f9

f1∶y ≤3⋅x+1

f4∶y≤ −0.9⋅x+9 f7∶y≥0.5⋅x−5

f2∶y ≤1⋅x+2

f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10

f3∶y ≤ −2⋅x+30

f6∶y≤ −2⋅x+40 f9∶y≤1.05⋅x+8

(10)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f f₄

f₅

f6

f7 f8 f9

f1∶y ≤3⋅x+1 f4∶y≤ −0.9⋅x+9

f7∶y≥0.5⋅x−5

f2∶y ≤1⋅x+2

f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10

f3∶y ≤ −2⋅x+30

f6∶y≤ −2⋅x+40 f9∶y≤1.05⋅x+8

(11)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f f₄

f₅

f6

f7 f8 f9

f1∶y ≤3⋅x+1 f4∶y≤ −0.9⋅x+9

f7∶y≥0.5⋅x−5

f2∶y ≤1⋅x+2 f5∶y≥ −0.9⋅x+2

f8∶y≥1⋅x−10

f3∶y ≤ −2⋅x+30

f6∶y≤ −2⋅x+40 f9∶y≤1.05⋅x+8

(12)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f f₄

f₅

f6

f7 f8 f9

f1∶y ≤3⋅x+1 f4∶y≤ −0.9⋅x+9

f7∶y≥0.5⋅x−5

f2∶y ≤1⋅x+2 f5∶y≥ −0.9⋅x+2

f8∶y≥1⋅x−10

f3∶y ≤ −2⋅x+30 f6∶y≤ −2⋅x+40

f9∶y≤1.05⋅x+8

(13)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f f₄

f₅

f6

f7

f8 f9

f1∶y ≤3⋅x+1 f4∶y≤ −0.9⋅x+9 f7∶y≥0.5⋅x−5 f2∶y ≤1⋅x+2 f5∶y≥ −0.9⋅x+2

f8∶y≥1⋅x−10

f3∶y ≤ −2⋅x+30 f6∶y≤ −2⋅x+40

f9∶y≤1.05⋅x+8

(14)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f f₄

f₅

f6

f7 f8

f9

f1∶y ≤3⋅x+1 f4∶y≤ −0.9⋅x+9 f7∶y≥0.5⋅x−5 f2∶y ≤1⋅x+2 f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10 f3∶y ≤ −2⋅x+30 f6∶y≤ −2⋅x+40

f9∶y≤1.05⋅x+8

(15)

Beispiel

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

3f f₄

f₅

f6

f7 f8 f9

f1∶y ≤3⋅x+1 f4∶y≤ −0.9⋅x+9 f7∶y≥0.5⋅x−5 f2∶y ≤1⋅x+2 f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10 f3∶y ≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y≤1.05⋅x+8

(16)

7:5 Details < > Walter Unger 15.7.2015 11:15 SS2015 Z

Vorgaben

Variablen:x1,x2, . . . ,xd mit:

x= (x1,x2, . . . ,xd)^T und Nebenbedingungen:A⋅x≤bmit:

Aist einem×d Matrix und b= (b1,b2, . . . ,bd)^T. Zielfunktionf(x) =c^T⋅x mit:

c= (c1,c2, . . . ,cd).

O.B.d.A. gibt es eine zulässige Lösung.

O.B.d.A. ist die Lösung eindeutig.

Falls nicht, so setze:

ci=ci+εⁱ für einε>0.

Zielfunktion wird virtuell perturbiert (durcheinander wirbeln,stören).

D.h. es wird lexikographisch kleinste Basislösung gewählt.

Jede Nebenbedingung entspricht einer Hyperebene.

(17)

7:6 Details < > Walter Unger 15.7.2015 11:15 SS2015 Z

Vorgaben

Das LP sollte nicht unbeschränkt sein.

Daher werden zusätzlich Box-Bedingungen eingefügt.

−t≤xi≤t für: (1≤i≤d).

t muss so groß sein, dass keine Basislösung verloren geht.

D.h. in jeder Basislösung müssen die Variablenwerte zwischent und

−t liegen.

So ein Werttexistiert immer.

t kann polynomiell in der Eingabelänge bestimmt werden.

Man kann aucht als symbolischen Wert darstellen.

Dann wirdtim folgenden Algorithmus immer größer sein als jeder bis dahin berechnete Wert.

(18)

7:7 Algorithmus < > Walter Unger 15.7.2015 11:15 SS2015 Z

Algorithmus von Seidel (1991)

Idee:

SeiHdie Menge der Nebenbedingungen (Ohne Box-Bedingungen).

Wähle zufälligh∈H aus, und löse dann rekursiv.

FürH^′⊂HseiLP(H^′)das LP, bei dem alle Nebenbedingungen aus H∖H^′gestrichen wurden.

Die optimale Basislösung vonLP(H^′)wird mitopt(H^′)bezeichnet.

Algorithmus von Seidel:

1 Fallsd=1 oderm=0, so gebeopt(H)aus.

2 Ansonsten wähle uniform eine Nebenbedingungh∈Haus, und berechneopt(H∖ {h})rekursiv.

3 Fallsopt(H∖ {h})die Nebenbedingunghnicht verletzt, so gebe opt(H∖ {h}) =opt(H)aus.

4 Ansonsten berechne den Schnitt des Lösungspolyhedrons mit der Hyperebeneh, und löse das so entstandene(d−1)-dimensionale LP rekursiv.

(19)

7:8 Algorithmus 1∕9 < > Walter Unger 15.7.2015 11:15 SS2015 Z

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

f3 f₄

f₅

f6

f7

f8 f₉

Entferne nacheinander

f8,f1,f5 undf7und löse jeweils rekursiv.

f1∶y≤3⋅x+1 f4∶y≤ −0.9⋅x+9 f7∶y ≥0.5⋅x−5 f2∶y≤1⋅x+2 f5∶y≥ −0.9⋅x+2 f8∶y ≥1⋅x−10 f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

1. Fallsd=1 oderm=0, so gebeopt(H) aus.

2. Ansonsten wähleh∈H aus, und berechne opt(H∖ {h}) rekursiv.

3.Falls opt(H∖ {h}) die Nebenbe- dingunghnicht verletzt, so gebeopt(H∖ {h}) = opt(H)aus.

4. Ansonsten berechne den Schnitt mit der Hyperebeneh, und löse das so entstandene (d−1)- dimensionale LP rekursiv.

(20)

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

f3 f₄

f₅

f6

f7

f8 f₉

Entferne nacheinanderf8,

f1,f5 undf7und löse jeweils rekursiv.

(21)

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

f3 f₄

f₅

f6

f7

f8 f₉

(22)

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

f3 f₄

f₅

f6

f7

f8

f₉

Entferne nacheinanderf8,f1,

f5 undf7und löse jeweils rekursiv.

f1∶y≤3⋅x+1 f4∶y≤ −0.9⋅x+9 f7∶y ≥0.5⋅x−5 f2∶y≤1⋅x+2 f5∶y≥ −0.9⋅x+2

f8∶y≥1⋅x−10

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(23)

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹ f2

f3 f₄

f₅

f6

f7

f8

f₉

f5 undf7und löse jeweils rekursiv.

f1∶y≤3⋅x+1 f4∶y≤ −0.9⋅x+9 f7∶y ≥0.5⋅x−5 f2∶y≤1⋅x+2 f5∶y≥ −0.9⋅x+2

f8∶y≥1⋅x−10

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(24)

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹

f2

f3 f₄

f₅

f6

f7

f8

f₉

Entferne nacheinanderf8,f1,f5

undf7und löse jeweils rekursiv. f1∶y≤3⋅x+1

f4∶y≤ −0.9⋅x+9 f7∶y ≥0.5⋅x−5 f2∶y≤1⋅x+2 f5∶y≥ −0.9⋅x+2

f8∶y≥1⋅x−10

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(25)

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹

f2

f3 f₄

f₅

f6

f7

f8

f₉

undf7und löse jeweils rekursiv. f1∶y≤3⋅x+1

f4∶y≤ −0.9⋅x+9 f7∶y ≥0.5⋅x−5 f2∶y≤1⋅x+2 f5∶y≥ −0.9⋅x+2

f8∶y≥1⋅x−10

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(26)

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹

f2

f3 f₄

f₅

f6

f7

f8

f₉

Entferne nacheinanderf8,f1,f5 undf7und löse jeweils rekursiv.

f1∶y≤3⋅x+1

f4∶y≤ −0.9⋅x+9 f7∶y ≥0.5⋅x−5 f2∶y≤1⋅x+2

f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(27)

Beispiel (Abstieg der ersten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f¹

f2

f3 f₄

f₅

f6

f7

f8

f₉

Entferne nacheinanderf8,f1,f5 undf7und löse jeweils rekursiv.

f1∶y≤3⋅x+1

f4∶y≤ −0.9⋅x+9 f7∶y ≥0.5⋅x−5 f2∶y≤1⋅x+2

f5∶y≥ −0.9⋅x+2 f8∶y≥1⋅x−10

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(28)

Beispiel (Abstieg der nächsten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f2

f3 f₄

f6 f₉

opt opt

Entferne nacheinander

f4,f6,f3 undf2und löse jeweils rekursiv.

f4∶y≤ −0.9⋅x+9 f2∶y≤1⋅x+2

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(29)

Beispiel (Abstieg der nächsten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f2

f3 f₄

f6 f₉

opt opt

f4∶y≤ −0.9⋅x+9 f2∶y≤1⋅x+2

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(30)

Beispiel (Abstieg der nächsten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f2

f3 f₄

f6 f₉

opt opt

f4∶y≤ −0.9⋅x+9 f2∶y≤1⋅x+2

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(31)

Beispiel (Abstieg der nächsten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f2

f3

f₄

f6 f₉

opt opt

f3 undf2und löse jeweils rekursiv. f4∶y≤ −0.9⋅x+9

f2∶y≤1⋅x+2

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(32)

Beispiel (Abstieg der nächsten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f2

f3

f₄

f6 f₉

opt opt

f3 undf2und löse jeweils rekursiv. f4∶y≤ −0.9⋅x+9

f2∶y≤1⋅x+2

f3∶y≤ −2⋅x+30 f6∶y≤ −2⋅x+40 f9∶y ≤1.05⋅x+8

(33)

Beispiel (Abstieg der nächsten vier Rekursionen)

0 1 2 3 4 5 6 7 8 9 10

0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

f2

f3

f₄

f6

f₉

opt opt

undf2und löse jeweils rekursiv. f4∶y≤ −0.9⋅x+9

f2∶y≤1⋅x+2 f3∶y≤ −2⋅x+30

f6∶y≤ −2⋅x+40

f9∶y ≤1.05⋅x+8