Komplexitätstheorie Kapitel 7: Orakel

(1)

Komplexitätstheorie

Kapitel 7: Orakel

(2)

Einleitung

Ein Gedankenexperiment:

• Nimm an, Programm A rufe Unterprogramme B

1

,...,B

n

auf

• Wir haben ein Orakel, das wir nach den B

i

befragen können

• Orakelantwort kommt nach 1 Schritt zurück (ohne extra Speicherbedarf) Ermöglicht Analyse der Kosten für A relativ zu den Kosten der B

i

Orakel erlauben feinere Komplexitätsanalyse mancher Probleme:

• Struktur der Standard-Komplexitätsklassen wird verfeinert

• Einige Orakelklassen haben natürliche vollständige Probleme

Orakel haben wie Nichtdeterminismus theoretischen Charakter

(3)

Kapitel 7

Die Polynomielle Hierarchie (PH)

(4)

PH

(N)LogSpace, NC, AC, etc: reiche Struktur innerhalb von P

Die polynomielle Hierarchie liefert Struktur zwischen P und PSpace

Definition Minimal Circuit (MC)

Wichtiges Problem für Schaltkreisentwurf:

Schaltkreis C ist minimal wenn | C | | C | f¨ur alle C , die ¨aquivalent zu C sind, also gleiche Anzahl n von Eingabebits und

C (w) = C (w) f¨ur alle w ⇥ { 0, 1 }

ⁿ

MC ist Menge aller minimalen Schaltkreise.

Was ist die ”richtige” Komplexitätsklasse (Vollständigkeit!) für dieses

(5)

PH

Offensichtliches “Teilproblem” ist CEQ := { (C, C ) | C ¨aquivalent zu C }

Lemma

CEQ ist co-NP-vollst¨andig.

Betrachte wieder MC:

• Ist in NP wenn wir einen CEQ-Algorithmus als Unterprozedur ohne Zeitverbrauch verwenden

• Wir k¨onnen beide Algorithmen nicht zu einem NP-Algorithmus

vereinigen, weil der NP-Algorithmus einen co-NP-Algorithmus aufruft ( ⇤⇥ -Charakteristik)

Derartige Probleme sind offensichtlich in PSpace. Man kann deren

Komplexit¨at aber noch exakter bestimmen

(6)

Orakel

Orakel: Unterprogramm, dessen Zeitverbrauch ausgeblendet wird,

Definition Orakel-TM

Eine Orakel-TM (OTM) M

^O

ist eine (deterministische oder nicht-deter- ministische) TM M ausgestattet mit einem Orakel O ⇥

^⇥

. OTM hat

• ein zus¨atzliches Orakelband

• drei spezielle Zust¨ande q

_?

, q

₊

, q .

F¨ur q

₊

und q sind normale Transitionen definiert. Der Folgezustand von q

_?

ist q

₊

wenn das momentane Wort auf dem Orakelband in O ist und q sonst. Kopfposition und Bandinhalte bleiben dabei unver¨andert.

dargestellt als formale Sprache

Also schon gesehen: MC wird von Polyzeit-beschr¨ankter ONTM akzeptiert

(7)

Orakel

Orakel-TMs können auch verwendet werden, um komplexitäts- theoretische Annahmen zu formalisieren, z.B.:

• wenn SAT in konstanter Zeit lösbar wäre, welche anderen Probleme wären dann effizient lösbar (in Polyzeit mit SAT-Orakel)?

• wenn das Halteproblem für Turingmaschinen H entscheidbar wäre, welche anderen Probleme wären dann entscheidbar

(von TM mit H-Orakel)

Orakel-TM ist ebensowenig realistisches Berechnungsmodell wie nicht-deterministische TMs

Dennoch können mittels Orakel-TMs natürliche Komplexitätsklassen

definiert werden (natürlich = erfassen viele natürliche Probleme)

(8)

Orakel

Definition Orakel-Komplexitätsklassen Sei O ⇥ ein Orakel. Dann:

• P

^O

:= { L | L wird von ODTM M

^O

in poly-Zeit entschieden }

• NP

^O

:= { L | L wird von ONTM M

^O

in poly-Zeit entschieden } Sei C Komplexit¨atsklasse. Dann:

P

^C

:=

O⇥C

P

^O

NP

^C

:=

O⇥C

NP

^O

Schon gezeigt: MC NP

^CEQ

, also in MC NP

^co-NP

Leicht zu sehen: NP

^co-NP

= NP

^NP

(9)

PH

Einige Beispiele:

• P

^P

= P, NP

^P

= NP;

(Integriere Orakel in OTM)

• NP

^NP

= NP ist hingegen nicht klar, denn co-NP ✓ P

^co-NP

= P

^NP

✓ NP

^NP

• P

^NP

= P

^SAT

und ebenso für jedes andere NP-vollständige Problem (Genügt zu zeigen: P

^O

✓ P

^SAT

mit O 2 NP

integriere dazu Reduktion O 

^p

SAT in OTM)

co-NP

^C

verwenden wir f¨ur NP

^C

(10)

PH: Definition

Die polynomielle Hierarchie entsteht nun durch iteriertes Orakel- anwenden

Definition Polynomielle Hierarchie

•

^p1

= P , ⌃

^p₁

= NP, ⇧

^p₁

= co-NP,

• F¨ur k 1 sei

–

^p_k+1

= P

^⌃^p^k

– ⌃

^p_k+1

= NP

^⌃^p^k

– ⇧

^p_k+1

= co- ⌃

^p_k+1

(11)

PH: Bild und einfache Eigenschaften

p

1

= P

p

1

= NP

^p₁

= co-NP

...

Echtheit der Inklusionen ist unbekannt.

Lemma

F¨ur alle k ⇥ 1 gilt:

^p_k

⇤

^p_k ^p_k+1

und

^p_k

⇥

^p_k ^p_k+1

p

2

= NP

^NP ^p₂

= co-NP

^NP

p

2

= P

^NP

p

3

= P

^NP^NP

(12)

Die Klasse PH

Definition Polynomielle Hierarchie

Theorem

PH =

_k ₁ ^p_k

Es gibt auch eine Klasse für die gesamte polynomielle Hierarchie:

Die polynomielle Hierarchie liegt zwischen P und PSpace:

PH PS ^PACE

(13)

Kollaps der PH

Lemma

Wenn

^p_k

=

^p_k+1

, dann PH =

^p_k

.

Theorem

Wenn PH = PS ^PACE , dann kollabiert PH.

und P = NP schw¨achste aller dieser Annahmen Anders formuliert: PH kollabiert am ehesten weit oben!

Viele Resultate in der Komplexitätstheorie beziehen sich auf die Echtheit der Inklusionen in der polynomiellen Hierarchie

Also:

^p_k ₁

=

^p_k

schw¨achere Annahme als

^p_k

=

^p_k+1

Die polynomielle Hierarchie kollabiert wenn PH =

^p_k

f¨ur ein k 1

(14)

Eine nützliche Eigenschaft

Lemma

Eine Aussage über eingeschränkte Interaktion mit dem Orakel

Sei M

^O

eine Polyzeit-ONTM mit Orakel O 2 ⌃

^p_k

mit q

₊

= q

_acc

(d. h.: M

^O

akzeptiert, sobald eine Orakelfrage positiv beantwortet wird).

Dann gilt: L(M

^O

) 2 ⌃

^p_k

.

Lemma

Sei M

^O

eine Polyzeit-ONTM mit Orakel O 2 ⇧

^p_k

mit q = q

_rej

. Idee:

• rate Orakelantworten im Voraus

• integriere O-Berechnung – verwirf bei abweichenden Antworten sofort

Analoge Aussage per Komplementierung:

(15)

Kapitel 7

Logische Charakterisierung der Polynomiellen Hierarchie

(16)

Charakterisierung PH

Folgende Charakterisierung generalisiert Definition von NP Theorem

Frage nach Echtheit der Inklusionen in PH: liefern zusätzliche Quantoren- Die Klassen der polynomiellen Hierarchie werden also mittels logischer Ausdrückbarkeit beschrieben

Zur Erinnerung: L 2 NP gdw.

es gibt Polynom q und L

⁰

2 P mit L = { w | 9 u 2 { 0, 1 }

^q(^|^w^|⁾

: (w, u) 2 L

⁰

} .

L 2 ⌃

^p_k

gdw. es Polynom q und L

⁰

2 P gibt, so dass

L = { w | 9 u

₁

2 A . 8 u

₂

2 A . 9 u

₃

2 A . . . Qu

_k

2 A : (w, u

₁

, . . . , u

_k

) 2 L

⁰

} ,

wobei A = { 0, 1 }

^q(^|^w^|⁾

und Q der sich durch Alternierung ergebende Quantor.

(17)

Charakterisierung PH

Lemma

F¨ur L ⇤ ⇤

^⇥

gilt L ⇧ ⇤

^p_k

gdw. es gibt Polynom p und Relation R ⇤ ⇤

^⇥ ^⇥

so dass

• (w, b) ⇧ R impliziert | b | ⌅ p( | w | )

• R ⇧ ⇥

^p_k ₁

(wobei ⇥

^p₀

:= P )

• L = { w | ⌃ b : (w, b) ⇧ R }

Idee:

• Induktion ¨uber k

• Der Fall k = 1 folgt direkt aus Definition NP

• In ” ⇥ ” ist der Beweis b eine Berechnung der NTM zusammen mit Be-

weisen f¨ur die ”ja”-Antworten des Orakels (induktiv)

(18)

Charakterisierung PH

Korollar

Beweis: F¨ur L ⇤ ⇥

^p_k

gibt es R wie in vorigem Lemma, verwende f¨ur L : R := { (w, b) ⇤ ⇥ | (w, b) ⇤ / R und | b | ⇥ p( | w | ) }

Aus Lemma + Korollar folgt nun das urspr¨ungliche Theorem:

Ersetze wiederholt ⇥

^p_i

und

^p_i

durch ihre Beweissysteme

F¨ur L ⇤ ⇤

^⇥

gilt L ⇧ ⇥

^p_k

gdw. es gibt Polynom p und Relation R ⇤ ⇤

^⇥ ^⇥

so dass

• (w, b) ⇧ R impliziert | b | ⌅ p( | w | )

• R ⇧ ⇤

^p_k ₁

(wobei ⇤

^p₀

:= P )

• L = { w | ⌃ b ⇧

^⇥

mit | b | ⌅ p( | w | ) : (w, b) ⇧ R }

(19)

Kapitel 7

Härte und Vollständigkeit in der polynomiellen Hierarchie

(20)

Vollständigkeit

Definition

Lemma

Wenn für PH vollständige Probleme existieren, kollabiert die Hierarchie Aber PH hat wahrscheinlich keine vollständigen Probleme:

Um Probleme korrekt in die polynomielle Hierarchie "einzuordnen", brauchen wir Vollständigkeitsbegriff

F¨ur k 1 ist Problem L

• ⌃

^p_k

-hart wenn L

⁰



^p

L f¨ur alle L

⁰

2 ⌃

^p_k

;

• ⌃

^p_k

-vollst¨andig wenn L sowohl ⌃

^p_k

-hart als auch in ⌃

^p_k

.

F¨ur ⇧

^p_k

,

^p_k

und PH analog (außer f¨ur

^p₁

= P )

(21)

Vollständigkeit

Definition k-QBF

QBF liefert uniforme Familie von „typischen“ vollständigen Problemen F¨ur V = v

₁

, . . . , v

_n

schreiben wir ⇥ V als Abk¨urzung f¨ur ⇥ v

₁

· · · ⇥ v

_n

⇥ V als Abk¨urzung f¨ur ⇥ v

₁

· · · ⇥ v

_n

Beispiel f¨ur 3-QBF: ⇥ v

₁

⇥ v

₂

v

₃

⇥ v

₄

⇥ v

₅

.

QBF Q

₁

V

₁

· · · Q

_n

V

_n

' heißt k -QBF, wenn

• n = k

• Q

₁

= 9 , Q

₂

= 8 , Q

₃

= 9 etc. (Quantoren alternieren)

QBF

k

ist die Menge aller g¨ultigen k -QBFs.

(22)

Vollständigkeit

Theorem

F¨ur alle k 1 ist QBF

k p

k

-vollst¨andig.

Beginnt man die Quantorenalternierung mit “ ”, so ist k -QBF

^p_k

-vollst¨andig.

Idee:

• “in ⌃

^p_k

”: benutze logische Charakterisierung

• H¨arte: benutze logische Charakterisierung und ¨Ubersetzung

von TM in AL-Formel analog zum Beweis von Cook’s Theorem

(23)

Vollständigkeit

Definition MINSAT

In der Logik gibt es verschiedene natürliche Probleme, die voll- ständig für Klassen der polynomiellen Hierarchie sind.

F¨ur zwei WZen und schreiben wir ⇥ gdw.

(v) = 1 impliziert (v) = 1 f¨ur alle Variablen V ist minimales Modell von AL-Formel ⇥ wenn

• erf¨ullt ⇥

• f¨ur alle , die ⇥ erf¨ullen, gilt ⇥

MINSAT ist die Menge aller Tripel (⇥, v ) mit ⇥ AL-Formel und v Variable so daß (v) = 0 in allen minimalen Modellen von ⇥.

Theorem

MINSAT ist

^p₂

-vollst¨andig.

(24)

Vollständigkeit

Für Klassen weit oben in der polynomiellen Hierarchie scheint es nur sehr wenig „natürliche“ vollständige Probleme zu geben

Äquivalenzproblem für kontextfreie Grammatiken über 1-elementigen (Terminal-)Alphabeten ist

^p₂

-vollst¨andig.

Weiteres natürliches vollständiges Problem z.B.:

Es wird vermutet, dass MC (Minimial Circuit) ebenfalls

^p₂

-vollst¨andig

ist, die H¨arte konnte aber bisher nicht bewiesen werden!

(25)

Kapitel 7

P versus NP und das Theorem von Baker, Gill und Solovay

(26)

Baker, Gill und Solovay (BGS)

Warum ist P ≠ NP so schwer zu zeigen?

Theorem von BGS bietet eine Erklärung dafür:

Das heißt: ein Beweis für P ≠ NP darf nicht relativierbar sein Das schließt die meisten (elementaren) Beweistechniken aus

Theorem (Baker, Gill, Solovay 1975)

Es gibt Orakel A und B , so dass P

^A

= NP

^A

und P

^B

6 = NP

^B

.

(27)

BGS: der Fall P ^A = NP ^A

Lemma

Idee:

• W¨ahlen als A ein beliebiges PS ^PACE -vollst¨andiges Problem

• Zeigen: PS ^PACE

⁽¹⁾

✓ P

^A

✓ NP

^A ⁽²⁾

✓ PS ^PACE

(1) F¨ur L 2 PS ^PACE , berechne Reduktionsfunktion f¨ur L 

^p

A und befrage Orakel

(2) F¨ur L 2 NP

^A

, integriere Orakelberechnung in Basis-ONTM NPS ^PACE -Maschine

Der einfachere Teil:

Es gibt ein Orakel A, so dass P

^A

= NP

^A

.

(28)

BGS: der Fall P ^B ≠ NP ^B

Lemma

Der anspruchsvollere Teil:

Es gibt ein Orakel B , so dass P

^B

6 = NP

^B

.

Idee:

• Eingabealphabet f¨ur alle TM sei { 0, 1 } (o. B. d. A.)

• Ziel: konstruieren Orakel B und Problem L

_B

2 NP

^B

\ P

^B

• Wenn B konstruiert ist, k¨onnen wir L

_B

setzen als L

_B

= { 1

ⁿ

| 9 w 2 B : | w | = n } 1. Leicht zu sehen: L

_B

2 NP

^B

, unabh¨angig von B

2. M¨ussen noch B ✓ { 0, 1 }

^⇤

so konstruieren, dass L 2 / P

^B

,

(29)

BGS

BGS’ Ansatz hat zu zahlreichen ähnlichen Resultaten geführt, z.B.:

• Es gibt Orakel A und B , so dass NP

^A

= co-NP

^A

und NP

^B

6 = co-NP

^B

.

• Es gibt ein Orakel A, so dass NP

^A

= co-NP

^A

und P

^A

6 = NP

^A

.

• Es gibt Orakel A und B , so dass

– f¨ur NP

^A

\ co-NP

^A

vollst¨andige Probleme existieren und – f¨ur NP

^B

\ co-NP

^B

nicht

Probabilistische Analyse liefert zudem:

F¨ur fast alle Orakel A gilt P

^A

6 = NP

^A

(30)

Über BGS hinaus

„Moderner Nachfahre“ von BGS für Schaltkreistheorie:

Theorem von Razborov und Rudich (1997) schließt natürliche Beweise für super-polynomielle Schaltkreiskomplexität aus

(EATCS-Gödelpreis 2007)

Es gibt neue Ansätze zum Beweis von P ≠ NP,

die weder von BGS noch RR ausgeschlossen werden:

z.B. über algebraische Geometrie (Mulmuley 2012)

(31)

Abschließende Bemerkung

Wie viele Komplexitätsklassen gibt es eigentlich?

(32)

Hierarchie der Komplexitätsklassen (Ausschnitt)

(NP-cap-coNP)/poly

NP/poly PP/poly

NE/poly

L QNC^1

CSL

+EXP EXPSPACE

EESPACE EEXP

+L

+L/poly +SAC^1

AL P/poly

NC^2 P BQP/poly

+P ModP SF_2 AmpMP

SF_3

NC

1NAuxPDA^p SAC^1

AC^1

FOLL L/poly

AH ALL

AvgP

HalfP

NT

P-Close

P-Sel

P/log

UP beta_2P

compNP AM AM[polylog]

BPP^{NP}

QAM

Sigma_2P

ZPP^{NP}

IP

Delta_3P SQG

BP.PP

QIP[2] RP^{NP}

PSPACE

MIP

MIP* QIP

AM_{EXP}

IP_{EXP}

NEXP^{NP}

MIP_{EXP}

EXPH

APP PP P^{#P[1]}

AVBPP HeurBPP

EXP

AWPP A_0PP Almost-PSPACE

BPEXP BPEE MA_{EXP}

MP

AmpP-BQP BQP

Sigma_3P

BQP/log

DQP

NIQSZK QCMA

YQP

PH AvgE EE

NEE

E Nearly-P

UE

ZPE

BH P^{NP[log]}

BPP_{path}

P^{NP[log^2]}

BH_2 CH EXP/poly

BPE MA_E

EH EEE

PEXP

BPL PL

SC

NL/poly

L^{DET}

polyL BPP

BPP/log

BPQP

Check

FH N.BPP

NISZK

PZK

TreeBQP WAPP XOR-MIP*[2,1]

BPP/mlog

QPSPACE

frIP

MA N.NISZK

NISZK_h SZK

SBP QMIP_{le}

BPP//log

BPP/rlog BQP/mlog BQP/qlog

QRG ESPACE

QSZK

QMA BQP/qpoly

BQP/mpoly

CFL GCSL

NLIN

QCFL

Q

NLINSPACE RG

CZK

C_=L

C_=P

Coh

DCFL LIN NEXP

Delta_2P P^{QMA}

S_2P

P^{PP}

QS_2P RG[1]

NE

RPE NEEXP NEEE ELEMENTARY

PR R

EP

Mod_3P Mod_5P

NP

NP/one US RP^{PromiseUP}

EQP

LWPP

ZQP

WPP

RQP NEXP/poly

EXP^{NP}

SEH

Few P^{FewP}

SPP

FewL LFew

NL SPL

FewP

FewUL LogFew

RP

ZPP RBQP YP

ZBQP IC[log,poly]

QMIP_{ne}

QMIP

R_HL UL

RL PL_{infty}

MP^{#P}

SF_4

RNC QNC

QP NP/log

NT*

UAP QPLIN

betaP compIP RE

QMA(2)

SUBEXP YPP

(33)