VL-07: Satz von Rice (Berechenbarkeit und Komplexit¨at, WS 2017) Gerhard Woeginger

(1)

VL-07: Satz von Rice

(Berechenbarkeit und Komplexit¨ at, WS 2017) Gerhard Woeginger

WS 2017, RWTH

BuK/WS 2017 VL-07: Satz von Rice 1/37

(2)

Organisatorisches

• November 9: Keine Vorlesung (Fachschaftsversammlung)

• N¨achste Vorlesung:

Mittwoch, November 15, 14:15–15:45 Uhr, Roter H¨orsaal

• Webseite:

http://algo.rwth-aachen.de/Lehre/WS1718/BuK.php

(3)

Wiederholung

(4)

Wdh.: Bisher betrachtete Probleme

Die Diagonalsprache:

D = {w ∈ {0,1}^∗|w =wi undMi akzeptiertw nicht}

Das Diagonalsprachenkomplement:

D = {w ∈ {0,1}^∗|w =wi undMi akzeptiertw} Das Halteproblem:

H = {hMiw |M h¨alt aufw} Das spezielle Halteproblem:

H = {hMi |M h¨alt auf Eingabe } Alle diese Probleme sindnicht entscheidbar.

Frage: Was haben sie strukturell gemeinsam?

(5)

Wdh.: Beweise durch Unterprogrammtechnik

D ist nicht entscheidbar auf Grund eines Diagonalisierungs-Argumentes.

Die weitereArgumentationskettewar dann:

D ist nicht entscheidbar M_D

⇓

H ist nicht entscheidbar MH

⇓

H ist nicht entscheidbar M_H

(6)

Wdh.: Beweise durch Unterprogrammtechnik

⇓

(7)

Wdh.: Komplement der Diagonalsprache

MD

x

M_D

accept reject

(8)

Wdh.: Beweise durch Unterprogrammtechnik

⇓

(9)

Wdh.: Beweise durch Unterprogrammtechnik

⇓

(10)

Wdh.: Halteproblem

M_D

w hM_iiw

accept accept

reject

M_H U

i mit wi=w

(11)

Wdh.: Beweise durch Unterprogrammtechnik

⇓

(12)

Wdh.: Beweise durch Unterprogrammtechnik

⇓

(13)

Wdh.: Spezielles Halteproblem

MH

x hMi,w

accept reject

reject (Syntax)

M_ε hMiundw

mit x=hMiw

hM_w^∗i

(14)

Wdh.: Beweise durch Unterprogrammtechnik

⇓

(15)

Reduktionen

Definition

Es seienL1 undL2 zwei Sprachen ¨uber einem AlphabetΣ.

Dann heisstL₁aufL₂ reduzierbar(mit der NotationL₁≤L₂), wenn eine berechenbare Funktionf: Σ^∗→Σ^∗ existiert, so dass f¨ur allex∈Σ^∗ gilt: x∈L1 ⇔ f(x)∈L2.

Satz

FallsL1≤L2 und fallsL2 entscheidbar ist, so istL1entscheidbar.

(16)

Vorlesung VL-07 Der Satz von Rice

• Der Satz von Rice

• Anwendungsbeispiele

(17)

Unentscheidbar versus entscheidbar (1)

Wir haben gesehen, dass die folgenden Probleme unentscheidbar sind:

GegebenhMiundw, giltw ∈L(M)?

GegebenhMi, gilthMi ∈L(M)?

GegebenhMi, giltε∈L(M)?

Analoge Argumente zeigen, dass folgende Probleme unentscheidbar sind: Ubung¨

GegebenhMi, istL(M)leer? GegebenhMi, giltL(M) = Σ^∗? GegebenhMi, istL(M)endlich? GegebenhMi, istL(M)unendlich? GegebenhMi, istL(M)regul¨ar? GegebenhMi, istL(M)kontext-frei?

(18)

Unentscheidbar versus entscheidbar (1)

Wir haben gesehen, dass die folgenden Probleme unentscheidbar sind:

GegebenhMiundw, giltw ∈L(M)?

GegebenhMi, gilthMi ∈L(M)?

GegebenhMi, giltε∈L(M)?

Analoge Argumente zeigen, dass folgende Probleme unentscheidbar sind:

Ubung¨

GegebenhMi, istL(M)leer?

GegebenhMi, giltL(M) = Σ^∗? GegebenhMi, istL(M)endlich?

GegebenhMi, istL(M)unendlich?

GegebenhMi, istL(M)regul¨ar?

GegebenhMi, istL(M)kontext-frei?

(19)

Unentscheidbar versus entscheidbar (2)

Andrerseits ist jedes der folgenden Probleme entscheidbar:

GegebenhMi, giltL(M)⊆ {0,1}^∗?

GegebenhMi, wirdL(M)von einer TM akzeptiert?

GegebenhMi, gilt2222∈L(M)?

GegebenhMi, gilt2222∈/ L(M)?

GegebenhMi, hathMieine gerade Anzahl von Zust¨anden?

(20)

Der Satz von Rice

(21)

Partielle Funktionen

TM-berechenbare Funktionen sind partielle Funktionen:

Im Allgemeinen halten TMen nicht auf jeder Eingabe. Sie berechnen daherpartielle Funktionen. Das k¨onnen wir wie folgt formalisieren:

Die von einer TMM berechnete Funktion ist von der Form fM:{0,1}^∗→ {0,1}^∗∪ {⊥}

Das Zeichen⊥steht dabei f¨urundefiniertund bedeutet, dass die Maschine nicht h¨alt.

Im Fall von Entscheidungsproblemen ist die Funktion von der Form f_M:{0,1}^∗→ {0,1,⊥}

Dabei steht0fürVerwerfen,1fürAkzeptierenund⊥für Nicht-Halten.

(22)

Partielle Funktionen

TM-berechenbare Funktionen sind partielle Funktionen:

Im Allgemeinen halten TMen nicht auf jeder Eingabe. Sie berechnen daherpartielle Funktionen. Das k¨onnen wir wie folgt formalisieren:

Die von einer TMM berechnete Funktion ist von der Form fM:{0,1}^∗→ {0,1}^∗∪ {⊥}

Das Zeichen⊥steht dabei f¨urundefiniertund bedeutet, dass die Maschine nicht h¨alt.

Im Fall von Entscheidungsproblemen ist die Funktion von der Form f_M:{0,1}^∗→ {0,1,⊥}

Dabei steht0fürVerwerfen,1fürAkzeptierenund⊥für Nicht-Halten.

(23)

Satz von Rice

Satz

Es seiRdie Menge der von TMen berechenbaren partiellen Funktionen.

Es seiS eine Teilmenge vonRmit∅(S (R.

Dann ist die Sprache

L(S) ={hMi |M berechnet eine Funktion ausS}

nicht entscheidbar.

Mit anderen Worten: Alle nicht-trivialen Aussagen ¨uber die von einer TM berechnete Funktion sind unentscheidbar.

(24)

Satz von Rice

Satz

nicht entscheidbar.

Mit anderen Worten: Alle nicht-trivialen Aussagen ¨uber die von einer TM berechnete Funktion sind unentscheidbar.

(25)

Henry Gordon Rice (1920–2003)

Wikipedia: Henry Gordon Rice was an American logician and

mathematician, best known as the author of Rice’s theorem, which he proved in his doctoral dissertation of 1951 at Syracuse University.

He was also a Professor of Mathematics at the University of New Hampshire. After 1960 he was employed by Computer Sciences Corporation in El Segundo.

Mathematics Genealogy Project

• Henry G. Rice

• Ph.D.: Syracuse University 1951

• Dissertation:

Classes of Recursively Enumerable Sets and Their Decision Problems

• Advisor: Paul Charles Rosenbloom

• No students known

(26)

Anwendungsbeispiele (1)

Beispiel 1

Es seiS={fM |fM()6=⊥}.

Dann ist

L(S) = {hMi |M berechnet eine Funktion ausS}

= {hMi |M h¨alt auf Eingabe}

= H

Gem¨ass dem Satz von Rice ist das spezielle HalteproblemHnicht entscheidbar. (Aber das wussten wir ja schon. . . )

R

S

(27)

Anwendungsbeispiele (1)

Beispiel 1

Es seiS={fM |fM()6=⊥}.

Dann ist

= {hMi |M h¨alt auf Eingabe}

= H

Gem¨ass dem Satz von Rice ist das spezielle HalteproblemHnicht entscheidbar. (Aber das wussten wir ja schon. . . )

R

S

(28)

Anwendungsbeispiele (2)

Beispiel 2

Es seiS={fM | ∀w ∈ {0,1}^∗:fM(w)6=⊥}.

Dann ist

= {hMi |M h¨alt auf jeder Eingabe}

Diese Sprache ist auch als das totale Halteproblem H_tot bekannt. Gem¨ass dem Satz von Rice ist die SpracheHtot nicht entscheidbar.

R

S

(29)

Anwendungsbeispiele (2)

Beispiel 2

Es seiS={fM | ∀w ∈ {0,1}^∗:fM(w)6=⊥}.

Dann ist

= {hMi |M h¨alt auf jeder Eingabe}

Diese Sprache ist auch als dastotale Halteproblem Htot bekannt.

Gem¨ass dem Satz von Rice ist die SpracheHtot nicht entscheidbar.

R

S

(30)

Anwendungsbeispiele (3)

Beispiel 3

Es seiS={fM | ∀w ∈ {0,1}^∗:fM(w) =1}.

Dann ist

= {hMi |M h¨alt auf jeder Eingabe mit Ausgabe 1}

Gem¨ass dem Satz von Rice ist die SpracheL(S)nicht entscheidbar.

R

S={1}

(31)

Anwendungsbeispiele (3)

Beispiel 3

Es seiS={fM | ∀w ∈ {0,1}^∗:fM(w) =1}.

Dann ist

= {hMi |M h¨alt auf jeder Eingabe mit Ausgabe 1}

Gem¨ass dem Satz von Rice ist die SpracheL(S)nicht entscheidbar.

R

S={1}

(32)

Beweis des Satzes von Rice

(33)

Beweis des Satzes von Rice (0)

Noch einmal der Wortlaut des Satzes:

Satz

nicht entscheidbar.

(34)

Beweis des Satzes von Rice (1)

Wir benutzen die Unterprogrammtechnik:

Aus einer TMM_L(S), dieL(S)entscheidet, konstruieren wir eine TMMH, die das spezielle Halteproblem H entscheidet.

Einige Vereinbarungen:

Es seiudie ¨uberall undefinierte Funktionu(w)≡ ⊥.

O.B.d.A. u6∈ S.

Es seif eine Funktion ausS. Es seiN eine TM, dief berechnet.

R

u

f S

Anmerkung: Fallsu∈ S gilt, betrachten wir einfachR \ S stattS, und zeigen die Unentscheidbarkeit vonL(R \ S). Hieraus ergibt sich auch unmittelbar die Unentscheidbarkeit vonL(S).

(35)

Beweis des Satzes von Rice (1)

O.B.d.A. u6∈ S.

R

u

f S

(36)

Beweis des Satzes von Rice (1)

O.B.d.A. u6∈ S.

R

u

f S

(37)

Beweis des Satzes von Rice (1)

O.B.d.A. u6∈ S.

Es seif eine Funktion ausS.

Es seiN eine TM, dief berechnet.

R

u

f S

(38)

Beweis des Satzes von Rice (2)

Die neue TMM_H mit dem Unterprogramm M_L(S) arbeitet wie folgt:

(1) Falls die Eingabe nicht aus einer korrekten G¨odelnummer besteht, so verwirft MH die Eingabe.

(2) Andernfalls berechnet MH aus der Eingabe hMidie G¨odelnummer der TMM^∗(siehe n¨achste Folie).

(3) Schlussendlich starten wir M_L(S) mit der EingabehM^∗i.

Wir akzeptieren (verwerfen) genau dann, wennM_L(S) akzeptiert (verwirft).

(39)

Beweis des Satzes von Rice (2)

(2) Andernfalls berechnet MH aus der EingabehMidie G¨odelnummer der TMM^∗(siehe n¨achste Folie).

(40)

Beweis des Satzes von Rice (2)

(2) Andernfalls berechnet MH aus der EingabehMidie G¨odelnummer der TMM^∗(siehe n¨achste Folie).

(41)

Beweis des Satzes von Rice (3)

Verhalten vonM^∗ auf Eingabex

Phase A: Simuliere das Verhalten vonM bei Eingabe auf einer f¨ur diesen Zweck reservierten Spur.

Phase B: Simuliere das Verhalten vonN aufx, halte, sobaldNh¨alt, und ¨ubernimm die Ausgabe.

(42)

Beweis des Satzes von Rice (3)

Verhalten vonM^∗ auf Eingabex

Phase A: Simuliere das Verhalten vonM bei Eingabe auf einer f¨ur diesen Zweck reservierten Spur.

Phase B: Simuliere das Verhalten vonN aufx, halte, sobaldNh¨alt, und ¨ubernimm die Ausgabe.

(43)

Mε

w w=hMi hM^∗i

reject (Syntax)

M_L(S) Istw eine

G¨odelnummer?

accept reject

M^∗

x f(x)

M N

ε

(44)

Beweis des Satzes von Rice (4)

Korrektheit:

Bei Eingabe vonw, wobeiw keine G¨odelnummer ist, verwirftM_H. Bei Eingabe vonw =hMigilt:

w ∈H

⇒ M h¨alt auf

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

⇒ M_L(S) akzeptierthM^∗i

⇒ M_H akzeptiertw w 6∈H ⇒ M h¨alt nicht auf

⇒ M^∗ berechnetu

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_L(S) verwirft hM^∗i

⇒ M_H verwirftw

(45)

Beweis des Satzes von Rice (4)

Korrektheit:

w ∈H ⇒ M h¨alt auf

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(46)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(47)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(48)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(49)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

⇒ M_H akzeptiertw

w 6∈H ⇒ M h¨alt nicht auf

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(50)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

⇒ M_H akzeptiertw w 6∈H

⇒ M h¨alt nicht auf

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(51)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(52)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

⇒ M^∗berechnetu

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(53)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

⇒ M^∗berechnetu

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_H verwirftw

(54)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

⇒ M^∗berechnetu

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_L(S) verwirfthM^∗i

⇒ M_H verwirftw

(55)

Beweis des Satzes von Rice (4)

Korrektheit:

⇒ M^∗berechnetf

f∈S

⇒ hM^∗i ∈L(S)

⇒ M^∗berechnetu

u6∈S⇒ hM^∗i 6∈L(S)

⇒ M_L(S) verwirfthM^∗i

⇒ M_H verwirftw

(56)

Satz von Rice f¨ ur C

⁺⁺

Programme

Konsequenz f¨ur C⁺⁺

Es gibt keine algorithmische Methode (von Hand oder automatisiert) um festzustellen, ob ein gegebenes C⁺⁺Programm einer

(nicht-trivialen) Spezifikation entspricht.

Analoge Konsequenzen gelten

f¨ur alle anderen h¨oheren Programmiersprachen wie

Java, Pascal, Python, FORTRAN, Algol, LISP, COBOL, etc.

(57)

Weitere Anwendungsbeispiele

(58)

Anwendungsbeispiele (4)

Beispiel 4 Es sei

L17={hMi |M berechnet bei Eingabe der Zahl 17 die Zahl 42}.

Es ist L17=L(S)f¨urS ={fM|fM(bin(17)) =bin(42)}.

Da∅(S(Rgilt, ist diese SpracheL₁₇gem¨ass dem Satz von Rice nicht entscheidbar.

(59)

Anwendungsbeispiele (4)

Beispiel 4 Es sei

(60)

Anwendungsbeispiele (4)

Beispiel 4 Es sei

(61)

Anwendungsbeispiele (5)

Beispiel 5

Es seiH32={hMi |auf jeder Eingabe h¨altM

nach h¨ochstens 32 Schritten}.

Uber diese Sprache sagt der Satz von Rice nichts aus!¨

IstH32entscheidbar?

(62)

Anwendungsbeispiele (5)

Beispiel 5

IstH32entscheidbar?

(63)

Anwendungsbeispiele (5)

Beispiel 5

IstH32entscheidbar?

(64)

Anwendungsbeispiele (6)

Beispiel 6

Es seiL44={hMi | Es existiert ein Wortw, sodass die TMM bei Abbarbeitung vonw mindestens einmal im Zustandq44ist}.

IstL44entscheidbar?

(65)

Anwendungsbeispiele (6)

Beispiel 6

IstL44entscheidbar?

(66)

Anwendungsbeispiele (6)

Beispiel 6

IstL44entscheidbar?

(67)

Anwendungsbeispiele (7)

Beispiel 7

Es seiLD={hMi |M entscheidet die Diagonalsprache}.

Dann istLD =L(S)f¨urS ={fD}wobei

f_D(w) =

(1 wennw ∈D 0 sonst.

Uber diese Sprache sagt der Satz von Rice nichts aus!¨ Aber: Diese Sprache ist entscheidbar, denn L_D ={}.

S={f_D} R

(68)

Anwendungsbeispiele (7)

Beispiel 7

f_D(w) =

S={f_D} R

(69)

Anwendungsbeispiele (7)

Beispiel 7

f_D(w) =

Aber: Diese Sprache ist entscheidbar, denn L_D ={}.

S={f_D} R

(70)

Anwendungsbeispiele (7)

Beispiel 7

f_D(w) =

S={f_D} R

(71)

Noch einmal: Das Collatz Problem

Die Collatz’sche Iterationsgleichung lautet:

x ←

(x/2 wennx gerade 3x+1 wennx ungerade

Collatz Problem

Erreicht die Collatz’sche Iteration von jedem nat¨urlichen Startwertx aus irgendwann einmal die Zahlx=1?

Das Collatz-Problem ist einekonkrete Instanzdes totalen Halteproblems. Wir wissen nicht, ob diese Instanz eineJa- oder eineNein-Instanz ist. (Paul Erd¨os: “Mathematics may not be ready for such problems.”) Der Satz von Rice ist f¨urkonkreteProbleminstanzen nutzlos.

(72)

Noch einmal: Das Collatz Problem

Die Collatz’sche Iterationsgleichung lautet:

x ←

(x/2 wennx gerade 3x+1 wennx ungerade

Collatz Problem

Erreicht die Collatz’sche Iteration von jedem nat¨urlichen Startwertx aus irgendwann einmal die Zahlx=1?

Das Collatz-Problem ist einekonkrete Instanzdes totalen Halteproblems.

Wir wissen nicht, ob diese Instanz eineJa- oder eineNein-Instanz ist.

(Paul Erd¨os: “Mathematics may not be ready for such problems.”) Der Satz von Rice ist f¨urkonkreteProbleminstanzen nutzlos.

(73)

Organisatorisches

• November 9: Keine Vorlesung (Fachschaftsversammlung)

• N¨achste Vorlesung:

Mittwoch, November 15, 14:15–15:45 Uhr, Roter H¨orsaal

• Webseite:

http://algo.rwth-aachen.de/Lehre/WS1718/BuK.php