VL-01: Turing Maschinen I (Berechenbarkeit und Komplexit¨at, WS 2018) Gerhard Woeginger

(1)

VL-01: Turing Maschinen I

(Berechenbarkeit und Komplexit¨ at, WS 2018)

Gerhard Woeginger

(2)

Organisatorisches

N¨achste Vorlesung:

Donnerstag, Oktober 25, 12:30–14:00, Aula Danach:

Freitag, Oktober 26, 16:30–18:00, Audimax Freitag, November 2, 16:30–18:00, Audimax Donnerstag, November 15, 12:30–14:00, Aula Freitag, November 16, 16:30–18:00, Audimax

Webseite:

(3)

Turing Maschinen I

Probleme und Berechnungen Turing Maschinen

Turing Berechenbarkeit

Programmierung von Turing Maschinen

Techniken zur Programmierung von Turing Maschinen

(4)

Probleme und Berechnungen

(5)

Was ist ein Berechnungsproblem?

Informelle Definitionen

In einemBerechnungsproblem sollen f¨ur bestimmte gegebene Eingaben bestimmte Ausgaben produziert werden.

Eine Berechnunggeschieht mit einem Algorithmus (Handlungsvorschrift).

Algorithmus

x y

(6)

Alphabete und W¨ orter

Die Ein- und Ausgaben sind W¨orter ¨uber einem AlphabetΣ.

Beispiele f¨ur Alphabete: Σ ={0,1,#}

Σ ={a,b,c, . . . ,z}

Σ ={B,D,F,H,J,K,M,O,. . . ,•} Σ^k ist die Menge aller Wörter der Längek, z.B.

{0,1}³ = {000,001,010,011,100,101,110,111}

Das leere Wort (= Wort der Länge 0), bezeichnen wir mit. Dann gilt: Σ⁰={}

Σ^∗=S

k∈N⁰Σ^k ist der Kleenesche Abschluss von Σund enthält alle

(7)

Probleme (1): Als Relation

Im Allgemeinen entspricht ein Problem einerRelationR ⊆Σ^∗×Σ^0∗

Ein Paar (x,y)liegt inR,

wenny eine zul¨assige Ausgabe zur Eingabex ist.

(8)

Beispiel: Primfaktorbestimung

Beispiel: Primfaktorbestimmung

Zu einer nat¨urlichen Zahlq≥2(Eingabe) suchen wir einen Primfaktor (Ausgabe).

Wir einigen uns darauf, Zahlen bin¨ar zu kodieren.

Die Bin¨arkodierung der nat¨urlichen Zahli bezeichnen wir mitbin(i).

Also zum Beispiel:bin(0) =0,bin(6) =110

Die entsprechende Relation zur Primfaktorbestimmung ist dann R ={(x,y)∈ {0,1}^∗× {0,1}^∗| x=bin(q), y=bin(p),

q,p∈N, q≥2, pprim, pteiltq}

(9)

Probleme (2): Als Funktion

Bei vielen Problemen gibt es zu jeder Eingabe eine eindeutige Ausgabe.

Dann k¨onnen wir das Problem durch eine Funktionf: Σ^∗→Σ^0∗

beschreiben.

Die zur Eingabe x∈Σ^∗gesuchte Ausgabe ist f(x)∈Σ^0∗.

(10)

Beispiel: Multiplikation

Zu zwei nat¨urlichen Zahleni1,i2∈N(Eingabe) suchen wir das entsprechende Produkti1·i2(Ausgabe).

Um die Zahleni₁ undi₂ in der Eingabe voneinander trennen zu k¨onnen, erweitern wir das Alphabet um ein Trennsymbol:Σ ={0,1,#}.

Die entsprechende Funktionf : Σ^∗→Σ^∗ ist dann gegeben durch f(bin(i₁)#bin(i₂)) = bin(i₁·i₂)

(11)

Probleme (3): Entscheidungsprobleme als Sprachen

Viele Probleme lassen sich als Ja-Nein-Fragen formulieren.

DerartigeEntscheidungsproblemesind von der Formf : Σ^∗→ {0,1}, wobei wir0als “Nein” und1als “Ja” interpretieren.

Es seiL=f⁻¹(1)⊆Σ^∗die Menge derjenigen Eingaben, die mit

”Ja“ beantwortet werden.

L ist eine Teilmenge der W¨orter ¨uber dem AlphabetΣ.

Eine Teilmenge von Σ^∗wird allgemein alsSprachebezeichnet.

Die SpracheList die zu dem durchf definierten Entscheidungsproblem geh¨orende Sprache.

(12)

Beispiel: Entscheidungsproblem als Sprache

Beispiel: Graphzusammenhang

Problemstellung: F¨ur einen gegebenen ungerichteten Graphen G = (V,E)soll bestimmt werden, obG zusammenh¨angend ist.

Der GraphG liegt dabei in einer geeigneten Kodierungcode(G)∈Σ^∗vor, zum Beispiel als bin¨ar kodierte Adjazenzmatrix.

Beispiel: 1 2

3





0 0 1 0 0 0 1 0 0



 001000100

Die zu diesem Entscheidungsproblem geh¨orende Sprache ist

(13)

Turing Maschinen

(14)

Zentrale Fragestellung

Frage

Welche Funktionen sind durch einen Algorithmus berechenbar?

Welche Sprachen k¨onnen von einem Algorithmus entschieden werden?

Um diese Fragen in einem mathematisch exakten Sinne klären zu können, müssen wir festlegen, was eigentlich ein Algorithmus ist.

Zu diesem Zweck definieren wir ein sehr einfaches Computer-Modell: DieTuringmaschine (TM).

(15)

Deterministische Turingmaschine (TM bzw. DTM)

0 1 1 0 1 1 1 0 1 1 0 1 0

0

· · ·

DFA

Arbeitsband (beidseitig unbeschr¨ankt)

Schreib-/Lesekopf

q

δ 0 1 B

q0 (q0,B,L) (q1,0,R) reject

q1 (q0,1,R) (q1,B,N) accept

(16)

Q die endliche Zustandsmenge

Σ das endliche Eingabealphabet

Γ⊃Σ das endliche Bandalphabet

B ∈Γ\Σ das Leerzeichen (Blank, in Bildern) q0∈Q der Anfangszustand

q¯∈Q der Endzustand δ: (Q\ {¯q})×Γ→Q×Γ× {R,L,N}

die Zustands¨uberf¨uhrungsfunktion

Definition

(22)

Funktionsweise der TM (1)

Ausgangssituation

Auf dem Band steht die Eingabex∈Σ^∗ eingerahmt von Blanks Der initiale Zustand ist q₀

Der Kopf steht ¨uber dem ersten Symbol vonx

· · ·

· · · x1 x2 x3 x4 x5 x6 x7 x8 x8 x9

Inputx

(23)

Funktionsweise der TM (2)

Nummerierung der Zellen des Bandes

Die initiale Kopfposition wird als Position 0 bezeichnet

Bewegt sich der Kopf einen Schritt “nach rechts”, so erh¨oht sich die Position um 1

Bewegt sich der Kopf um einen Schritt “nach links”, so verringert sich die Position um 1

(24)

Funktionsweise der TM (3)

Durchf¨uhrung eines einzelnen Rechenschrittes

a∈Γbezeichne das gelesene Symbol (unterm Kopf) q∈Q\ {¯q}bezeichne den aktuellen Zustand

Angenommenδ(q,a) = (q⁰,a⁰,d), f¨urq⁰∈Q,a⁰∈Γ,d∈ {R,L,N}

Dann wird der Zustand aufq⁰gesetzt

an der Kopfposition wird das Symbol a⁰ geschrieben der Kopf bewegt sich



 um eine Position nach rechts fallsd=R um eine Position nach links fallsd=L

(25)

Funktionsweise der TM (4)

Ende der Berechnung

Die TM stoppt, wenn sie den Endzustandq¯ erreicht

Das Ausgabeworty ∈Σ^∗kann dann vom Band abgelesen werden:y beginnt an der Kopfposition und endet unmittelbar vor dem ersten Symbol ausΓ\Σ

Spezialfall

Bei Entscheidungsproblemen wird die Antwort wie folgt als JA oder NEIN interpretiert:

Die TM akzeptiertdas Eingabewort, wenn sie terminiert und das Ausgabewort mit einer 1 beginnt

(26)

Funktionsweise der TM (5)

Anmerkungen

Es besteht die M¨oglichkeit, dass die TM den Endzustand niemals erreicht. Wir sagen dann, dass dieBerechnung nicht terminiert.

Laufzeit = Anzahl von Zustandsübergängen bis zur Terminierung Speicherbedarf = Anzahl von Bandzellen, die während der Berechnung besucht werden

(27)

Funktionsweise der TM:

Beispiel

(28)

Beispiel (1)

Es seiL={w1|w ∈ {0,1}^∗} die Sprache der W¨orter, die auf 1 enden.

Lwirdentschiedendurch die TM M= (Q,Σ,Γ,B,q0,q, δ)¯ mit Q={q₀,q₁,¯q}

Σ ={0,1}

Γ ={0,1,B} δ gem¨aß Tabelle

δ 0 1 B

q₀ (q₀,B,R) (q₁,B,R) reject q1 (q0,B,R) (q1,B,R) accept

”accept“ steht hier als Abk¨urzung f¨ur(¯q,1,N).

”reject“ steht hier als Abk¨urzung f¨ur(¯q,0,N).

Allgemein:

(29)

Beispiel (2)

Die ¨Ubergangsfunktion ist zentraler Bestandteil der Turingmaschine.

Beschreibung der ¨Ubergangsfunktion als Tabelle:

δ 0 1 B

q0 (q0,B,R) (q1,B,R) reject q1 (q0,B,R) (q1,B,R) accept Verbale Beschreibung des Algorithmus der TM

Solange ein Symbol aus {0,1}gelesen wird:

Uberschreibe das Symbol mit¨ B, bewege den Kopf nach rechts, und

gehe in Zustandq0, wenn Symbol=0, sonst in Zustandq1

(30)

Veranschaulichung des Algorithmus

Eingabex=0100110101

Eingabex

· · ·

· · · B 0 1 0 0 1 1 0 1 0 1 B B B

· · ·

· · · B B 1 0 0 1 1 0 1 0 1 B B B · · ·

· · · B B B 0 0 1 1 0 1 0 1 B B B · · ·

· · · B B B B 0 1 1 0 1 0 1 B B B · · ·

· · · B B B B B 1 1 0 1 0 1 B B B · · ·

· · · B B B B B B 1 0 1 0 1 B B B · · ·

· · · B B B B B B B 0 1 0 1 B B B · · ·

· · · B B B B B B B B 1 0 1 B B B · · ·

· · · B B B B B B B B B 0 1 B B B · · ·

· · · B B B B B B B B B B 1 B B B · · ·

· · · B B B B B B B B B B B B B B · · ·

· · · B B B B B B B B B B B B B B

δ 0 1 B

q0 (q0,B,R) (q1,B,R) reject

(31)

Veranschaulichung des Algorithmus

Eingabex=0100110101

Eingabex

· · ·

· · · B 0 1 0 0 1 1 0 1 0 1 B B B · · ·

· · · B B 1 0 0 1 1 0 1 0 1 B B B · · ·

· · · B B B 0 0 1 1 0 1 0 1 B B B

· · ·

· · · B B B B 0 1 1 0 1 0 1 B B B

· · ·

· · · B B B B B 1 1 0 1 0 1 B B B · · ·

· · · B B B B B B 1 0 1 0 1 B B B · · ·

· · · B B B B B B B 0 1 0 1 B B B · · ·

· · · B B B B B B B B 1 0 1 B B B · · ·

· · · B B B B B B B B B 0 1 B B B · · ·

· · · B B B B B B B B B B 1 B B B · · ·

· · · B B B B B B B B B B B B B B · · ·

· · · B B B B B B B B B B B B B B

δ 0 1 B

q0 (q0,B,R) (q1,B,R) reject

(32)

Turing Berechenbarkeit

(33)

Zum Sinn und Zweck des TM-Modells

Die TM dient als unser formales (bzw. mathematisches) Modell zur Beschreibung von Algorithmen.

Die Frage,ob es f¨ur ein Problem einen Algorithmus gibt, setzen wir ab jetzt gleich mit

der Frage,ob es eine TM gibt, die dieses Problem l¨ost.

Frage: Ist das TM-Modell sinnvoll? Ist es allgemein genug?

Frage: Kann das TM-Modell alle denkbaren Algorithmen und alle Fähigkeiten abdecken, die ein moderner Computer hat und die ein zukünftiger Computer haben könnte?

(34)

Turing Berechenbarkeit

Bzgl. der Berechnungsprobleme beschr¨anken wir uns in dieser Vorlesung auf Funktionen und Entscheidungsprobleme (Sprachen).

Definition

Eine Funktionf : Σ^∗→Σ^∗ heisstrekursiv (T-berechenbar), wenn es eine TM gibt, die aus der Eingabex

den Funktionswertf(x)berechnet.

Definition

Eine SpracheL⊆Σ^∗heisstrekursiv (T-entscheidbar), wenn es eine TM gibt, die f¨ur alle Eingaben terminiert und

(35)

Programmierung von

Turing Maschinen

(36)

Programmierung der TM am Beispiel

Wir entwickeln nun eine TM f¨ur die Sprache L={0ⁿ1ⁿ|n≥1}

Es seiΣ ={0,1}, Γ ={0,1,B}, Q={q0, . . . ,q6,¯q}

Unsere TM arbeitet in zwei Phasen:

Phase 1:Teste, ob Eingabe von der Form0ⁱ1^j miti ≥0undj≥1 Phase 2:Teste, obi =j gilt.

Phase 1 verwendet{q0,q1}und wechselt bei Erfolg zu q2. Phase 2 verwendet{q2, . . . ,q6} und akzeptiert bei Erfolg.

(37)

Programmierung der TM am Beispiel: Phase 1

δ 0 1 B

q0 (q0,0,R) (q1,1,R) reject q1 reject (q1,1,R) (q2,B,L)

q₀: Laufe von links nach rechts ¨uber die Eingabe, bis ein Zeichen ungleich 0 gefunden wird.

Falls dieses Zeichen eine 1 ist, gehe ¨uber in Zustandq1. Sonst ist dieses Zeichen ein Blank. Verwirf die Eingabe.

q1: Gehe weiter nach rechts bis zum ersten Zeichen ungleich 1.

Falls dieses Zeichen eine 0 ist, verwirf die Eingabe.

Sonst ist das gefundene Zeichen ein Blank. Bewege den Kopf um

(38)

Programmierung der TM am Beispiel: Phase 2

δ 0 1 B

q2 reject (q3,B,L) reject q3 (q3,0,L) (q3,1,L) (q4,B,R) q₄ (q₅,B,R) reject reject q5 (q6,0,R) (q6,1,R) accept q6 (q6,0,R) (q6,1,R) (q2,B,L)

q₂: Kopf steht auf dem letzten Nichtblank. Falls dieses Zeichen eine 1 ist, so l¨osche es, gehe nach links, und wechsele in Zustandq3. Andernfalls verwirf die Eingabe.

q3: Bewege den Kopf auf das erste Nichtblank. Dannq4.

q₄: Falls das gelesene Zeichen eine 0 ist, ersetze es durch ein Blank und

(39)

Veranschaulichung der TM

Eingabex=0000011

· · ·

· · · B 0 0 0 0 0 1 1 B B B

· · ·

· · · B 0 0 0 0 0 1 1 B B B · · ·

· · · B 0 0 0 0 0 1 B B B B · · ·

· · · B B 0 0 0 0 1 B B B B · · ·

· · · B B 0 0 0 0 B B B B B · · ·

· · · B B B 0 0 0 B B B B B · · ·

· · · B B B 0 0 0 B B B B B

δ 0 1 B

q0 (q0,0,R) (q1,1,R) reject q1 reject (q1,1,R) (q2,B,L) q2 reject (q3,B,L) reject q3 (q3,0,L) (q3,1,L) (q4,B,R) q (q,B,R) reject reject

(40)

Veranschaulichung der TM

Eingabex=0000011

· · ·

· · · B 0 0 0 0 0 1 1 B B B · · ·

· · · B 0 0 0 0 0 1 1 B B B

· · ·

· · · B 0 0 0 0 0 1 1 B B B

· · ·

· · · B 0 0 0 0 0 1 1 B B B · · ·

· · · B 0 0 0 0 0 1 B B B B · · ·

· · · B B 0 0 0 0 1 B B B B · · ·

· · · B B 0 0 0 0 B B B B B · · ·

· · · B B B 0 0 0 B B B B B · · ·

· · · B B B 0 0 0 B B B B B

δ 0 1 B

q0 (q0,0,R) (q1,1,R) reject q1 reject (q1,1,R) (q2,B,L) q2 reject (q3,B,L) reject q3 (q3,0,L) (q3,1,L) (q4,B,R) q (q,B,R) reject reject

(41)

Konfigurationen: Definitionen

Definition

(i) Eine Konfigurationeiner TM ist ein Stringαqβ, mit q∈Q und α, β∈Γ^∗.

Bedeutung:auf dem Band stehtαβeingerahmt von Blanks, der Zustand istq, und der Kopf steht ¨uber dem ersten Zeichen vonβ.

(ii) α⁰q⁰β⁰ istdirekte Nachfolgekonfigurationvon αqβ, fallsα⁰q⁰β⁰ in einem Rechenschritt ausαqβentsteht. Wir schreiben

αqβ`α⁰q⁰β⁰

(iii) α⁰⁰q⁰⁰β⁰⁰ istNachfolgekonfigurationvonαqβ, fallsα⁰⁰q⁰⁰β⁰⁰in endlich vielen Rechenschritten ausαqβentsteht. Wir schreiben

(42)

Konfigurationen: Beispiel

Die f¨ur die SpracheL={0ⁿ1ⁿ|n≥1}beschriebene TM liefert in Phase 1 auf der Eingabe0011 die folgende Konfigurationsfolge.

Phase 1:

q00011 ` 0q0011 ` 00q011 ` 001q11 ` 0011q1B ` 001q21 Anmerkung: Abgesehen von Blanks am Anfang und Ende des Strings sind die Konfigurationen eindeutig.

Phase 2:

001q₂1 ` 00q₃1 ` 0q₃01 ` q₃001 ` q₃B001 ` q₄001

(43)

Techniken zur Programmierung von

Turing Maschinen

(44)

Techniken zur Programmierung von TMs (1)

Technik 1: Speicher im Zustandsraum

F¨ur beliebiges festesk ∈Nk¨onnen wirk Zeichen unseres Bandalphabets im Zustand abspeichern, indem wir den Zustandsraum um den Faktor

|Γ|^k vergr¨ossern, d.h. wir setzen Q_neu := Q×Γ^k

Neue Zust¨ande f¨urk =2sind dann zum Beispiel(q0,BB), (q1,10).

(45)

Techniken zur Programmierung von TMs (2)

Technik 2: Mehrspurmaschinen

k-spurige TM: eine TM, bei der das Band ink sogenannteSpuren eingeteilt ist. D.h. in jeder Bandzelle stehenk Zeichen, die der Kopf gleichzeitig einlesen kann.

Das k¨onnen wir erreichen, indem wir das Bandalphabet um k-dimensionale Vektoren erweitern, z.B. Γ_neu:= Γ∪Γ^k

 0,1,#,



 0 0 0



,



 0 0 1



,



 0 1 0



, . . . ,



 1 1 1



,B







(51)

Beispiel: Addition mittels 3-spuriger TM (2)

Schritt 1:Transformation in Spurendarstellung. Schiebe die Eingabe so zusammen, dass die Binärkodierungen voni₁undi₂in der ersten und zweiten Spur rechtsbündig übereinander stehen.

Aus der Eingabe0011#0110wird beispielsweise B^∗



 0 0 0







 0 1 0







 1 1 0







 1 0 0



B^∗

Schritt 2: Addition nach der Schulmethode, indem der Kopf das Band von rechts nach links abläuft. Überträge werden im Zustand gespeichert. Als Ergebnis auf Spur 3 ergibt sich

B^∗



 0 0







 0 1







 1 1







 1 0



B^∗

(52)

Techniken zur Programmierung von TMen (continued)

Standardtechniken aus der Programmierung k¨onnen auch auf TMen implementiert werden.

Schleifenhaben wir bereits an Beispielen gesehen.

Variablenk¨onnen realisiert werden, indem wir pro Variable eine Spur reservieren.

Felder (Arrays)k¨onnen ebenfalls auf einer Spur abgespeichert werden.

Unterprogramme k¨onnen implementiert werden, indem wir eine Spur des Bandes als Prozedurstack verwenden.

Rekursive Unterprogrammek¨onnen ebenfalls implementiert werden.

Basierend auf diesen Techniken k¨onnen wir uns klar machen, dass