Entscheidungsprobleme f¨ ur regul¨ are Sprachen

(1)

Kap. 2: Endliche Automaten Myhill–Nerode 2.4

Minimierung eines gegebenen DFA

wie kann man redundante Zust¨ande erkennen/eliminieren?

• zun¨achst eliminiere alle nicht erreichbaren Zust¨ande

• dann: q 6∼q⁰ wesentlich verschieden, wenn

f¨ur einx ∈Σ^∗ nicht(ˆδ(q,x)∈A)↔(ˆδ(q⁰,x)∈A)

• Zusammenfassung von ∼-Klassen von Zust¨anden liefert minimierten DFA, isomorph zum Minimalautomat algorithmisch: induktive Verfeinerung

Tests f¨urx der L¨angei= 0,1, . . . q 6∼₀ q⁰ gdw. nicht(q ∈A)⇔(q⁰∈A)

q 6∼_i+1 q⁰ gdw. q6∼_i q⁰ oder (∃a∈Σ)δ(q,a)6∼_i δ(q⁰,a) sobald∼_i+1=∼_i (=:∼), fasse Zust¨ande in ∼-Klassen zusammen

FGdI I Sommer 2010 M Otto 77/136

Kap. 2: Endliche Automaten pumping lemma 2.5

Das “pumping lemma”

→ Abschnitt 2.5

Pumping Lemma (Lemma 2.5.2)

L⊆Σ^∗ regul¨ar ⇒

existiertn∈Nsodass sich jedesx ∈Lmit|x|>n zerlegen l¨asst in x =uvw,v 6=ε,|uv|6n und f¨ur allem∈N

u·v^m·w =u·v· · ·v

| {z }

mmal

·w ∈L

Beweis: L=L(A), DFAA= (Σ,Q,q₀, δ,A), n:=|Q|

|x|>n: existiert Zustandswiederholungq_i =q_j =q im Lauf auf x: x = a₁ . . . a_i a_i+1 . . . a_j a_j₊₁ . . . a_`

| {z }

u | {z }

v

l¨asst sich pumpen

| {z }

w

↑ q₀

↑ q

Kap. 2: Endliche Automaten pumping lemma 2.5

Beispiele nicht-regul¨ arer Sprachen

L={aⁿbⁿ:n∈N} f¨ura,b ∈Σ,a6=b

L={w ∈ {(,)}^∗:w korrekte Klammerschachtelung } Palindrom={w ∈Σ^∗:w =w⁻¹} f¨ur|Σ|>2

L={u#v#w:u,v,w ∈ {0,1}^∗,u+v =w (bin¨are Addition)} Nachweis: Pumping Lemma!

Kap. 2: Endliche Automaten Effektivit¨at 2.6

Algorithmische Entscheidungsprobleme

→ Abschnitt 2.6 Entscheidungsproblem (ja/nein Problem)

spezifiert durch

• Menge von zugelassenen Eingaben x ∈I (Instanzen)

• Teilmenge D⊆I der positiven Instanzen (Antwort “ja”) d.h.: wohldefinierte ja/nein Antwort f¨ur allex ∈I

****

**

D

“ja”

I I\D

“nein”

Entscheidungsproblem:

gegebenx ∈I entscheide, ob x ∈D

(2)

Entscheidungsprobleme f¨ ur regul¨ are Sprachen

Beispiele Wortproblem zu SpracheL⊆Σ^∗:

f¨ur w ∈Σ^∗ entscheide obw ∈L I = Σ^∗,D =L

Leerheitsproblem:

f¨ur DFAA entscheide obL(A) =∅ I ={A:A DFA},D ={A:L(A) =∅}

analog mit I =REG(Σ)

Sprachgleichheit/Automaten¨aquivalenz:

f¨ur α, β∈REG(Σ) entscheide ob L(α) =L(β) I = REG(Σ)2

,D ={(α, β)∈(REG(Σ))²:L(α) =L(β)}

analog f¨ur DFA/NFA

das Wichtigste aus Kapitel 2

regul¨are Sprachen

REG DFA NFA

Abschlusseigenschaften / Automatenkonstruktionen Satz von Kleene

Satz von Myhill-Nerode

Pumping Lemma f¨ur regul¨are Sprachen Minimalautomat

Kapitel 3: Grammatiken

Chomsky Hierarchie: Komplexit¨ atsniveaus f¨ ur formale Sprachen

Noam Chomsky (geb. 1928)

Kap. 3: Grammatiken Grammatiken 3.1

Grammatiken

→ Abschnitt 3.1

Idee: Spezifikation einer Sprache durch Erzeugungsprozess G = Σ,V,P,X₀

Σ Terminalalphabet,

V endliche Menge vonVariablen,V ∩Σ =∅ X₀ ∈V Startvariable/Startsymbol

P endliche Menge vonProduktionen/Regeln P ⊆(V ∪Σ)⁺×(V ∪Σ)^∗

(v,v⁰)∈P eine Produktion/Regel vonG

Regel

v → v

⁰

linke Seite: v ∈(V ∪Σ)⁺= (V ∪Σ)^∗\ {ε}

rechte Seite: v⁰ ∈(V ∪Σ)^∗ erlaubt in (V ∪Σ)-W¨ortern

Ersetzung von v durch v⁰ Ubergang von¨ uvw nachuv⁰w

(3)

Ableitbarkeit

zu Produktionenv →v⁰ inP: uvw →_G uv⁰w

direkter Ableitungsschritt inG zwei Ableitbarkeitsrelationen ¨uber (Σ∪V)^∗:

1-Schritt Ableitbarkeit, →_G:

x →_G x⁰ :⇔ x =uvw, x⁰ =uv⁰w wobei (v,v⁰)∈P Ableitbarkeit, →^∗_G:

x →^∗_G x⁰ :⇔

es existiert ein→_G-Pfad vonx nachx⁰: x =x₁→_G x₂ →_G . . .→_G x_n =x⁰.

“endliche Iteration von →_G”: reflexiver transitiver Abschluss

• w ∈(Σ∪V)^∗ ableitbar in G gdw.X₀→^∗_G w

• L(G) =

w ∈Σ^∗:X₀→^∗_G w die von G erzeugteΣ-Sprache

Beispiel

Beispiel 3.1.3

Palindrom (3.1.3) z.B. Σ ={0,1},

G = (Σ,V,P,X) mit V ={X}und Produktionen P : X →ε

X →a f¨ur jedesa∈Σ X →aXa f¨ur jedesa∈Σ

erzeugt die Σ-Sprache der Σ-Palindrome (w ∈Σ^∗:w =w⁻¹) beachte: nicht regul¨ar

Beispiele

Beispiele 3.1.4

korrekte Klammerungen (3.1.4)

Σ ={(,)},G = (Σ,V,P,X) mitV ={X} und Produktionen P : X →( )

X →(X) X →XX

erzeugt die Sprache der korrekt geschachtelten

nicht-leeren Klammerw¨orter [Induktionsbeweis!]

beachte: nicht regul¨ar

Beispiele: regul¨ are Sprachen

Beispiel 3.1.7 jede regul¨are Sprache wird auch von einer Grammatik erzeugt.

Trick: ¨ubersetze NFAA= (Σ,Q,q₀,∆,A) in Grammatik:

G_A:= (Σ,V,P,X₀)











V :=

X_q:q∈Q , X₀ := X_q₀,

P : X_q →aX_q⁰ f¨ur (q,a,q⁰)∈∆ X_q →ε f¨urq ∈A dann ist

L = L(A) = L(G

A

):

Ableitungen inG simulieren

akzeptierende Berechnungen vonA

(4)

Beispiel aⁿbⁿ (3.1.10)

Σ ={a,b},G = (Σ,V,P,X),V ={X}, P : X →ε

X →aXb

erzeugt die Sprache

L = {a

ⁿ

b

ⁿ

: n ∈ N }.

nicht regul¨ar

Beispiel aⁿbⁿcⁿ (3.1.11)

Σ ={a,b,c},G = (Σ,V,P,X),V ={X,Y,Z},X₀=X,

P : X →ε aY →ab

X →aXYZ bY →bb ZY →YZ bZ →bc cZ →cc

erzeugt die Sprache

L = {a

ⁿ

b

ⁿ

c

ⁿ

: n ∈ N }.

nicht regul¨ar

Beispiel

Ubung 3.1.5^¨

Baumdarstellung von Ableitungsschritten Σ ={+,·,(,),0,1}

G = (Σ,{X},P,X): Baum zu ((0·1) + 1)∈L(G):

P : X →0 (1)

X →1 (2)

X →(X+X) (3) X →(X·X) (4)

X

(3)

(X +X)

xxrrrrrr(4)rr

(2)GGGGGGG##

G

(X ·X)

{{wwwwww(1)w

(2)NNNNNNNN&&

NN 1

0 1

Backus-Naur Form, BNF

(Kompaktschreibweise) v → v₁⁰

v₂⁰ . . .

v_n⁰ anstelle von v →v₁⁰ ... v →v_n⁰ lies “|” als “oder”; oft auch ::= anstelle von →

erweiterte BNF, EBNF weitere eliminierbare Abk¨urzungen z.B. X → u[v]w f¨ur X →uw

uvw

“v kannzwischen u und w eingef¨ugt werden”

z.B.

X → u{v}w f¨ur X → uw

uZw [Z neu!]

Z → ZZ v

“jedes v⁰ ∈ {v}^∗ kann zwischenu undw eingef¨ugt werden”

Kap. 3: Grammatiken Chomsky-Hierarchie 3.2

Chomsky-Hierarchie

→ Abschnitt 3.2

Klassifikation von Grammatiken (und Sprachen)

X,Y Variablen inV,a∈Σ,v,v⁰∈(Σ∪V)^∗ regul¨ar, Typ 3

Produktionenrechtslinear: X →ε,X →a ,X →aY kontextfrei, Typ 2

alle Produktionen haben als linke Seite

eine einzelneVariable: X →v

kontextsensitiv, Typ 1

alle Produktionennicht verk¨urzend: v →v⁰,|v⁰|>|v| bis auf ggf. eineharmlose ε-Produktion

allgemein, Typ 0

allgemeinste von Grammatik erzeugte Sprachen (!)

(5)

regul¨ are Grammatiken – endliche Automaten

Satz 3.2.7 reguläre Grammatiken charakterisieren reguläre Sprachen L⊆Σ^∗ regulär gdw. L=L(G) für eine reguläre Grammatik G. Beweis:

“⇐”: NFA aus Typ 3 GrammatikG = (Σ,V,P,X₀) mit ProduktionenX →aY undX →ε

(zur Vorbereitung: ersetzeX →adurchX →aZ undZ →ε,Z neu) Ableitung X₀→_G a₁X₁ →_G · · · →_G a₁. . .a_nX_n→_G a₁. . .a_n simuliert durchA:= Σ,V,X₀,∆,A

mit

∆ =

(X,a,X⁰) :X →aX⁰∈P , A=

X:X →ε∈P

regul¨ ar ⇒ kontextfrei ⇒ kontextsensitiv

Beobachtung 3.2.5

• offensichtlich: Jede regul¨are Grammatik ist kontextfrei.

• ebenso: G kontextfrei

ohne ε-Produktionen

oder mit harmloserε-Produktion

⇒ G kontextsensitiv.

• kontextfreiesG mit ε-Produktionen

¨

aquivalentzu kontextfreiemG⁰ mitharmloserε-Produktion.

Begr.: (Lemma 3.2.4) o.B.d.A. hatG X₀ nur als Startsymbol.

– f¨ur X →uYv mitY →^∗_G εnehmeX →uv hinzu – entferne alle ε-Produktionen, bis auf X₀→ε

Chomsky-Hierarchie

regul¨ar ⇒ kontextfrei ⇒ kontextsensitiv

Typ 3 ⊆ Typ 2 ⊆ Typ 1 ⊆ Typ 0 ⊆ beliebige Sprachen wir werden sehen: alle Inklusionen echt / strikte Hierarchie trennende Beispiele (die wir schon kennen):

kontextfrei, nicht-regul¨ar: {aⁿbⁿ:n∈N} Palindrom

korrekte Klammerungen kontextsensitiv, nicht kontextfrei: {aⁿbⁿcⁿ:n∈N}

noch zu zeigen Methoden f¨ur Nachweis der Nicht-Zugeh¨origkeit:

vgl. Pumping Lemma (f¨ur Typ 3; Variante f¨ur Typ 2: siehe unten) allgemein: aus Analyse der einzelnen Klassen

a

ⁿ

b

ⁿ

c

ⁿ

ist kontextsensitiv

Beispiel 3.1.11 modifizieren: aⁿbⁿcⁿ kontextsensitiv Σ ={a,b,c}

G = (Σ,V,P,X) V ={X,Y,Z}

P : X →ε X →aXYZ ZY →YZ

aY →ab bY →bb bZ →bc cZ →cc

G⁰ = (Σ,V,P,X₀) V ={X₀,X,Y,Z}

P : X₀ →X |ε X →aXYZ |aYZ ZY →YZ

aY →ab bY →bb bZ →bc cZ →cc erzeugen beide die SpracheL={aⁿbⁿcⁿ:n∈N}.

G⁰ ist kontextsensitiv (nur harmloseε-Produktion!).

(6)

Kap. 3: Grammatiken Kontextfreie 3.3

kontextfreie Sprachen (Typ 2)

→ Abschnitt 3.3

• wichtige n¨achste Stufe nach regul¨ar

• zul¨assige Produktionen bei Typ 2,ε6∈L: X →v, v 6=ε Versch¨arfung: Chomsky-Normalform: X →YZ undX →a Satz: jede Typ 2 Grammatik ohneε-Produktionen

ist ¨aquivalent zu Chomsky NF Grammatik

Beweisidee zur Transformation in Chomsky NF (Satz 3.3.2):

– ersetze aauf rechten Seiten durch neues Z_a neue Produktionen Z_a→a

– eliminiere X →Y Produktionen (durch shortcuts) – eliminiere X →Y₁. . .Y_k Produktionen f¨urk >2

Chomsky NF und bin¨ are B¨ aume

Ableitungsschritt X →YZ bin¨are Verzweigung X →a keine Verzweigung

X

vvnnnnnnnnnnn

@

@@

@@ Y

~~|||||

A

AA

AA Z

Y⁰

Z⁰

a a⁰ a⁰⁰

Ableitungsbaum mit innerenKnotenf¨ur X in X →YZ Anwendungen

Lemma 3.3.3

in Chomsky NF GrammatikG:

w ∈L(G) hat Ableitung der L¨ange 2|w| −1.

Beweise induktiv ¨uber L¨ange `

der Ableitung vonw ∈(V ∪Σ)⁺

|w |

V

+ 2|w|

Σ

= ` + 1

kontextfreie Sprachen: Abschlusseigenschaften

Abschluss unter Vereinigung, Konkatenation, Stern

(Satz 3.3.7) Zu gegebenen Typ 2 Grammatiken fürL₁,L₂,Lfinde explizit Typ 2 Grammatiken fürL₁∪L₂, für L₁·L₂, bzw. fürL^∗

z.B.: seien G⁽ⁱ⁾= (Σ,V⁽ⁱ⁾,P⁽ⁱ⁾,X₀⁽ⁱ⁾) kontextfrei,V⁽¹⁾∩V⁽²⁾=∅ G = (Σ,V,P,X₀) mitL(G) =L(G⁽¹⁾)·L(G⁽²⁾):

V := V⁽¹⁾∪V⁽²⁾∪ {X₀} X₀ neu P := {X₀→X₀⁽¹⁾X₀⁽²⁾} ∪ P⁽¹⁾ ∪ P⁽²⁾ kein Abschluss unter Durchschnitt/Komplement!

→ sp¨ater

noch ein Pumping Lemma

→ Abschnitt 3.3.3 L⊆Σ^∗ kontextfrei ⇒

existiertn∈Nsodass sich jedesx ∈Lmit|x|>n zerlegen l¨asst in x =yuvwz,uw 6=ε,|uvw|6n, und f¨ur alle m∈N

y ·u^m·v ·w^m·z =y ·u· · ·u

| {z }

mmal

·v ·w· · ·w

| {z }

mmal

·z ∈L.

Beweis(Satz 3.3.8):

L=L(G),G in Chomsky NF,n:= 2^|V^|. F¨urx ∈L(G),|x|>n, hat jeder

Ableitungsbaum zwei geschachtelte Vorkommen desselbenX

Findeuvw wie in Skizze

•

//////////////

////////

X

•X

//////

/////

| {z }

u | {z }

v | {z }

w

| {z }

v⁰

Beispiel: {aⁿbⁿcⁿ:n ∈N}nicht kontextfrei