KontextfreieSprachen:TeilI FormaleSprachenundKomplexit¨at Inhalts¨ubersicht KontextfreieSprachen Motivation

(1)

Formale Sprachen und Komplexit¨ at

Sommersemester 2019

Kontextfreie Sprachen: Teil I

Prof. Dr. David Sabel

LFE Theoretische Informatik

Letzte ¨Anderung der Folien: 6. Juni 2019

Inhalts¨ ubersicht

Operationen auf Kontextfreien Grammatiken Normalformen f¨ ur CFGs: Chomsky-Normalform und Greibach-Normalform

Widerlegen der Kontextfreiheit: Pumping-Lemma

Lemma (Pumping-Lemma f¨ur CFLs)

SeiLeine kontextfreie Sprache. Dann gibt es eine Zahln∈N>0, sodass jedes Wortz∈L, das Mindestl¨angenhat (d. h.|z| ≥n), alsz=uvwxygeschrieben werden kann, so dass gilt:

|vx| ≥1

|vwx| ≤n

f¨ur allei≥0:uvⁱwxⁱy∈L.

Abschlusseigenschaften kontextfreier Sprachen

TCS | 04 Kontextfreie Sprachen (I) | SoSe 2019 2/50 Op. Chomsky-NF Greibach-NF Pumping-L. Abschlusseig.

Kontextfreie Sprachen

Zur Erinnerung:

Kontextfreie Sprachen (CFLs) werden von einer kontextfreien Grammatik (CFG) erzeugt

Das sind die Typ 2-Grammatiken

Bedingung: Alle linken Seiten der Produktionen bestehen aus genau einer Variablen.

Motivation

Kontextfreie Sprachen sind insbesondere n¨ utzlich um Sprachen mit Klammerungen zu beschreiben

Die Syntax von Programmiersprachen wird meist mit einer kontextfreien Grammatik angegeben.

Beispiele:

G = ({E, M, Z}, {+, ∗, (, )} ∪ {0, . . . , 9}, P, E) mit P = {E → M | E + M,

M→ Z | M ∗ Z, Z → N | (E), N → 1D | . . . | 9D, D → 0D | . . . | 9D | ε}

L = {a

^j

b

^j

| j ∈

N

} ist kontextfrei: Produktionen

{S → ε | T, T → aT b | ab} mit S als Startsymbol erzeugen L

(2)

Einfache Operationen auf CFGs

Wir definieren Operationen auf CFGs, die die erzeugte Sprache unver¨ andert lassen

Die Operationen werden sp¨ ater (als Hilfsmittel) wiederverwendet.

Inlining von Produktionen

Lemma (Inlining von Produktionen) Sei G = (V, Σ, P, S ) eine CFG und

A

→ uBv ∈ P ,

B

→

w₁

| . . . |

w_n

alle Regeln mit

B

als linker Seite

und sei G

⁰

= (V, Σ, P \ {A → uBv} ∪ {A → uw

₁

v | . . . | uw

_n

v}, S).

Dann erzeugen G und G

⁰

dieselbe Sprache, d. h. L(G) = L(G

⁰

).

Beweis: Das folgt, indem die Syntaxb¨ aume zur Ableitung mit G bzw. G

⁰

modfiziert werden:

tausche alle Baumabschnitte

A

u B

w

_i

v

durch

A u w

_i

v (im Syntaxbaum mit G) (im Syntaxbaum mit G

⁰

)

Sharing von Satzformen mit neuen Produktionen

Lemma (Sharing von Satzformen mit neuen Produktionen) Sei G eine CFG mit G = (V, Σ, P ∪ {A · →

w₁

· · ·

w_n

}, S).

Seien

B₁

, . . . ,

B_n

neue Variablen (d. h. V ∩ {B

₁

, . . . , B

_n

} = ∅) und sei G

⁰

= (V ∪{B ·

₁

, . . . ,

B_n

}, Σ, P ∪{A→B ·

₁

· · ·

B_n

,

B₁

→w

₁

, . . . ,

B_n

→w

_n

}, S).

Dann gilt L(G) = L(G

⁰

).

Beweis:

“⊆”: Konstruiere aus S ⇒

^∗_G

w Ableitung S ⇒

^∗_G0

w

⁰

: ¨ Ubersetze jeden Schritt uAv ⇒

_G

uw

₁· · ·w_n

v in uAv ⇒

_G⁰

uB

₁· · ·B_n

v ⇒

ⁿ_G0

uw

₁· · ·w_n

v.

“⊇”: Betrachte den Syntaxbaum f¨ ur S ⇒

^∗_G0

w.

Identifiziere die Anwendungen der Regeln

A

→

B₁· · ·B_n

,

B_i

→

w_i

, und modifziere Syntaxbaum durch Anwendung der Regel

A

→

w₁· · ·w_n

. Lese Ableitung S ⇒

^∗_G

w ab.

Elimination der Links-Rekursion (1)

Definition (links- bzw. rechts-rekursive Produktion

Eine Produktion nennt man

links-rekursiv, wenn sie von der Form A

→

Au

ist, und

rechts-rekursiv, wenn sie von der Form A

→ uA

ist, wobei in beiden F¨ allen u eine Satzform ist.

(3)

Elimination der Links-Rekursion (2)

Lemma (Elimination von Links-Rekursion)

Sei G = (V, Σ, P, S), P = P

⁰

∪ {A · → Au

₁

| · · · | Au

_n

| w

₁

| · · · | w

_m

}

| {z }

P⁰⁰

eine CFG mit

P

⁰⁰

sind alle Produktionen in P mit A als linker Seite und die Satzformen w

₁

, . . . , w

_m

beginnen alle nicht mit A.

Es gilt L(G) = L(G

⁰

) f¨ ur G

⁰

= (V ∪{B}, · Σ, P

⁰

∪ P

⁰⁰⁰

, S) mit B neue Variable und P

⁰⁰⁰

= {A → w

₁

B | · · · | w

_m

B | w

₁

| · · · | w

_m

,

B → u

₁

| . . . | u

_n

| u

₁

B | . . . | u

_n

B}

Beweis: Ausf¨ uhrlicher Beweis im Skript Wesentliche Idee:

Ersetze Linksableitungsschritte mit G: x

₁

Ax

₂

⇒

^∗_G

x

₁

w

_r

u

_f(1)

· · · u

_f(k)

x

₂

durch Rechtsableitungsschritte mit G

⁰

: x

₁

Ax

₂

⇒

^∗_G0

x

₁

w

_r

u

_f(1)

· · · u

_f(k)

x

₂

Normalformen

Normalformen von Grammatiken fordern eine spezielle Form der Produktionen

N¨ utzlich, wenn man Grammatiken analysiert oder Algorithmen auf Grammatiken formuliert

Man muss dann nur diese Form (statt aller erlaubten) von Produktionen betrachten

Wir betrachten zwei Normalformen

Chomsky-Normalform

Greibach-Normalform

Die Chomsky-Normalform

Definition (Chomsky-Normalform)

Eine CFG G = (V, Σ, P, S ) mit ε 6∈ L(G) ist in

Chomsky-Normalform,

wenn f¨ ur A →

w

∈ P gilt:

w=a

∈ Σ oder

w=BC

mit B, C ∈ V . Beispiel:

Die CFG G = ({A}, {(, ), [, ]}, {A → (A) | () | [A] | [] | A A}, A) ist

nicht

in Chomsky-Normalform

(nur die Produktion A → A A passt zum vorgeschriebenen Format).

Die CFG G

⁰

= ({A, B, C, D, E, F, G}, {(, ), [, ]}, P, A) mit P = {A → BF | BC | DG | DE | AA,

B → (, C →), D → [, E →], F → AC, G → AE}

ist in Chomsky-Normalform (und erzeugt die gleiche Sprache wie G).

Eigenschaften der Chomsky-Normalform

Sei G eine CFG in Chomsky-Normalform, dann gilt:

Syntaxb¨ aume zu Ableitungen mit G sind immer

Bin¨arb¨aume

Ableitungen eines Worts w ∈ L(G) bestehen immer genau aus 2 · |w| − 1 Ableitungsschritten.

Beispiel:

G

⁰

= ({A, B, C, D, E, F, G}, {(, ), [, ]}, P, A) mit P = {A → BF | BC | DG | DE | AA,

B → (, C →), D → [, E →], F → AC, G → AE}

Ableitung von ([]([])):

A⇒BF

⇒ (F ⇒ (AC ⇒ (AAC ⇒ (DEAC ⇒ ([EAC

⇒ ([]AC ⇒ ([]BF C ⇒ ([](F C ⇒ ([](ACC ⇒ ([](DECC

⇒ ([]([ECC ⇒ ([]([]CC ⇒ ([]([])C ⇒ ([]([]))

(4)

Eigenschaften der Chomsky-Normalform (2)

Der Syntaxbaum dazu:

A B

(

F A

A D

[

E ]

A B

(

F A D

[

E ]

C )

Herstellen der Chomsky-Normalform

Jede CFG (mit ε 6∈ L(G)) kann in Chomsky-Normalform gebracht werden. Das Verfahren geht in mehreren Schritten vor:

1

Entfernen von ε-Produktionen (kennen wir bereits)

2

Entfernen von Einheitsproduktionen (Produktionen A → B)

3

Sharen aller Terminale a in rechten Seiten, die nicht nur aus a bestehen durch neue Produktionen A → a

4

Alle Produktionen A → B

₁

· · · B

_m

mit m > 2 in mehrere zerlegen: A → B

₁

C

₁

, C

₁

→ B

₂

C

₃

, . . . , C

_m−2

→ B

_m−1

B

_m

Entfernen von Einheitsproduktionen

Intuitiv ist klar, dass A → B entfernt werden kann:

Wenn erst A → B, dann B → w angewendet wird, kann man auch gleich A → w anwenden.

Algorithmisch zu beachten:

Eliminiere in der richtigen Reihenfolge:

Wenn A→B undB→C, dann ist Ersetzen von A→B durchA→Cnicht zielf¨uhrend.

ZyklenA→B undB→Am¨ussen vorher entfernt werden!

Algorithmus 5: Entfernen von Einheitsproduktionen

Eingabe:Eine CFGG= (V,Σ, P, S) Beginn

Erzeuge ger. GraphD= (V, E), mit(A, B)∈Ef¨ur jede Einheitsp.A→B∈P; solangees einen Zyklus(A1, A2), . . . ,(An−1, An),(An, A1)∈Egibttue

P :=P\ {A1→A2, . . . , An−1→An, An→An}; /* entferne zykl. Regeln */

P :=P[A1/A2, . . . , A1/An]; /* ersetze alle Vorkommen vonAidurchA1f¨uri= 2, . . . , n*/

V :=V\ {A2, A3, . . . , An}; /* l¨oscheA2, . . . , An*/

S:=S[A1/A2, . . . , A1/An]; /* ersetze Startsymbol durchA1, falls esAi,2≤i≤nwar */

E:=E\ {(A₁, A2), . . . ,(An−1, An),(An, A1)}; /* entferne Zyklus aus Graph */

E:=E[A1/A2, . . . , A1/An]; /* ersetzeAidurchA1f¨uri= 2, . . . , nin anderen Kanten */

SortiereDtopologisch und nummeriere die Variablen inV durch (und benenne entsprechend inE, P, Sum), so dass gilt:Ai→Aj implizierti < j;

SeiV ={A₁, . . . , Ak};

f¨uri=kbis1tue

wennAi→Aj∈P dann

seienAj→w1, . . . , Aj→wmalle Produktionen mitAjals linker Seite;

P :=P∪ {Ai→w1, . . . , Ai→wm};

P :=P\ {Ai→Aj};

Gib die so entstandene Grammatik alsG⁰aus;

(5)

Korrektheit von Algorithmus 5 (1)

Satz

Algorithmus 5 berechnet bei Eingabe einer CFG G mit ε 6∈ L(G) eine CFG G

⁰

, die keine Einheitsproduktionen hat, sodass gilt L(G) = L(G

⁰

). Wenn G keine ε-Produktionen hat, dann hat auch G

⁰

keine ε-Produktionen.

Beweis: Wir zeigen:

1

Das Entfernen eines Zyklus ver¨ andert die erzeugte Sprache nicht

2

Das Entfernen einer Einheitsproduktion A

_i

→ A

_j

in der

r¨ uckw¨ arts-laufenden f¨ ur-Schleife ¨ andert die erzeugte Sprache nicht.

bereits gezeigt, da die Operation

”Inlining von Produktionen“

korrekt.

3

Der Algorithmus terminiert und f¨ uhrt nie Einheits- oder ε-Produktionen ein.

Korrektheit von Alg. 5: Entfernen von Zyklen ist korrekt

Beweisskizze (ausf¨ uhrlicher Beweis im Skript):

Habe G = (V, Σ, P, S ) Zyklus A

₁

→ A

₂

, . . . , A

_n−1

→ A

_n

, A

_n

→ A

₁

Sei G

⁰

= (V

⁰

, Σ, P

⁰

, S

⁰

) die Grammatik nach Entfernen des Zyklus.

Sei σ die Substitution {A

_i

7→ A

₁

| i ∈ {2, . . . , n}}.

” L(G) ⊆ L(G

⁰

)“:

Zeige mit Induktion ¨ubern, dass f¨ur allew₁, w₂∈(Σ∪V)^∗gilt:

Wenn w1⇒ⁿ_Gw2, dannσ(w1)⇒^∗_G0 σ(w2).

” L(G

⁰

) ⊆ L(G)“:

Zeige mit Induktion ¨ubern, dass f¨urw∈(Σ∪V⁰)^∗ undw0∈Σ^∗gilt:

Wenn w⇒ⁿ_G0 w0∈Σ^∗. dannw⇒^∗_Gw0.

Korrektheit von Alg. 5: Terminierung

Algorithmus 5 terminiert, denn

Die Solange-Schleife terminiert, da jede Iteration die Anzahl der Zyklen strikt verkleinert.

Die f¨ ur-Schleife terminiert offensichtlich.

Es werden keine Einheitsproduktionen eingef¨ uhrt:

Da die Produktionen topologisch sortiert behandelt werden:

Wenn A

_i

→ A

_j

entfernt wird, wurden

vorher

alle Einheitsproduktionen A

_j

→ A

_k

entfernt. D.h. zu diesem Zeitpunkt gilt: f¨ ur alle Produktionen A

_j

→ w besteht w nicht nur aus einer Variablen.

Es werden keine ε-Produktionen eingef¨ uhrt:

offensichtlich.

Algorithmus 6: Herstellen der Chomsky-NF

Eingabe:CFGGmitε6∈L(G)

Ausgabe:CFGG⁰in Chomsky-Normalform mitL(G) =L(G⁰) Beginn

Entferne dieε-Produktionen inGmit Algorithmus 1 und entferne anschließend die Einheitsproduktionen mit Algorithmus 5;

SeiG⁰= (V⁰,Σ, P⁰, S⁰)die entstandene Grammatik;

f¨ur allea∈Σtue

/* F¨uhre neue VariableAaf¨uraein, und ersetze Vorkommen vonadurch das Nichtterminal */

G⁰:= (V⁰∪{A· a},Σ,{A→w[Aa/a]|A→w∈P⁰und|w|>1}

∪{A· →w|A∈w∈P⁰und|w|= 1} ·∪ {Aa→a},S) /* Nun sind alle Regeln von der FormA→aoderA→B1· · ·Bmmitm≥2 */

f¨ur alleA→B1· · ·Bm∈P⁰mitm >2tue SeienC1, . . . , Cm−2neue Variablen;

V⁰:=V⁰∪{C· 1, . . . , Cm−2};

/* Ersetze inP⁰die ProduktionA→B1· · ·Bmdurch neue Regeln */

P⁰:=(P⁰\ {A→B1· · ·Bm})

∪{A→B1C1} ∪ {Ci→Bi+1Ci+1|f¨uri= 1, . . . , m−3} ∪ {C_m−2→Bm−1Bm};

(6)

Theorem

F¨ ur CFGs G mit ε 6∈ L(G) berechnet Algorithmus 6 eine

¨ aquivalente CFG in Chomsky-Normalform.

Beweis:

Die Schritte

” Entferne der ε-Produktionen und Entfernen von Einheitsproduktionen haben wir als korrekt gezeigt.

Die Schritte

” Einf¨ uhren von Produktionen A → a “ und Behandlung von A → B

₁

· · · B

_m

sind Instanzen der korrekten Operation

” Sharing von Satzformen mit neuen Variablen“

Verifiziere, dass danach alle Produktionen die gew¨ unschte Form haben.

Beispiel: Chomsky-Normalform berechnen

G

₀

= ({A, B, C, D, S}, {0, 1}, P

₀

, S) mit

P

₀

= {S → 1A, A → AB, A → DA, A → ε, B → 0, B → 1, C → AAA, D → 1AC}.

Schritt 1: Entfernen der ε-Produktionen

G

₀

= ({A, B, C, D, S}, {0, 1}, P

₀

, S) mit

P

₀

= {S → 1A, A → AB, A → DA, A → ε, B → 0, B → 1, C → AAA, D → 1AC}.

Menge W der Variablen, die ε herleiten:

W = {A, C} da A → ε und C → AAA Starte mit

G

₁

= ({A, B, C, D, S}, {0, 1}, P

₁

, S)

P

₁

= {S → 1A, A → AB, A → DA, B → 0, B → 1, C → AAA, D → 1AC}.

Hinzuf¨ ugen von Produktionen f¨ ur Vorkommen von A und C

P

₁

= {S → 1A,

S →1, A

→ AB,

A→B, A

→ DA,

A→D,

B → 0, B → 1, C → AAA,

C→AA, C→A,

D → 1AC,

D→1A, D→1C, D→1}.

Schritt 2: Entfernen der Einheitsproduktionen (1)

P

₁

= {S → 1A, S → 1, A → AB, A → B, A → DA, A → D, B → 0, B → 1 C → AAA, C → AA, C → A,

D → 1AC, D → 1A, D → 1C, D → 1}.

Der gerichtete Graph ist

D = ({S, A, B, C, D}, {(A, B), (A, D), (C, A)}).

Es gibt keine Zyklen, wir erhalten P

₂

= P

₁

Topologisches Sortieren und Umbenennen der Variablen, sodass

” A

_i

→ A

_j

impliziert i < j“ gilt, erfordert eine Umbenennung, welche die Beziehungen

” A < B“,

” A < D“,

” C < A“ erzeugt.

Wir w¨ ahlen Umbenennung ρ mit ρ(C) = A

₁

, ρ(A) = A

₂

, ρ(B) = A

₃

, ρ(D) = A

₄

, ρ(S) = A

₅

.

Das liefert uns G

₃

= ({A

₁

, A

₂

, A

₃

, A

₄

, A

₅

}, Σ, P

₃

, A

₅

) mit

P

₃

= {A

₅

→ 1A

₂

, A

₅

→ 1, A

₂

→ A

₂

A

₃

, A

₂

→ A

₃

, A

₂

→ A

₄

A

₂

,

A

₂

→ A

₄

, A

₃

→ 0, A

₃

→ 1, A

₁

→ A

₂

A

₂

A

₂

, A

₁

→ A

₂

A

₂

,

A

₁

→ A

₂

, A

₄

→ 1A

₂

A

₁

, A

₄

→ 1A

₂

, A

₄

→ 1A

₁

, A

₄

→ 1}.

(7)

Schritt 2: Entfernen der Einheitsproduktionen (2)

P

₃

= {A

₅

→ 1A

₂

, A

₅

→ 1, A

₂

→ A

₂

A

₃

, A

₂

→ A

₃

, A

₂

→ A

₄

A

₂

, A

₂

→ A

₄

, A

₃

→ 0, A

₃

→ 1, A

₁

→ A

₂

A

₂

A

₂

, A

₁

→ A

₂

A

₂

, A

₁

→ A

₂

, A

₄

→ 1A

₂

A

₁

, A

₄

→ 1A

₂

, A

₄

→ 1A

₁

, A

₄

→ 1}.

Nun l¨ auft die F¨ ur-Schleife f¨ ur i von 5 bis 1:

F¨uri= 5, i= 4, i= 3gibt es jeweils keine Produktion der FormAi→Aj. F¨uri= 2wirdA2→A3ersetzt durch A2→0, A2→1, und es wird A₂→A₄ ersetzt durchA₂→1A₂A₁, A₂→1A₂, A₂→1A₁ und A₂→1. Danach ist

P4={A5→1A2, A5→1, A2→A2A3, A2→0, A2→1, A2→A4A2, A₂→1A₂A₁, A₂→1A₂, A₂→1A₁, A₃→0, A₃→1,

A1→A2A2A2, A1→A2A2, A1→A2, A4→1A2A1, A4→1A2, A4→1A1, A4→1}.

F¨uri= 1wirdA1→A2ersetzt durch A1→A2A3,A1→0,A1→1, A1→A4A2,A1→1A2A1,A1→1A2undA1→1A1.

Schritt 2: Entfernen der Einheitsproduktionen (3)

Daher ist die Grammatik nach Entfernen der Einheitsproduktionen:

G

₅

= (V

₅

, Σ, P

₅

, A

₅

) mit V

₅

= {A

₁

, A

₂

, A

₃

, A

₄

, A

₅

} und P

₅

= {A

₅

→ 1A

₂

, A

₅

→ 1, A

₂

→ A

₂

A

₃

, A

₂

→ 0, A

₂

→ 1,

A

₂

→ A

₄

A

₂

, A

₂

→ 1A

₂

A

₁

, A

₂

→ 1A

₂

, A

₂

→ 1A

₁

, A

₃

→ 0, A

₃

→ 1, A

₁

→ A

₂

A

₂

A

₂

, A

₁

→ A

₂

A

₂

, A

₁

→ A

₂

A

₃

, A

₁

→ 0, A

₁

→ 1, A

₁

→ A

₄

A

₂

, A

₁

→ 1A

₂

A

₁

, A

₁

→ 1A

₂

, A

₁

→ 1A

₁

, A

₄

→ 1A

₂

A

₁

, A

₄

→ 1A

₂

, A

₄

→ 1A

₁

, A

₄

→ 1}.

Schritt 3: Terminalsymbole durch neue Produktionen darstellen

F¨ uge B

₀

→ 0 und B

₁

→ 1 hinzu und ersetze in rechten Seiten mit Wortl¨ ange > 1:

P

₆

= {B

₀

→ 0, B

₁

→ 1, A

₅

→ B

₁

A

₂

, A

₅

→ 1, A

₂

→ A

₂

A

₃

, A

₂

→ 0, A

₂

→ 1, A

₂

→ A

₄

A

₂

, A

₂

→ B

₁

A

₂

A

₁

, A

₂

→ B

₁

A

₂

,

A

₂

→ B

₁

A

₁

, A

₃

→ 0, A

₃

→ 1, A

₁

→ A

₂

A

₂

A

₂

, A

₁

→ A

₂

A

₂

, A

₁

→ A

₂

A

₃

, A

₁

→ 0, A

₁

→ 1, A

₁

→ A

₄

A

₂

, A

₁

→ B

₁

A

₂

A

₁

, A

₁

→ B

₁

A

₂

, A

₁

→ B

₁

A

₁

, A

₄

→ B

₁

A

₂

A

₁

,

A

₄

→ B

₁

A

₂

, A

₄

→ B

₁

A

₁

, A

₄

→ 1}.

Schritt 4: Rechte Seiten zerlegen

Zerlege rechte Seiten mit Wortl¨ ange > 2:

Ergibt G

₇

= (V

₇

, Σ, P

₇

, A

₅

), wobei

V

₇

= {A

₁

, A

₂

, A

₃

, A

₄

, A

₅

, B

₀

, B

₁

, C

₁

, C

₂

, C

₃

, C

₄

}

P

₇

= {B

₀

→ 0, B

₁

→ 1, A

₅

→ B

₁

A

₂

, A

₅

→ 1, A

₂

→ A

₂

A

₃

, A

₂

→ 0, A

₂

→ 1, A

₂

→ A

₄

A

₂

, A

₂

→ B

₁

C

₁

C

₁

→ A

₂

A

₁

,

A

₂

→ B

₁

A

₂

, A

₂

→ B

₁

A

₁

, A

₃

→ 0, A

₃

→ 1, A

₁

→ A

₂

C

₂

, C

₂

→ A

₂

A

₂

, A

₁

→ A

₂

A

₂

, A

₁

→ A

₂

A

₃

, A

₁

→ 0, A

₁

→ 1, A

₁

→ A

₄

A

₂

, A

₁

→ B

₁

C

₃

, C

₄

→ A

₂

A

₁

, A

₁

→ B

₁

A

₂

, A

₁

→ B

₁

A

₁

, A

₄

→ B

₁

C

₄

, C

₄

→ A

₂

A

₁

, A

₄

→ B

₁

A

₂

, A

₄

→ B

₁

A

₁

, A

₄

→ 1}.

Alle Schritte beendet, G

₇

ist in Chomsky-Normalform

(8)

Greibach-Normalform

Definition (Greibach-Normalform)

Ein CFG G = (V, Σ, P, S) mit ε 6∈ L(G) ist in

Greibach-Normalform, falls alle Produktionen in

P von der Form A → aB

₁

B

₂

. . . B

_j

mit j ≥ 0, A, B

₁

, . . . , B

_j

∈ V und a ∈ Σ sind.

Bemerkungen:

benannt nach Sheila A. Greibach

Regul¨ are Grammatiken sind Spezialfall der Greibach-NF:

Dort ist nur j = 0 oder j = 1 erlaubt.

Algorithmus 7: Herstellen der Greibach-Normalform

Eingabe:CFGG= ({A1, . . . , An},Σ, P, Ai)in Chomsky-NF mitε6∈L(G) Ausgabe:CFGG⁰in Greibach-Normalform mitL(G) =L(G⁰)

Beginn

f¨uri= 1bisntue f¨urj= 1bisi−1tue

f¨ur alleA_i→A_ju∈Ptue

SeienAj→w1| · · · |wmalle Regeln inP mitAjals linker Seite;

ErsetzeAi→AjudurchAi→w1u| . . . |wmuinP;

wennAi→Aiu∈P dann

Eliminiere die Regel mit der Operation

”Elimination der Links-Rekursion“;

SeiBidie dabei neu erzeugte Variable;

f¨uri=n−1bis1tue

f¨ur alleAi→Aju∈P,j > itue

SeienAj→w1| · · · |wmalle Regeln mitAjals linker Seite;

ErsetzeA_i→A_judurchA_i→w₁u| · · · |w_muinP; f¨uri= 1bisntue

f¨ur alleBi→Aju∈P tue

SeienAj→w1| · · · |wmalle Regeln mitAjals linker Seite;

ErsetzeBi→AjudurchBi→w1u| · · · |wmuinP;

Ziel der geschachtelten F¨ur-Schleife: Es gibtA_i→A_junur f¨urj > i Ersetzen der RegelnAi→Ajumiti > j

Ersetzen der RegelnA_i→A_iu

Nun gilt f¨urAi→Ajustetsj > i.

Damit gilt f¨urAn→u:ubeginnt mit Zeichen ausΣ.

N¨achste Schleife: Ersetze alleAi→Ajumitj > i w1, . . . , wm fangen mit Zeichen aus Σ an, da Schleife absteigend l¨auft!

Behandle die neuen Regeln mit Bials linker Seite.

Korrektheit

Satz

Zu jeder CFG G mit ε 6∈ L(G) gibt es eine CFG G

⁰

in Greibach-Normalform, sodass L(G) = L(G

⁰

) gilt.

Korrektheit folgt:

durch Pr¨ ufen der genannten Invarianten

Korrektheit der Elimination von Links-Rekursion Korrektheit der Operation

” Inlining von Produktionen“

Ein Beispiel zur Herstellung der Greibach-Normalform ist im Skript

Widerlegen der Kontextfreiheit

Wir lernen Methoden kennen zum Widerlegen der Kontextfreiheit:

Pumping-Lemma f¨ ur kontextfreie Sprachen

evtl. Ogdens-Lemma (evtl. in der Zentral¨ ubung)

(9)

Einschub: Bin¨ arb¨ aume

Bin¨ arbaum: Baum, wobei jeder Knoten 0 oder 2 Kinder hat Lemma

Sei B ein Bin¨ arbaum mit ≥ 2

^k

Bl¨ attern. Dann hat B einen Pfad der L¨ ange ≥ k.

Beweis durch Induktion ¨ uber k:

k = 0: Ein Baum mit 2

^k

= 2

⁰

= 1 Bl¨ attern besteht genau aus diesem Blatt und hat einen Pfad der L¨ ange ≥ 0.

k > 0: Einer der beiden Teilb¨ aume unter der Wurzel hat ≥ 2

^k−1

Bl¨ atter.

Per Induktionsannahme hat dieser einen Pfad der L¨ ange ≥ k − 1.

Daher hat der gesamte Baum einen Pfad der L¨ ange ≥ k.

| {z }

2^k Bl¨atter

Pumping-Lemma f¨ ur CFLs: Bemerkungen

Erinnerung: Pumping-Lemma f¨ ur regul¨ are Sprachen:

Jede regul¨ are Sprache erf¨ ullt die Pumping-Eigenschaft.

Analog: Pumping-Lemma f¨ ur kontextfreie Sprachen:

Jede kontextfreie Sprache erf¨ ullt die Pumping-Eigenschaft f¨ ur kontextfreie Sprachen

Kann vorallem zum Widerlegen benutzt werden:

Sprache verletzt die Pumping-Eigenschaft f¨ ur CFLs

= ⇒ Sprache ist nicht kontextfrei

Pumping-Eigenschaft bei regul¨ aren Sprachen, informell:

Man kann Worte an einer Stelle aufpumpen und verbleibt in der Sprache (uvⁱw∈Lf¨ur alle i∈N)

Pumping-Eigenschaft bei kontextfreien Sprachen, informell:

Man kann Worte an zweiStellen gleichzeitig aufpumpen und verbleibt in der Sprache (uvⁱwxⁱy∈Lf¨ur allei∈N)

Das Pumping-Lemma f¨ ur CFLs

Lemma (Pumping-Lemma f¨ ur CFLs)

Sei L eine kontextfreie Sprache. Dann gibt es eine Zahl n ∈

N>0

, sodass jedes Wort z ∈ L, das Mindestl¨ ange n hat (d. h. |z| ≥ n), als z = uvwxy geschrieben werden kann, so dass gilt:

|vx| ≥ 1

|vwx| ≤ n

f¨ ur alle i ≥ 0: uv

ⁱ

wx

ⁱ

y ∈ L.

Beweis des Pumping-Lemmas (1)

Beh.: F¨ ur jede CFL L gibt es n ∈

N>0

, sodass jedes Wort z ∈ L mit |z| ≥ n als z = uvwxy geschrieben werden kann mit

|vx| ≥ 1 |vwx| ≤ n f¨ ur alle i ≥ 0: uv

ⁱ

wx

ⁱ

y ∈ L Beweis:

Sei G = (V, Σ, P, S ) eine CFG in Chomsky-NF mit L(G) = L \ {ε}

Betrachte Ableitung und Syntaxbaum eines Wortes z mit |z| ≥ 2

^|V^|

= n (wenn es keine solche Ableitung gibt, gilt das Pumping-Lemma:

es gibt dann keine Worte z ∈ L mit Mindestl¨ ange n) Da G in Chomsky-NF, ist der Syntaxbaum ein bin¨ arer Baum, bis auf die letzte Schicht, die Produktionen A → a anwendet

Baum ohne letzte Schicht hat |z| ≥ 2

^|V^|

Bl¨ atter.

Daher gibt es einen Pfad von der Wurzel zum Blatt, der L¨ ange ≥ |V |, der aus ≥ |V + 1| Knoten besteht und jeder Knoten ist mit einer Variablen markiert.

S

| {z }

z

(10)

Beweis des Pumping-Lemmas (2)

Beh.: F¨ ur jede CFL L gibt es n ∈

N>0

, sodass jedes Wort z ∈ L mit |z| ≥ n als z = uvwxy geschrieben werden kann mit

|vx| ≥ 1 |vwx| ≤ n f¨ ur alle i ≥ 0: uv

ⁱ

wx

ⁱ

y ∈ L Beweis:

. . .

Da es nur |V | Variablen gibt, kommt mindestens eine Variable mehrfach auf diesem Pfad vor.

W¨ ahle die Vorkommen der Variablen so, dass das zweite Vorkommen von unten gesehen am tiefsten ist. Sei A die Variable.

S

A A

| {z }

z

Beweis des Pumping-Lemmas (3)

Beh.: F¨ ur jede CFL L gibt es n ∈

N>0

, sodass jedes Wort z ∈ L mit |z| ≥ n als z = uvwxy geschrieben werden kann mit

|vx| ≥ 1 |vwx| ≤ n f¨ ur alle i ≥ 0: uv

ⁱ

wx

ⁱ

y ∈ L Beweis:

Betrachte die Teilb¨ aume, die jeweils A als Wurzel haben.

Sie entsprechen Ableitungen von

Teilworten vonz

Der Teilbaum mit dem unteren A als Wurzel erzeugt ein Teilwort des Teilbaums mit dem oberen A als Wurzel. D.h. z = uvwxy, wobei vwx vom oberen A und w vom unteren A erzeugt wird.

Es gilt |w| ≥ 1, da Variablen einer Grammatik in Chomsky-NF nur W¨ orter mit L¨ ange ≥ 1 herleiten Das Wort vwx muss echt l¨ anger sein als w, da das obere A ¨ uber dem unteren A steht. Daher folgt

|v| ≥ 1 und/oder |x| ≥ 1 und somit |vx| ≥ 1.

S

A A

| {z }

z

u v w x y

Beweis des Pumping-Lemmas (4)

Beh.: F¨ ur jede CFL L gibt es n ∈

N>0

, sodass jedes Wort z ∈ L mit |z| ≥ n als z = uvwxy geschrieben werden kann mit

|vx| ≥ 1 |vwx| ≤ n f¨ ur alle i ≥ 0: uv

ⁱ

wx

ⁱ

y ∈ L Beweis:

Da wir das tiefste Vorkommen der wiederholten Variable gew¨ ahlt haben, kann der Pfad vom oberen A bis zur Blattebene nur aus ≤ |V | + 1 Knoten bestehen und L¨ ange ≤ |V | haben

Daraus folgt: |vwx| ≤ 2

^|V^|

= n

Aus dem Baum folgt: A ⇒

^∗

w und A ⇒

^∗

vAx und daher kann man auch A ⇒

^∗

v

ⁱ

wx

ⁱ

f¨ ur alle i ∈

N

ableiten

Schließlich folgt daraus S ⇒

^∗

uv

ⁱ

wx

ⁱ

y f¨ ur alle i ∈

N

.

S

A A

| {z }

z

u v w x y

Pumping-Lemma: Illustrationen

S

A

u

w

y

S

A A

A

u v x y

v w x

Illustration f¨ ur uv

⁰

wx

⁰

y Illustration f¨ ur uv

²

wx

²

y

(11)

Verwendung des Pumping-Lemma

Die Pumping-Eigenschaft ist eine notwendige aber

keine hinreichende

Bedingung f¨ ur CFLs.

Daher kann das Pumping-Lemma

nicht

verwendet werden, um Kontextfreiheit zu zeigen

Aber: Es kann verwendet werden, um

Kontextfreiheit zu widerlegen

Pumping-Lemma zum Widerlegen der Kontextfreiheit

Formulierung des Pumping-Lemmas f¨ ur CFGs zum Widerlegen der Kontextfreiheit

Sei L eine formale Sprache f¨ ur die gilt: F¨ ur jede Zahl n ∈

N>0

gibt es ein z ∈ L, das Mindestl¨ ange n hat (d. h. |z| ≥ n), und f¨ ur jede Zerlegung z = uvwxy mit |vwx| ≤ n und |vx| ≥ 1, gibt es ein i ≥ 0, sodass uv

ⁱ

wx

ⁱ

y 6∈ L. Dann ist L nicht kontextfrei.

Beweis: Umformung der negierten pr¨ adikatenlogischen Formel (siehe Skript), die sich aus dem Pumping-Lemma ergibt.

Pumping-Lemma als Spiel

Sei L die formale Sprache.

1

Der

Gegner

w¨ ahlt die Zahl n ∈

N>0

.

2 Wir

w¨ ahlen das Wort z ∈ L mit |z| ≥ n.

3

Der

Gegner

w¨ ahlt die Zerlegung

z = uvwxy mit |vx| ≥ 1 und |vwx| ≤ n

4 Wir

gewinnen das Spiel, wenn wir ein i ≥ 0 angeben k¨ onnen, sodass uv

ⁱ

wx

ⁱ

w 6∈ L.

Wenn wir

f¨ur jede Wahl des Gegners

das Spiel gewinnen k¨ onnen, dann haben wir gezeigt, dass L nicht kontextfrei ist.

Beispiele

Satz

Die Sprache L = {a

^l

b

^l

c

^l

| l ∈

N

} ist nicht kontextfrei.

Beweis:

Gegner w¨ ahlt n ∈

N>0

Wir w¨ ahlen z = a

ⁿ

b

ⁿ

c

ⁿ

.

Gegner w¨ ahlt Zerlegung z = uvwxy mit |vx| ≥ 1 und |vwx| ≤ n Fall 1: vwx ist von der Form a

ⁱ

b

^j

, i + j ≤ n

Da |vx| ≥ 1, gilt #

_a

(vx) ≥ 1 oder #

_b

(vx) ≥ 1, aber #

_c

(vx) = 0 Damit folgt uv

⁰

wx

⁰

y 6∈ L

Fall 2: vwx ist von der Form b

ⁱ

c

^j

, i + j ≤ n

Da |vx| ≥ 1, gilt #

_b

(vx) ≥ 1 oder #

_c

(vx) ≥ 1, aber #

_a

(vx) = 0 Damit folgt uv

⁰

wx

⁰

y 6∈ L

Andere F¨ alle sind nicht m¨ oglich!

(12)

Beispiele (2)

Satz

Die Sprache L = {a

ⁱ

b

^j

c

ⁱ

d

^j

| i, j ∈

N>0

} ist nicht kontextfrei.

Beweis:

Gegner w¨ahltn∈N>0. Wir w¨ahlenz=aⁿbⁿcⁿdⁿ.

Gegner w¨ahlt Zerlegungz=uvwxymit|vx| ≥1und|vwx| ≤n

1.Fall: vwx=aⁱb^j miti+j≤n. Da|vx| ≥1, gilt#a(vx) + #b(vx)≥1und uv⁰wx⁰y=uwy=aⁱ⁰b^j⁰cⁿdⁿundi⁰< nund/oderj⁰< n, d.h.uwy6∈L.

2.Fall: vwx=bⁱc^j miti+j≤n. Da|vx| ≥1, gilt#b(vx) + #c(vx)≥1und uv⁰wx⁰y=uwy=aⁿbⁱ⁰c^j⁰dⁿundi⁰< nund/oderj⁰< n, d.h.uwy6∈L 3.Fall: vwx=cⁱd^j miti+j≤n. Da|vx| ≥1, gilt#c(vx) + #d(vx)≥1 und uv⁰wx⁰y=uwy=aⁿbⁿcⁱ⁰d^j⁰ undi⁰< nund/oderj⁰< n, d.h.uwy6∈L.

Un¨ ares Alphabet

Satz

Sei L eine formale Sprache ¨ uber einem un¨ aren Alphabet (d.h. |Σ| = 1).

Dann ist L genau dann regul¨ ar, wenn L kontextfrei ist.

Beweis:

Wenn L regul¨ ar ist, dann ist L auch kontextfrei.

R¨ uckrichtung: Siehe Skript

(Beweis verwendet die Pumping-Eigenschaft f¨ ur CFLs und konstruiert daraus eine Vereinigung von regul¨ aren Sprachen)

Beispiele

Satz

Die Sprachen

L

₁

= {a

^p

| p ist eine Primzahl}

L

₂

= {a

ⁿ

| n ist keine Primzahl}

L

₃

= {a

ⁿ

| n ist Quadratzahl}

L

₄

= {a

²ⁿ

| n ∈

N

} sind allesamt nicht kontextfrei.

Beweis: Wir haben f¨ ur alle 4 Sprachen gezeigt, dass sie nicht regul¨ ar sind. Da sie alle ¨ uber einem un¨ aren Alphabet definiert sind, sind sie auch nicht kontextfrei.

Abschlusseigenschaften der kontextfreien Sprachen

Theorem

Die kontextfreien Sprachen sind abgeschlossen unter Vereinigung, Produkt und Kleeneschem Abschluss.

Beweis:

Seien L

₁

,L

₂

CFLs und G

_i

= (V

_i

, Σ

_i

, P

_i

, S

_i

) CFGs mit L(G

_i

) = L

_i

f¨ ur i = 1, 2. O.B.d.A. sei V

₁

∩ V

₂

= ∅.

Seien S, S

⁰

neue Variablen ({S, S

⁰

} ∩ (V

₁

∪ V

₂

) = ∅).

Vereinigung:

Es gilt: L(G

_∪

) = L(G

₁

) ∪ L(G

₂

) = L

₁

∪ L

₂

f¨ ur G

∪

= (V

₁

∪ V

₂

∪ {S}, Σ

₁

∪ Σ

₂

, P

₁

∪ P

₂

∪ {S → S

₁

| S

₂

}, S ).

Produkt:

Es gilt L(G

_◦

) = L(G

₁

)L(G

₂

) = L

₁

L

₂

f¨ ur

G

_◦

= (V

₁

∪ V

₂

∪ {S}, Σ

₁

∪ Σ

₂

, P

₁

∪ P

₂

∪ {S → S

₁

S

₂

}, S).

Kleenescher Abschluss:

Sei G

_1,∗

= (V

₁

∪ {S

⁰

, S

₀

}, Σ, P

⁰

, S

⁰

) mit P

⁰

= (P \ {S

₁

→ ε}) ∪ {S

⁰

→ ε, S

⁰

→ S, S → SS, S → S

₁

}.

Dann gilt L(G

_1,∗

) = L(G

₁

)

^∗

.

(13)

Abschlusseigenschaften der kontextfreien Sprachen (2)

Theorem

Die kontextfreien Sprachen sind

nicht abgeschlossen

unter Schnitt- und Komplementbildung.

Sei L

₁

= {a

ⁿ

b

^m

c

^m

| m, n ∈

N

} und sei L

₂

= {a

^m

b

^m

c

ⁿ

| m, n ∈

N

} G

₁

= ({A, D, S}, {a, b, c}, {S → AD, A → ε | aA, D → bDc | ε}, S) G

₂

= ({C, D, S}, {a, b, c}, {S → DC, C → cC | ε, D → aDb | ε}, S) F¨ ur i=1,2: L(G

_i

) = L

_i

, daher: L

₁

und L

₂

sind beide kontextfrei.

L

₁

∩ L

₂

= {a

ⁿ

b

ⁿ

c

ⁿ

| n ∈

N>0

} ist nicht kontextfrei (bereits gezeigt).

Daher sind die CFLs nicht abgeschlossen bez¨ uglich Schnittbildung.

Komplement: Widerspruchsbeweis: Annahme: L CFL = ⇒ L CFL Seien L

₁

, L

₂

CFLs. Dann ist auch L

₁

∪ L

₂

CFL

(da CFLs abgeschlossen bez. · und ∪) Aber: L

₁

∪ L

₂

= L

₁

∩ L

₂

. Widerspruch!

Zusammenfassung

Normalformen f¨ ur CFGs: Chomsky-Normalform und Greibach-Normalform

Widerlegen der Kontextfreiheit mit dem Pumping-Lemma Abschlusseigenschaften kontextfreier Sprachen