Automatentheorie und Formale Sprachen Wintersemester 2007/2008

(1)

. . . . . .

Automatentheorie und Formale Sprachen Wintersemester 2007/2008

Steffen Reith

reith@informatik.fh-wiesbaden.de

Fachhochschule Wiesbaden

18. Oktober 2007

(2)

. . . . . .

Administratives

(3)

. . . . . .

Termine

Vorlesung:

Donnerstag 7⁴⁵ - 9¹⁵im H ¨orsaal C101 Ubungsgruppen:¨

Gruppe A Montag 11¹⁵ - 12⁴⁵ H örsaal C104 Berthold Gruppe B Montag 9³⁰ - 11⁰⁰ H örsaal C104 Berthold Gruppe C Donnerstag 9³⁰ - 11⁰⁰ H örsaal A322 Reith Gruppe D Donnerstag 11¹⁵ - 12⁴⁵ H örsaal C104 Reith

(4)

. . . . . .

Uber den Dozenten ¨

Prof. Dr. Steffen Reith, geboren ja, verheiratet, ein Kind Seit Sommersemester 2006 an der FH Wiesbaden

Vorher t ätig als Softwareentwickler f ür kryptographische und mathematische Algorithmen f ür tief eingebettete System in KFZs.

Spezialgebiete: Komplexit ¨atstheorie, Logik in der Informatik und Kryptographie

EMail:

reith@informatik.fh-wiesbaden.de IM (Jabber):

streit@jabber.org B ¨uro:

(5)

. . . . . .

Uber den Dozenten ¨

Prof. Dr. Steffen Reith, geboren 1968, verheiratet, ein Kind Seit Sommersemester 2006 an der FH Wiesbaden

Vorher t ätig als Softwareentwickler f ür kryptographische und mathematische Algorithmen f ür tief eingebettete System in KFZs.

Spezialgebiete: Komplexit ¨atstheorie, Logik in der Informatik und Kryptographie

EMail:

reith@informatik.fh-wiesbaden.de IM (Jabber):

streit@jabber.org B ¨uro:

Raum C304

(6)

. . . . . .

Weitere Informationen zur Vorlesung

Webseite:http://www.informatik.fh-wiesbaden.de/˜reith Literatur:

John E. Hopcroft and Rajeev Motwani and Jeffrey D. Ullman, Introduction to Automata Theory, Languages, and Computation, Addison Wesley Publishing Company, 2001

John E. Hopcroft and Rajeev Motwani and Jeffrey D. Ullman, Einf ¨uhrung in die Automatentheorie, Formale Sprachen und Komplexit ¨atstheorie, Pearson Studium, 2002

Uwe Sch ¨oning, Theoretische Informatik - kurzgefasst, Spektrum Akademischer Verlag, 2001

Juraj Hromkoviˇc, Theoretische Informatik - Formale Sprachen, Berechenbarkeit, Komplexit ¨atstheorie, Algorithmik,

Kommunikation und Kryptographie, 3. Auflage, Teubner, 2007

(7)

. . . . . .

Weitere Informationen zur Vorlesung (II)

Ersatztermine:

Werden dienstags stattfinden Skript:

Wird in unregelm äßigen Abst änden auf der Webseite der Vorlesung ver öffentlicht (Eine alte Variante steht bereits auf der Webseite zur Verf ügung).

Folien:

Einzelne (kleine) Teile der Vorlesung werden in Folienform zur Verf ügung stehen. Folien, die vom Skript abweichen, werden auf der Webseite (nachtr äglich) zur Verf ügung stehen.

Eine eigene Mitschrift sollteangefertigtwerden!

(8)

. . . . . .

Ein roter Faden

In der Vorlesung werden die folgenden Themen untersucht:

.

1 Einleitung (grundlegende Begriffe, L-Systeme)

.

2 Die Chomsky-Hierarchie (Sprachklassen, Wortproblem)

.

3 Endliche Automaten und regul ¨are Sprachen (Pumping Lemma)

.

4 Kontextfreie Sprachen (Normalformen, Kellerautomaten)

.

5 Kontextsensitive- und Typ0-Sprachen (Turingmaschinen, Unentscheidbarkeit)

.

6 Komplexit ¨at von Algorithmen

(9)

. . . . . .

Ein roter Faden

.

(10)

. . . . . .

Ein roter Faden

.

(11)

. . . . . .

Ein roter Faden

.

(12)

. . . . . .

Ein roter Faden

.

Steffen Reith Automatentheorie und Formale Sprachen 18. Oktober 2007 7 / 30

(13)

. . . . . .

Ein roter Faden

.

(14)

. . . . . .

Ein roter Faden

.

(15)

. . . . . .

Warum Theoretische Informatik?

Theoretische Informatik wird (wohl aufgrund der mathematischen Pr ¨agung) oft als

”schwach motiviert“,

”langweilig“ und

”nutzlos“

beschrieben.

Warum lohnt sich die Theoretische Informatik?

Konkrete Technologien ¨andern sich sehr schnell, deshalb sollte man die Konzepte verstehen.

Hintergrundinformationen erm ¨oglichen Chancen und Grenzen von Technologien zu verstehen.

Theoretische Informatik gibt Hinweise, welche Wege zu keiner L ¨osung f ¨uhren werden.

Verbesserung des strukturierten Denkens und der Probleml ¨osungskompetenz.

(Tiefgreifende) Ideen f ¨uhren zu schnellen Algorithmen

(16)

. . . . . .

Warum Theoretische Informatik?

”nutzlos“

beschrieben.

Warum lohnt sich die Theoretische Informatik?

(17)

. . . . . .

Warum Theoretische Informatik?

”nutzlos“

beschrieben.

Warum lohnt sich die Theoretische Informatik?

(18)

. . . . . .

Warum Theoretische Informatik?

”nutzlos“

beschrieben.

Warum lohnt sich die Theoretische Informatik?

(19)

. . . . . .

Warum Theoretische Informatik?

”nutzlos“

beschrieben.

Warum lohnt sich die Theoretische Informatik?

(20)

. . . . . .

Warum Theoretische Informatik?

”nutzlos“

beschrieben.

Warum lohnt sich die Theoretische Informatik?

(21)

. . . . . .

Warum Theoretische Informatik?

”nutzlos“

beschrieben.

Warum lohnt sich die Theoretische Informatik?

(22)

. . . . . .

Ein sehr einfaches Beispiel

Kugeln sind in einer quadratischen Pyramide der H¨ohehgestapelt.

Schreiben Sie ein Programm, dass die Anzahl der Kugeln berechnet:

unsigned long CalcBalls(unsigned long height) {

unsigned long i; /* Zaehler */

unsigned long sum = 0U; /* Akt. Summe v. Kugeln */ for (i = 1U; i <= height; i++) {

sum += (i*i); }

return sum; /* Summe ist Anzahl der Kugeln */ }

(23)

. . . . . .

Ein sehr einfaches Beispiel

unsigned long CalcBalls(unsigned long height) { unsigned long i; /* Zaehler */

unsigned long sum = 0U; /* Akt. Summe v. Kugeln */

for (i = 1U; i <= height; i++) { sum += (i*i);

}

(24)

. . . . . .

Ein sehr einfaches Beispiel

for (i = 1U; i <= height; i++) {

sum += (i*i); }

(25)

. . . . . .

Ein sehr einfaches Beispiel

}

(26)

. . . . . .

Ein sehr einfaches Beispiel

}

return sum; /* Summe ist Anzahl der Kugeln */

}

(27)

. . . . . .

Ein sehr einfaches Beispiel (II)

Es gilt Pⁿ

i=1

i²= n(n+1)(2n+1)

6 .

(IA)Eine Pyramide der H öhen=1 enth ält ^1·2·3₆ =1 Kugel. (IV)F ürk ≤ngilt P^k

i=1

i²= ^k(k^+1)(2k+1)₆ . (IS)

n+1P

i=1

i² = Pⁿ

i=1

i²+ (n+1)²

IV= n(n+1)(2n+1)

6 + (n²+2n+1)

= ²ⁿ³⁺³ⁿ₆ ²⁺ⁿ + (n²+2n+1)

= ²ⁿ³⁺⁹ⁿ²₆⁺¹³ⁿ⁺⁶

= ^(n+1)(2n₆²⁺⁷ⁿ⁺⁶⁾

= (n+1)(n+2)(2n+3) 6

= (n+1)((n+1)+1)(2(n+1)+1) 6

(28)

. . . . . .

Ein sehr einfaches Beispiel (II)

Es gilt Pⁿ

i=1

i²= n(n+1)(2n+1)

6 .

(IA)Eine Pyramide der H ¨ohen=1 enth ¨alt ^1·2·3₆ =1 Kugel.

(IV)F ¨urk ≤ngilt P^k

i=1

i²= ^k(k^+1)(2k+1)₆ . (IS)

n+1P

i=1

i² = Pⁿ

i=1

i²+ (n+1)²

IV= n(n+1)(2n+1)

6 + (n²+2n+1)

= ²ⁿ³⁺³ⁿ₆ ²⁺ⁿ + (n²+2n+1)

= ²ⁿ³⁺⁹ⁿ²₆⁺¹³ⁿ⁺⁶

= ^(n+1)(2n₆²⁺⁷ⁿ⁺⁶⁾

= (n+1)(n+2)(2n+3) 6

= (n+1)((n+1)+1)(2(n+1)+1) 6

(29)

. . . . . .

Ein sehr einfaches Beispiel (II)

Es gilt Pⁿ

i=1

i²= n(n+1)(2n+1)

6 .

i=1

i²= ^k^(k^+1)(2k+1)₆ .

(IS)

n+1P

i=1

i² = Pⁿ

i=1

i²+ (n+1)²

IV= n(n+1)(2n+1)

6 + (n²+2n+1)

= ²ⁿ³⁺³ⁿ₆ ²⁺ⁿ + (n²+2n+1)

= ²ⁿ³⁺⁹ⁿ²₆⁺¹³ⁿ⁺⁶

= ^(n+1)(2n₆²⁺⁷ⁿ⁺⁶⁾

= (n+1)(n+2)(2n+3) 6

= (n+1)((n+1)+1)(2(n+1)+1) 6

(30)

. . . . . .

Ein sehr einfaches Beispiel (II)

Es gilt Pⁿ

i=1

i²= n(n+1)(2n+1)

6 .

i=1

i²= ^k^(k^+1)(2k+1)₆ . (IS)

n+1P

i=1

i² = Pⁿ

i=1

i²+ (n+1)²

IV= n(n+1)(2n+1)

6 + (n²+2n+1)

= ²ⁿ³⁺³ⁿ₆ ²⁺ⁿ + (n²+2n+1)

= ²ⁿ³⁺⁹ⁿ²₆⁺¹³ⁿ⁺⁶

= ^(n+1)(2n₆²⁺⁷ⁿ⁺⁶⁾

= (n+1)(n+2)(2n+3) 6

= (n+1)((n+1)+1)(2(n+1)+1) 6

(31)

. . . . . .

Ein sehr einfaches Beispiel (II)

Es gilt Pⁿ

i=1

i²= n(n+1)(2n+1)

6 .

i=1

i²= ^k^(k^+1)(2k+1)₆ . (IS)

n+1P

i=1

i² = Pⁿ

i=1

i²+ (n+1)²

IV= n(n+1)(2n+1)

6 + (n²+2n+1)

= ²ⁿ³⁺³ⁿ₆ ²⁺ⁿ + (n²+2n+1)

= ²ⁿ³⁺⁹ⁿ²₆⁺¹³ⁿ⁺⁶

= ^(n+1)(2n₆²⁺⁷ⁿ⁺⁶⁾

= (n+1)(n+2)(2n+3) 6

= (n+1)((n+1)+1)(2(n+1)+1) 6

(32)

. . . . . .

Ein sehr einfaches Beispiel (II)

Es gilt Pⁿ

i=1

i²= n(n+1)(2n+1)

6 .

i=1

i²= ^k^(k^+1)(2k+1)₆ . (IS)

n+1P

i=1

i² = Pⁿ

i=1

i²+ (n+1)²

IV= n(n+1)(2n+1)

6 + (n²+2n+1)

= ²ⁿ³⁺³ⁿ₆ ²⁺ⁿ + (n²+2n+1)

= ²ⁿ³⁺⁹ⁿ²₆⁺¹³ⁿ⁺⁶

= ^(n+1)(2n₆²⁺⁷ⁿ⁺⁶⁾

= (n+1)(n+2)(2n+3) 6

= (n+1)((n+1)+1)(2(n+1)+1) 6

(33)

. . . . . .

Ein sehr einfaches Beispiel (II)

Es gilt Pⁿ

i=1

i²= n(n+1)(2n+1)

6 .

i=1

i²= ^k^(k^+1)(2k+1)₆ . (IS)

n+1P

i=1

i² = Pⁿ

i=1

i²+ (n+1)²

IV= n(n+1)(2n+1)

6 + (n²+2n+1)

= ²ⁿ³⁺³ⁿ₆ ²⁺ⁿ + (n²+2n+1)

= ²ⁿ³⁺⁹ⁿ²₆⁺¹³ⁿ⁺⁶

= ^(n+1)(2n₆²⁺⁷ⁿ⁺⁶⁾

= (n+1)(n+2)(2n+3) 6

= (n+1)((n+1)+1)(2(n+1)+1) 6

(34)

. . . . . .

Ein sehr einfaches Beispiel (III)

Dies f ¨uhrt direkt zu einem rekursiven Algorithmus:

/* Rekursionsabbruch? */

if (height == 0U) || (height == 1U) { return height;

} else {

return /* Kugeln in akt. Ebene */ (height*height)

/* Restpyramide */

+ CalculateBalls(height - 1U); }

}

Leider auch nicht schneller

(35)

. . . . . .

Ein sehr einfaches Beispiel (III)

unsigned long CalcBalls(unsigned long height) { /* Rekursionsabbruch? */

} else {

return /* Kugeln in akt. Ebene */ (height*height)

/* Restpyramide */

}

(36)

. . . . . .

Ein sehr einfaches Beispiel (III)

} else {

return /* Kugeln in akt. Ebene */

(height*height)

/* Restpyramide */

}

(37)

. . . . . .

Ein sehr einfaches Beispiel (III)

} else {

(height*height) /* Restpyramide */

+ CalculateBalls(height - 1U);

} }

(38)

. . . . . .

Ein sehr einfaches Beispiel (III)

} else {

(height*height) /* Restpyramide */

+ CalculateBalls(height - 1U);

} }

(39)

. . . . . .

Ein sehr einfaches Beispiel (IV)

Aber wir wissen:

/* Induktiv gezeigte Formel verwenden */ return height

* (height + 1U)

* (2U*(height) + 1U) / 6; }

Hintergrundwissen f ¨uhrt zu einem

schnelleren und ¨ubersichtlicheren Algorithmus

(40)

. . . . . .

Ein sehr einfaches Beispiel (IV)

Aber wir wissen:

unsigned long CalcBalls(unsigned long height) { /* Induktiv gezeigte Formel verwenden */

return height

* (height + 1U)

* (2U*(height) + 1U) / 6;

}

Hintergrundwissen f ¨uhrt zu einem

schnelleren und ¨ubersichtlicheren Algorithmus

(41)

. . . . . .

Ein sehr einfaches Beispiel (IV)

Aber wir wissen:

unsigned long CalcBalls(unsigned long height) { /* Induktiv gezeigte Formel verwenden */

return height

* (height + 1U)

* (2U*(height) + 1U) / 6;

}

Hintergrundwissen f ¨uhrt zu einem

schnelleren und ¨ubersichtlicheren Algorithmus

(42)

. . . . . .

Spielregeln

Rechnerund Handys sind zu Beginn der Veranstaltungaus

Wir (Dozent+ H ¨orer) sindp ¨unktlich Esredet nur eine Person

Bei Fragen und Problemensofort melden / fragen

Es wird Eigeninitiative und selbstst ¨andiges Arbeiten erwartet Eine Vorlesung ist keine (w ¨ochentliche) Fernsehserie!

I Eine Vorlesung wird vonden H ¨orernund vom Dozentengestaltet

I aktive Mitarbeit erw ¨unscht und erforderlich

I Der Dozent will motiviert werden

I Umfangreiche selbstst ¨andige Vor- und Nachbereitung ist notwendig

I Lernen nur kurz vor dem Vortrag ist t ¨odlich! (kontinuierliches Lernen)

Vergessen Sie den (angeblichen) Konflikt von Theorie und Praxis

Was w ¨unschen Sie sich?

(43)

. . . . . .

Spielregeln

Rechnerund Handys sind zu Beginn der Veranstaltungaus Wir (Dozent+ H ¨orer) sindp ¨unktlich

Esredet nur eine Person

Was w ¨unschen Sie sich?

(44)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(45)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(46)

. . . . . .

Spielregeln

Es wird Eigeninitiative und selbstst ¨andiges Arbeiten erwartet

Eine Vorlesung ist keine (w ¨ochentliche) Fernsehserie!

Was w ¨unschen Sie sich?

(47)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(48)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(49)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(50)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(51)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(52)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(53)

. . . . . .

Spielregeln

Was w ¨unschen Sie sich?

(54)

. . . . . .

Spielregeln

(55)

. . . . . .

Ubung ¨

Start der ¨Ubung: Heute

Auf der Webseite werden Siejede WocheAufgabenbl ätter f ür die Ubung finden. Diese ¨¨ Ubungen solltenselbstst ändigund

regelm ¨aßiggel ¨ost werden.

Gemeinsames Vorstellen und Besprechen von L¨osungen an der Tafel.

Die ¨Ubung ist f ¨ur SiedieChance neue Konzepte zu vertiefen, zu verstehen und anzuwenden.

Viele Begriffe und Konzepte (in der Informatik) kann man nur durch best ¨andiges ¨Uben erlernen

(56)

. . . . . .

Ubung ¨

(57)

. . . . . .

Ubung ¨

(58)

. . . . . .

Ubung ¨

(59)

. . . . . .

Ubung ¨

(60)

. . . . . .

Ubung ¨

(61)

. . . . . .

Automatentheorie und

Formale Sprachen

(62)

. . . . . .

Nat ¨urliche Sprachen

Nat ¨urliche Sprachen legen ihre Struktur durch die Regeln einer Grammatik

und eine Menge von erlaubten Worten (,Strings gebildet aus Buchstaben)

fest.

Allerdings m üssen syntaktisch korrekte S ätze einer nat ürlichen Sprache keinen Sinn tragen:

Wiesbaden wohnt weiterhin weich

Der bissige Student jagt die verschlafene Mensa

D.h. syntakisch korrekte S ¨atze m ¨ussen keinen Sinn (,Semantik) tragen.

Kann man diese Beobachtungen in der Informatik ausnutzen?

(63)

. . . . . .

Nat ¨urliche Sprachen

fest.

(64)

. . . . . .

Nat ¨urliche Sprachen

fest.

(65)

. . . . . .

Nat ¨urliche Sprachen

fest.

(66)

. . . . . .

Nat ¨urliche Sprachen

fest.

(67)

. . . . . .

Nat ¨urliche Sprachen

fest.

(68)

. . . . . .

Formale Regeln zur Erzeugung einer Sprache

Der Linguist NOAM CHOMSKYhatte folgende Idee:

Korrekte S ¨atzeeiner (nat ¨urlichen) Sprache sollen durch ein(endliches System) von formalen Regelnerzeugt werden.

Bis heute ist diese Idee

in der Linguistik umstritten, aber extrem bedeutsam in der Informatik.

Basis f ¨ur z.B. alle Programmiersprachen / Compilerbau, Auszeichnungssprachen (SGML, XML, HTML,. . .).

¨Ahnlich sind die sogenannten(Semi) Thue Systeme, die heute z.B. in Spezialformen in der Computergraphik Bedeutung erlangt haben.

(69)

. . . . . .

Formale Regeln zur Erzeugung einer Sprache

in der Linguistik umstritten, aber

extrem bedeutsam in der Informatik.

(70)

. . . . . .

Formale Regeln zur Erzeugung einer Sprache

in der Linguistik umstritten, aber extrem bedeutsam in der Informatik.

(71)

. . . . . .

Einige grundlegende Begriffe

Eine endliche MengeΣheißtAlphabet

DieElementevonΣwerdenBuchstabengenannt. Eine Folge von Buchstaben nennt manWort( ¨uberΣ)

Eine beliebige Menge von Worten ¨uberΣnennt man dann eine (formale) Sprache.

.

Beispiel (arithmetische Ausdr ¨ucke)

.

.. .

. .

SeiΣ ={),(,+,−,∗, /,x}und EXPR alle korrekten arithmetischen Ausdr ¨ucke. Damit gilt

(x −x)∈EXPR

((x+x)∗x)/x ∈EXPR ))(x−)∗x 6∈EXPR

EXPR ist eine Menge von Worten ¨uberΣ, also kann man EXPR als formale Sprache( ¨uber{),(,+,−,∗, /,x}) bezeichnen.

(72)

. . . . . .

Einige grundlegende Begriffe

Eine endliche MengeΣheißtAlphabet DieElementevonΣwerden

Buchstabengenannt. Eine Folge von Buchstaben nennt manWort( ¨uberΣ)

.

.. .

. .

(x −x)∈EXPR

(73)

. . . . . .

Einige grundlegende Begriffe

DieElementevonΣwerdenBuchstabengenannt.

Eine Folge von Buchstaben nennt man

Wort( ¨uberΣ)

.

.. .

. .

(x −x)∈EXPR

(74)

. . . . . .

Einige grundlegende Begriffe

Eine Folge von Buchstaben nennt manWort( ¨uberΣ) Eine beliebige Menge von Worten ¨uberΣnennt man dann

eine (formale) Sprache.

.

.. .

. .

(x −x)∈EXPR

(75)

. . . . . .

Einige grundlegende Begriffe

Eine Folge von Buchstaben nennt manWort( ¨uberΣ)

.

.. .

. .

(x −x)∈EXPR

(76)

. . . . . .

Einige grundlegende Begriffe

.

. .

SeiΣ ={),(,+,−,∗, /,x}und EXPR alle korrekten arithmetischen Ausdr ¨ucke.

Damit gilt (x −x)∈EXPR

(77)

. . . . . .

Einige grundlegende Begriffe

.

. .

(x −x)∈EXPR

((x+x)∗x)/x ∈EXPR ))(x−)∗x 6∈EXPR

(78)

. . . . . .

Weitere Beispiele f ¨ur formale Sprachen

.

Beispiel (Zahlenmengen)

.

.. .

.

SeiΣ ={0,1,2,3,4,5,6,7,8,9}, dann sind die folgenden Mengen auch formale Sprachen ¨uberΣ:

PRIMES={2,3,5,7,11,13,17,19,23, . . .} EVEN={0,2,4,6,8,10,12,14,16,18, . . .} 2POT={1,2,4,8,16,32,64,128,256,512, . . .}

.

Beispiel (Wortmengen ¨uber {a,b})

.

.. .

.

SeiΣ ={a,b}, dann sind die folgenden Mengen auch formale Sprachen ¨uberΣ:

BRACKET={ab,aabb,aaabbb,aaaabbbb, . . .} UODD={a,aaa,aaaaa,aaaaaaa,aaaaaaaaa, . . .}

Σ^∗=ALL={²,a,b,aa,ab,ba,bb,aaa,aab,aba,abb,baa, . . .}

(79)

. . . . . .

Weitere Beispiele f ¨ur formale Sprachen

.

.. .

.

PRIMES={2,3,5,7,11,13,17,19,23, . . .}

EVEN={0,2,4,6,8,10,12,14,16,18, . . .}

2POT={1,2,4,8,16,32,64,128,256,512, . . .}

.

BRACKET={ab,aabb,aaabbb,aaaabbbb, . . .} UODD={a,aaa,aaaaa,aaaaaaa,aaaaaaaaa, . . .}

Σ^∗=ALL={²,a,b,aa,ab,ba,bb,aaa,aab,aba,abb,baa, . . .}

(80)

. . . . . .

Weitere Beispiele f ¨ur formale Sprachen

.

.. .

.

PRIMES={2,3,5,7,11,13,17,19,23, . . .}

EVEN={0,2,4,6,8,10,12,14,16,18, . . .}

2POT={1,2,4,8,16,32,64,128,256,512, . . .}

.

BRACKET={ab,aabb,aaabbb,aaaabbbb, . . .}

UODD={a,aaa,aaaaa,aaaaaaa,aaaaaaaaa, . . .}

Σ^∗ =ALL={²,a,b,aa,ab,ba,bb,aaa,aab,aba,abb,baa, . . .}