Evolutionäre Algorithmen g

(1)

Evolutionäre Algorithmen g

Dipl.‐Inform. Ingo Boersch In LV „Künstliche Intelligenz“

M t I f tik 2 S Master Informatik, 2. Sem

(2)

Hilfreich Hilfreich

• Kapitel 4 in Kapitel 4 in

Boersch, Ingo; Heinsohn, Jochen;

Socher, Rolf. Wissensverarbeitung –

eine Einführung in die Künstliche

Intelligenz für Informatiker und

Ingenieure, 2. Auflage, Elsevier,

Spektrum Akademischer Verlag,

Heidelberg, 2007

(3)

Ziel Ziel

Sie können

• Die Welt durch die Brille der Evolution sehen

E l ti ä Al ith (EA) i d d t

• Evolutionäre Algorithmen (EA) einordnen, anwenden, umsetzen

• Prüfungsfragen zur Evolution und EA beantworten

E l i

Evolution

(4)

Hausaufgabe Hausaufgabe

`

• Kapitel 4 im Buch "`Wissensverarbeitung"' lesen

• Klären Sie für sich selbst:

A t I di id

– Arten von Individuen – Arten von Fitness

Selektionsarten – Selektionsarten

• Fragen zur Vorlesung?

(5)

Übung Übung

• Beispiele zur Evolution Fit L d h ft

• Fitness‐Landschaft

• Optimierung mit dem Koordinaten‐Verfahren

• Optimierung mit dem Gradientenverfahren

In der VL am Ende, ev. selbst im Foliensatz durchlesen.

(6)

Jetzt Jetzt

Idee der Evolution

Evolution als Optimierungs‐

(Exkurs)

^Suche und

Optimierung

Optimierungs verfahren

• Der Mensch – Krone der Schöpfung

Schöpfung

• Evolution der Evolutionstheorie

• Biologische Evolution

Genetische Algorithmen Biologische Evolution

• Gene, Meiose

• Bedingungen für Evolution

Genetisches Programmieren

• Vorkommen von Evolution Anwendungs‐

beispiele

(7)

Ursprung komplexer Systeme

Exkurs

Ursprung komplexer Systeme

Wie ist die Komplexität von Lebewesen erklärbar?

Pragmatisch: Können wir auf die gleiche Art komplexe, schöne, elegante, leistungsfähige technische Systeme entwerfen (lassen)?

l h kl k l k d h

Evolutionstheorie erklärt, wie komplexe Strukturen und Systeme entstehen.

b h h d S t fli d S t i t lli t S t

aber auch: sehende Systeme, fliegende Systeme, intelligente Systeme … –

und andere funktionelle Nischen

(8)

Das Unwahrscheinliche erklären

Exkurs

Das Unwahrscheinliche erklären

• komplex: Mensch, Maulwurf, Regenwurm, Uhr, Flugzeug

• nicht komplex: Pudding, Marienberg, Sandhaufen

Die Entstehung komplexer (funktionierender) Systeme durch rein zufälliges Aneinanderfügen möglicher Komponenten ist sehr unwahrscheinlich Aneinanderfügen möglicher Komponenten ist sehr unwahrscheinlich.

• Unwahrscheinliches Beispiel: Ein Sturm setzt Flugzeug aus Bauteilen zusammen

• Blinder Zufall genügt nicht.

Zwei Arten komplexer Systeme

• unbelebt: Uhr Å Plan Å Uhrmacher, Komplexität damit erklärt

• belebt: Regenwurm Å Evolution

(9)

Evolution als schrittweiser kumulativer Prozess Evolution als schrittweiser, kumulativer Prozess

• Wie erklärt die Evolutionstheorie das Vorhandensein komplexer Systeme?

D h fälli V i ti t t h d t ilh ft Ei h ft d Durch zufällige Variation entstehende, vorteilhafte Eigenschaften werden

durch natürliche Auslese ausgewählt. Komplexe Systeme entstehen durch das Anhäufen kleiner sinnvoller Veränderungen g am Ausgangssystem. g g y

• Eine wissenschaftliche Theorie hat die Eigenschaft der Falsifizierbarkeit: g sie stellt Behauptungen auf, die mit Beobachtungen (Experimenten),

widerlegt werden könnten.

Darwin: “If it could be demonstrated that any complex organ existed which

could not possibly have been formed by numerous successive slight

could not possibly have been formed by numerous, successive, slight

modifications, my theory would absolutely break down.”

(10)

Evolution als schrittweiser, kumulativer Prozess

^Exkurs

Beispiel Auge: Unter Blinden ist der Einäugige König

Ist eine lückenlose, nützliche Kette für das Auge denkbar? Gibt es ein Kontinuum augenähnlicher Organe? JA.

Kontinuierliche Verbesserung der Sehfähigkeit (alle heute in der Natur zu finden) : 9 Ohne Auge: blind

9 /

9 Einzeller mit lichtempfindlichen Punkt: Licht ja/nein 9 Pigmentmembran: Richtung des Lichtes

9 Grube: Richtung++

9 Mehr Photozellen: Richtung++, Auflösung++

9 Umstülpen: linsenlose Lochkamera, Bildsehen 9 Linse: Helligkeit++

9 Linse: Helligkeit++

• Sehfähigkeit beeinflusst die Rate der Nachkommen

• Andere Beispiele für sinnvolle kontinuierliche Verbesserungen:

Mimikry, Fliegen, vom Wasser zum Land, Gift … Das Ziel der Evolution ist ?

Das Ziel der Evolution ist ...?

(11)

Ziel der Evolution?

Exkurs

Ziel der Evolution?

Sind Ameisen das Ziel der Evolution?

• zahlenstärksten Lebewesen der Erde (10

¹⁵

Individuen, 8000 Arten)

k ti h V ä d it 60 Mill J

• kaum genetische Veränderungen seit 60 Mill. J.

• Staatenbildung mit Spezialisierung: Arbeiter, Soldaten, Königin Intelligente Ameisen?

• Haustiere: Blattläuse Pilze

• Haustiere: Blattläuse, Pilze

• Klimaanlagen: Temperatur, Luftfeuchtigkeit

• Kriegslisten: chemische Propaganda Sklavenhaltung Kriegslisten: chemische Propaganda, Sklavenhaltung

• robust gegen Insektizide und harte Strahlung

(12)

Exkurs

Ameisenbau, mit Beton gefüllt und ausgegraben

er, 2005’s Secret PoweAnts—Naturelldobler: The A Bert Hö

(13)

Quiz

Exkurs

Quiz

Was ist das Ziel der Evolution („Krone der Schöpfung“)?

A) Ameisen B) Menschen B) Menschen

C) etwas anderes, und zwar:

D) keines davon D) keines davon

Evolution hat kein Ziel, es erfolgt nur eine Anpassung an die aktuelle

Situation.

(14)

Der Mensch – Krone der Schöpfung“?

Exkurs

Der Mensch „Krone der Schöpfung ?

Weitere Erfindungen der Evolution

• Fliegenfüße

• Bienentänze

• Sonar der Fledermäuse

• Radar schwach elektrischer Fische

• Bakterien im Black Smoker

gen Berger

• Tiefsee‐???

• Schnellkäfer

orbandJuerg

U d i l d

: Stanislav Go

Und viele andere

Foto

Fliegenfuß

(15)

Der Mensch – ein Lebewesen

Exkurs

Der Mensch ein Lebewesen

Purzelt ein Schnellkäfer von einem Grashalm und landet auf dem Rücken Purzelt ein Schnellkäfer von einem Grashalm und landet auf dem Rücken,

kann er sich durch Emporschnellen aus der gefährlichen Lage befreien.

Unzählige Beispiele für Höchstleistungen und Anpassung in der Natur

• Erobern, Besetzen und Verteidigen funktioneller Nischen

Wi i i d I lli i h

• Wir sitzen in der Intelligenznische

(16)

Einzige witzige Folie:

Exkurs

g g

Schlange und Katze haben sich perfekt an den Lebensraum angepasst.

Quelle: http://www.myfascinating.com/pictures‐that‐will‐satisfy‐every‐perfectionists‐

soul‐6/

(17)

Exkurs

• Evolutionstheorie erklärt viele Beobachtungen in der realen Welt:

– Evolutionärer Ballast

K t E l ti

– Konvergente Evolution

– Handicap‐Prinzip

(18)

Evolutionärer

^Exkurs

Ballast

Auge:

• Komplex F kti i t

• Funktioniert

• Zweckmäßig

• Nicht perfekt

Evolutionärer Ballast im Auge:

• Warum liegen die

Rezeptoren hinter der p

Nervenschicht?

(19)

Konvergente Evolution

Exkurs

Konvergente Evolution

Universalien :=

G t Lö t i h Üb l b bl i d ft äh li h

• Gute Lösungen typischer Überlebensprobleme sind oft ähnlich

• Aber ohne einen gemeinsamen Bauplan

• Universalien werden unabhängig an mehreren Stellen entwickelt, d.h. die gemeinsamen Vorfahren hatten diese Universalien noch nicht

gemeinsamen Vorfahren hatten diese Universalien noch nicht

• Beispiele: p

– Stromlinienform bei Fischen, Delphinen, Pinguinen – Flügel bei Fledermäusen und Vögeln g g

– Augen bei Mensch und Krake

(20)

Konvergente Evolution

ye.svg

Exkurs

Sehen beim Mensch und Krake

i:Evolution_ey

vertauscht:

dex.php/Date

vertauscht:

kein blinder Fleck

Retina

Nervenfasern Retina

Nervenfasern

ns.org/drw/ind

Nervenfasern Retina

drhinke.dyndn

S h

Blinder Fleck

Sehnerv ^Q^uelle:

http://d

Sehnerv Sehnerv

Nach Q

M h (Wi b lti ) K k (K ffüß )

Mensch (Wirbeltiere) Krake (Kopffüßer)

(21)

Das Handicap‐Prinzip

Exkurs

Das Handicap Prinzip

Evolutionstheorie erklärt viele Beobachtungen in der realen Welt:

• Handicap (hinderlich und sehr teuer) – dennoch nützlich?

• Pfau, Elchgeweih, Rolex, Vogelgesang, Versailles, Bankgebäude, bunter Erpel Chirurgie Roboter Hirschkäfergeweih

Erpel, Chirurgie‐Roboter, Hirschkäfergeweih

• Ehrliche Kommunikation verborgener Eigenschaften, fälschungssichere Signale als Fitnessversprechen

Signale als Fitnessversprechen

• Angeberei gerichtet an Sexualpartner, Konkurrenten und Fressfeinde

• Erklärung: Partnerwahl (Sexuelle Selektion) als ein Einfluss auf die Replikationswahr‐

h i li hk it i d ti i t

scheinlichkeit wird optimiert

(22)

(frühe) Evolution der Evolutionstheorie

Exkurs

(frühe) Evolution der Evolutionstheorie

L d D Vi i Ah d B d t F ili

Leonardo Da Vinci (1452‐1519)

Ahnung der Bedeutung von Fossilien

Georges Baron de Cuvier (1769‐1832)

Arten entstehen und verschwinden (durch Naturkatastrophen)

Jean Baptiste de Lamarck (1744–1829)

1809, Erste Abstammungstheorie, vererbbare

Veränderungen, Lamarckismus (heute wieder aktuell als Epigenetik)

Charles Darwin 1859 On the Origin of Species by Means of Natural Charles Darwin 1859, „On the Origin of Species by Means of Natural

Selection“

Gregor Mendel 1865, Merkmalskombination nicht –mischung, partikuläre Genetik (unbeachtet bis 1900)

Heute Synthetische Theorie der Evolution, Neodarwinismus

(23)

Darwin 1837:

Exkurs

Erster

Stammbaum

Es beginnt mit 1

C d B h äh li h

^h^tml

C und B noch ähnlich D und B weniger ähnlich

A und B sind so verschieden

ⁿ/DarwinTree.h

A und B sind so verschieden, dass sie keine

Nachkommen erzeugen

^ton/4^890/da

rwin

Nachkommen erzeugen können.

sh.uga.edu/nhilttp://www.englis

Was ist eine Art? Individuen, die zu einem gemeinsamen Genpool gehören und sich miteinander paaren können.

"I think case must be that one generation should have as many living as now. To do this and to have as many species in same genus (as is) requires extinction.

Thus between A + B the immense gap of relation. C + B the finest gradation. B+D rather greater distinction.” ^{Foto: h}

(24)

Charles Darwin Charles Darwin

Beobachtungen

1. Lebewesen variieren in ihren Eigenschaften

2 Ei i d V i ti i d bb

2. Einige der Variationen sind vererbbar 3. Individuenüberschuss (Geburtsrate), 4 Relative Konstanz der Populationsgröße 4. Relative Konstanz der Populationsgröße Schlussfolgerungen

• Der größte Teil der Lebewesen stirbt ohne Nachkommen

Alfred Russel Wallace

Kinder

• Der größte Teil der Lebewesen stirbt ohne Nachkommen.

• Es gibt einen Selektionsdruck:

^Eltern

Survival of the Fittest

Individuen, die mit den Lebensbedingungen am besten Individuen, die mit den Lebensbedingungen am besten zurechtkommen, haben eine größere Überlebenschance

und erzeugen mehr Nachkommen. g

[Herbert Spencer]^[ ^p ^]

(25)

Individuenüberschuss ‐ Exponentielles Wachstum bei unbegrenzten Ressourcen

• Wie stark ist der Selektionsdruck?

• Ein Starenweibchen legt in seinem Leben etwa 16 Eier. Wenn aus allen

diesen Eiern junge Stare schlüpfen würden und das so weiterginge wie

^H^eyne,

2000 ]

diesen Eiern junge Stare schlüpfen würden und das so weiterginge, wie viele Stare gäbe es in der 4. Generation, wenn wir in der ersten

Generation mit einem Pärchen starten?

Scheibenwelt. H

4. Generation: 1024

_Gelehrten

der S

10. Generation: 2.147.483.648

& Cohen, J. Die

Terry Pratchett: „In der siebzigsten Generation wäre eine Kugel von der Größe des Sonnensystems vollständig von Staren ausgefüllt.“

T.; Stewart, I. &

‐ Kopien sind oft „billig“.

[Pratchett,

(26)

Begrenzte Ressourcen: Beispiel Elemente

Exkurs

Begrenzte Ressourcen: Beispiel Elemente

• Lebewesen bestehen im Wesentlichen aus den Elementen C (Kohlenstoff), H (Wasserstoff) und O (Sauerstoff) ... N, P, S, Fe, Mg, K, Na, Ca

O (Sauerstoff) ... N, P, S, Fe, Mg, K, Na, Ca

• In Bezug auf diese Elemente ist die Erde ein fast abgeschlossenes System.

ÎDie Ressourcen an ‚Material‘ sind begrenzt.

Potentiell exponentielles Wachstum trifft auf begrenzte Ressourcen (Elemente, Licht, Raum, Energie, ...)

Î ti ll W h t d lt i h i l i ti h Î exponentielles Wachstum wandelt sich in logistisches

Wachstum, Selektion

TB

(27)

Selektion

Selektion bremst die biologische Evolution

Evolution.

Sie ist überwiegend darauf gerichtet,

di V ä d hi d

die Veränderungen zu verhindern, statt sie anzutreiben.

www.darwinawards.com

Foto: koradan, motifake.com

www.darwinawards.com

Darwin Awards honor those who improve our gene pool by removing themselves from it.

This honor is bestowed posthumously.

(28)

Biologische Evolution Biologische Evolution

• Genotyp, Phänotyp

G t W li di B lä fü i L b ?

– Genotyp: Wo liegen die Baupläne für ein Lebewesen?

– [Welche Fabriken setzen den Bauplan um?]

• Wie wird der Bauplan vererbt?

(29)

Genotyp Phänotyp Genotyp, Phänotyp

Genotyp ^Phänotyp

Individuum

Träger der

Erbinformation

Individuum unter

Selektionsdruck

Bei Lebewesen:

Wachstum Allgemeiner:

Allgemeiner:

‐ Interpretation

‐ Anzeigen A füh Hier wirken genetische

Operatoren, wie Mutation, Crossover

Fitness wird am

Phänotyp bestimmt, Selektion findet hier

‐ Ausführen

‐ Konstruieren

‐ Abspielen

‐ Passive Datenstruktur

‐ Bauplan

Selektion findet hier statt

‐ Lernen

‐ ... Übung

(30)

Biologie: Vom Genotyp zum Phänotyp

h d

Exkurs

Der genetische Code

„Alle Tiere und Pflanzen und Bakterien, so verschieden sie auch voneinander zu sein scheinen, sind

erstaunlich einheitlich, wenn wir auf ihre molekulare Grundlage zurückgehen – was sich auf dramatische Grundlage zurückgehen was sich auf dramatische Weise am genetischen Code selbst zeigt.“

Richard Dawkins: Der blinde Uhrmacher

(31)

Biologie: Vom Genotyp zum Phänotyp

Exkurs

Biologie: Vom Genotyp zum Phänotyp

Was ist der genetische Code?

Eindeutige Zuordnung von Basentriplets zu Aminosäuren Eindeutige Zuordnung von Basentriplets zu Aminosäuren Der genetische Code wurde 1966 von

Der genetische Code wurde 1966 von

Heinrich Matthaei und Warren Nirenberg entschlüsselt.

(32)

Biologie: Vom Genotyp zum Phänotyp

h d

Exkurs

Der genetische Code

i l i i i

Die Bauanleitung eines Organismus

• Erbinformation: Zelle ‐> [Zellkern] ‐> Chromosomen ‐> DNS (1953, Watson & Crick)

• DNS: Doppelhelix mit Basensequenzen A vs T C vs GDNS: Doppelhelix mit Basensequenzen, A vs. T, C vs. G

• 4 Basen: A = Adenin, G = Guanin, C = Cytosil, T = Thymin (in RNS: U = Uracil),

• Triplet: DNS‐Abschnitt aus 3 Basen, z.B. GCA ‐> 64 Triplets Genetischer Code: Jedes Triplet kodiert eine Aminosäure

• Proteine sind eine Sequenz der 20 Aminosäuren:

• Î DNS beschreibt die Struktur von Proteinen Der genetische Code ist bei allen Organismen gleich Æ Gemeinsame Abstammung von einer Urzelle

Codesonne

(33)

Biologie: Vom Genotyp zum Phänotyp

^Exkurs

Gene, Exons, Introns

i d b h i ( di ll i di )

Gene sind DNS‐Abschnitte (, die zur Herstellung von Proteinen dienen.)

• können sich überlappen

• sind redundant vorhandensind redundant vorhanden

Nicht alle DNS‐Abschnitte erzeugen Proteine: Exons und Introns

• Exons erzeugen Proteine

• Introns (~90%) werden beim Transport der mRNS herausgeschnitten

• Beispiel: Kollagen 40.000 Basenpaare, beschnittene mRNS 5.000 Basenpaare Wir wissen heute nicht wozu Introns dienen:

Wir wissen heute nicht, wozu Introns dienen:

? Optimierung des Informationsträgers

? Schutz des Genmaterials vor Mutation

? Evolutionäres Gedächtnis, z.B. Schutz gegen ausgestorbene Parasiten

? Botschaft: „Ruft uns mal an, wenn Ihr das lesen könnt.“

Bsp: Craig Venter

(34)

Biologie: Vom Genotyp zum Phänotyp

b h

Exkurs

Proteinbiosynthese

Proteinbiosynthese:

Bildung von Proteinen in Zellen nach Vorlage der aufgearbeiteten Kopie

(mRNS) eines bestimmten DNA Abschnitts (Gen) der Erbinformation

(mRNS) eines bestimmten DNA‐Abschnitts (Gen) der Erbinformation.

(35)

Exkurs

Wo sind wir:

Erbinformation:

Zelle -> [Zellkern] -

> Chromosomen -

> DNS mRNS = messenger Ribonukleinsäure

Proteinbiosynthese

Vom Gen zum Protein

(36)

Biologie: Vom Genotyp zum Phänotyp

Exkurs

Biologie: Vom Genotyp zum Phänotyp

• Proteinbiosynthese: Gen ‐> Protein

• [Von Proteinen zu Zellen: Zelldifferenzierung]

(37)

Biologie: Vom Genotyp zum Phänotyp

lld ff

Exkurs

Si htb t kt ll d f kti ll S i li i Z ll äh d d

Zelldifferenzierung

• Sichtbar: strukturelle und funktionelle Spezialisierung von Zellen während der Individualentwicklung

• Zellstammbaum mit der Zygote (befr. Zelle) als Wurzel

• Zygote zu allem fähig: totipotente Zelle Æ kompletter Organismus möglich, – geschützt im Embryonenschutzgesetz

• Ab 8‐Zellen‐Stadium: pluripotente Zellen Æ noch alle Zelltypen möglich

• DNS identisch in allen Körperzellen (Schaf Dolly, 1997)

Wie entstehen bei identischer DNS verschiedene

Kö ll ?

Körperzellen?

• Unterschiedliche Tochterzellen

• Wechselwirkungen zwischenWechselwirkungen zwischen ^e“

Zellen, bspw. Botenstoffe

r‐Gehring: "ZoologiWehner

(38)

Biologie: Vom Genotyp zum Phänotyp

h d ll b l h ?

Exkurs

Verschiedene Zelltypen bei gleicher DNS?

Nachbarzelle Zelle

Sollten nicht in allen Zellen die gleichen Proteine vorhanden sein?

erzeugen erze

Zelle

Strukturgene Proteine Strukturgene

B ff

(de)aktivieren Botenstoffe (de)ak

sind Proteine

• Welche Gene aktiviert sind und welche Proteine mitwirken, bestimmt, ob es sich bspw. um eine Leber‐ oder Nierenzelle handelt

• Operatorgene

(39)

Biologie: Vom Genotyp zum Phänotyp Biologie: Vom Genotyp zum Phänotyp

• Gene beschreiben also nicht nur den

– Aufbau von Proteinen (Proteinbiosynthese), sondern auch das

Z i l G d P t i (Z lldiff i )

– Zusammenspiel von Genen und Proteinen (Zelldifferenzierung)

• Umwelteinflüsse (Ernährung, Lebensraum, Erfahrungen)

Das war: Genotyp ‐> Phänotyp

Wie wird der Bauplan weitergegeben?

‐ Variation durch Crossover

(40)

Meiose (Reifeteilung)

Exkurs

Wie wird das Erbgut bei der geschlechtlichen Fortpflanzung gemischt?

Körperzelle Körperzelle

2x23 Chromosomen

4 haploide Keimzellen Crossover, Rekombination

(41)

Meiose: Datenfluss der Erbinformation Meiose: Datenfluss der Erbinformation

• dient als vereinfachtes Modell für das Crossover bei genetischen Algorithmen

• Wir mischen das Erbgut unserer Eltern zu unseren Kindern

• Wir mischen das Erbgut unserer Eltern zu unseren Kindern.

(42)

Meiose: Datenfluss der Erbinformation Meiose: Datenfluss der Erbinformation

• Wir mischen das Erbgut unserer Eltern zu unseren Kindern

(43)

Meiose: Datenfluss der Erbinformation Meiose: Datenfluss der Erbinformation

action

• Wir mischen das Erbgut unserer Eltern zu unseren Kindern ^e^{: Genetics}

in a

Quelle

(44)

Zusammenfassung Biologie Zusammenfassung Biologie

( )

• Genotyp = DNS (+ epigenetische Phänomene, Lamarckismus)

• DNS enthält Exons und Introns G i d DNS Ab h itt

• Gene sind DNS‐Abschnitte

• Genetischer Code (Triplet ‐> Aminosäure) universell

• DNS steuert über Proteinbiosynthese und Zelldifferenzierung das

• DNS steuert über Proteinbiosynthese und Zelldifferenzierung das Entstehen des biologischen Phänotyps

• Crossover bei der Meiose: In der geschlechtlichen Fortpflanzung wird das Crossover bei der Meiose: In der geschlechtlichen Fortpflanzung wird das

Erbgut der Vorfahren zufällig gemischt

(45)

Drei biologische Evolutionsfaktoren Drei biologische Evolutionsfaktoren

Populationsgenetik: Evolution als Änderung von Genhäufigkeiten über die Generationen

Generationen

Was beeinflusst die Häufigkeit der Gene?

Biologische Evolutionsfaktoren ( = Ursachen für Genpooländerungen) 1. Natürliche Selektion

2. Mutation (bspw. Austauschen von DNS‐Basen durch UV‐Licht) 3. Rekombination und Crossover von DNS‐Abschnitten

[u.a. wie Gendrift, Genfluss]

(46)

Vier Bedingungen für Evolution Vier Bedingungen für Evolution

W fi d t E l ti t tt?

Wann findet Evolution statt?

Hinreichende Evolutionsbedingungen

1. Replikation (Vermehrung, aber auch Kopie, Imitation, Fremd‐Replikation) 2. Veränderung des Genotyps (genetische Operatoren)

3. Vererbbarkeit der Veränderung

4. Veränderung beeinflusst die Replikationswahrscheinlichkeit (Ressourcenknappheit, Selektion, Kausalkette)

> Beispiel Replikationswahrscheinlichkeit

(47)

Replikationswahrscheinlichkeit Replikationswahrscheinlichkeit

• Fitness ist relativ

p = 0.1 p = 0.7 p = 0.9

> Löwe – Forscher ‐Turnschuh

(48)

Replikationswahrscheinlichkeit Replikationswahrscheinlichkeit

• Fitness ist dynamisch

p = 0.5 p = 0.0

p = 0.1 p = 0.7 p = 0.9

(49)

Vorkommen von Evolution Vorkommen von Evolution

Sind die 4 Evolutionsbedingungen nur bei Lebewesen erfüllt?

Lebewesen erfüllt?

• Lebewesen,

( )

• Technische Produkte (z.B. Computer, Autos, Smartphones),

• Mode und Geschmäcker (z.B. Musik, Kleidung),

V h lt i ( B F ili K i Gl i hb hti P i )

• Verhaltensweisen (z.B. Familie vs. Karriere, Gleichberechtigung, Privacy)

• Standards (z.B. JAVA, USB, MFM),

• Unternehmen

• Gesellschaftsordnungen

• alle Systeme, die die Evolutionsbedingungen erfüllen.

• Selbstreplikation ist nicht notwendig Selbstreplikation ist nicht notwendig

Übung

(50)

self‐replicating machine

Exkurs

p g

3D‐Drucker RepRap

Parent

fBath], University ofwiki/RepRap,

Child1 ://reprap.org/w

Child1 Child2

Bild von [httpB

(51)

Quiz: about evolution

Exkurs

Quiz: about evolution

• True or false?

– Add P, if you think the statement is true. Add P, if you think the statement is true.

• Natural selection produces organisms perfectly suited to their p g p y _s^_faq.php environments. (P = 1)

• Evolution results in progress; organisms are always getting better

through evolution (P 2) ^s^conception

s

through evolution. (P = 2)

• Evolution only occurs slowly and gradually. (P = 4)

• Humans are not currently evolving. (P = 8) on: evolibrary/mis

u a s a e ot cu e t y e o g. ( 8)

• Species are distinct natural entities, with a clear definition, that can be easily recognized by anyone. (P = 16)

about evolutio erkeley.edu/eonceptions a //evolution.be

Correct answer: P = 0

Misco http:/

(52)

Evolution als Suche und Optimierung Evolution als Suche und Optimierung

nauf flickr.comB_Zedan

(53)

Evolution als Optimierung und Suche Evolution als Optimierung und Suche

• Zustandsraumsuche und Lösungsraumsuche B i i l fü Lö ä

• Beispiele für Lösungsräume

• Evolution als Suche

• Suche als Optimierung

• Fitness‐Landschaft

(54)

Evolution als Optimierung / Suche Evolution als Optimierung / Suche

Evolution als Optimierung / Suche

• Optimierungsprozess passt Organismen an ihre Umwelt an

• Suche im Raum der möglichen Erbanlagen (Genotypen)

• Suchraum der menschlichen DNS = 4

3.000.000.000

Möglichkeiten

(55)

Evolution ist eine Suche im Lösungsraum Evolution ist eine Suche im Lösungsraum

Lässt sich eine Lösung schrittweise

konstruieren?

nein/schwer ja

Verfahren:

nein/schwer ja

Verfahren:

Zustandsraumsuche

(auch Konstruktionsverfahren)

Verfahren:

Lösungsraumsuche

(auch Verbesserungsverfahren) E l ti

(auch Konstruktionsverfahren) Tiefensuche

Breitensuche A* Suche

Evolution

Evolutionäre Algorithmen Simulated Annealing A*‐Suche

.... Gradientenverfahren

....

(56)

Zustandsraumsuche – Der Weg ist das Ziel

Exkurs

Zustandsraumsuche Der Weg ist das Ziel

k h l h f h h h l h

• Bekannte Suchalgorithmen: Tiefensuche, Breitensuche, Bestensuche, Gleiche‐

Kostensuche, A*

• Gesucht: (Kurzer) Weg vom Startzustand zum Zielzustand, bspw. von A nach F( ) g , p

• Eine Lösung: Weg ACDF

• Vorgehen: Lösungen schrittweise konstruieren, Suchbaum entsteht

Wenn das aber nicht

geht?

• Schwieriger: mehrere Zielzustände, optimaler Weg gesucht

• Noch schwieriger: Besondere Wegeigenschaften, bspw. Weg ist eine Rundreise

Zustandsraum Suchbaum mit

Zwischenlösungen

2 mögliche Lösungen, Wege, ADF ist besser

(57)

Lösungsraumsuche

i h i i K k i i Lö h i h d i

Lösungsraumsuche

Die schrittweise Konstruktion einer Lösung geht nicht oder ist sehr schwierig: die Lösungskandidaten werden untersucht.

Problem ist gegeben durch

• Lösungsmenge P: Menge von Lösungskandidaten

Zi lf kti f d t j d Lö k did t K t d G i

• Zielfunktion f ordnet jedem Lösungskandidaten Kosten oder Gewinn zu:

ℜ

→ P f :

Bleiben wir beim Beispiel:

• Lösungsmenge P = {ADF, ACDF} – also zwei Wege von A nach F

• Zielfunktion f sei „Anzahl der Schritte“: f(ADF) = 2 Schritte, f(ACDF) = 3 Schritte

ACDF

>TSP5

ADF f=2

ACDF

f=3

f=2

(58)

Ein TSP5 Ein TSP5

d i bl ( li l bl ) d d k

• Rundreiseproblem (TSP = Traveling Salesman Problem): Finde die kürzeste Rundreise durch alle Städte

Ungefähre geografische Lage der fünf Städteg g g g Zustandsraum einer Reise

Lösungsmenge P ist ?

Lösungsmenge P ist ....?

(59)

Lösungsmenge P des TSP

ll k d d ll d

Lösungsmenge P des TSP

• P = Menge aller Lösungskandidaten = Alle Rundreisen

• Form einer Rundreise „1xxxx1“ o.B.d.A.

• Lösungsmenge P = Permutationen von 4 ElementenLösungsmenge P = Permutationen von 4 Elementen

= {123451, 123541, …}

• Richtung unwichtig 123451 = 154321

• 4! / 2 = 12 Lösungen (eigentlich Lösungskandidaten)

• Eine Lösung ist 123541 mit den Kosten f = 444:

123541 f=444

(60)

Nachbarschaft

k d

Nachbarschaft

• Bringen wir etwas Struktur in die Lösungsmenge P:

• Festlegen einer Metrik d („Abstandsfunktion“):

oder Nachbarschaftsrelation N:

ℜ

→

×P P d :

Wir wählen als Nachbarschaftsrelation den Zwei‐Kanten‐Tausch (Inversion):

Bspw. ist Lösung 123541 benachbart mit Lösung 123451, d.h. das Paar (123541,123451) ist ein Element von N

benachbart

f = 444 f = 416

Æ Im Lösungsraum entsteht eine Struktur aus Nachbarschaftsbeziehungen ...g g

(61)

Struktur des Lösungsraumes Struktur des Lösungsraumes

Bei der Nachbarschaftsrelation „2‐Kanten‐Tausch“ ergibt sich

folgende Nachbarschaftsstruktur (Kanten) in der Lösungsmenge:

n. ranaloger Verfahre SBN 3824461811.durch Einsatz natur en : Gabler, 1995. ISt. Tourenplanung d s Verlag; Wiesbadeen95] Oliver Wendt utscher Universität

Die Zahlen geben den

d lf k f

^[W^e ^De^u

Wert der Zielfunktion f an, hier die Länge der Route

Route

(62)

Struktur des Lösungsraumes Struktur des Lösungsraumes

• Nachbarschaftsrelation = 2‐Kanten‐Tausch)

n. ranaloger Verfahre SBN 3824461811.durch Einsatz natur en : Gabler, 1995. IS

f

t. Tourenplanung d s Verlag; Wiesbadeen95] Oliver Wendt utscher Universität[We Deu

Ei Lö G = 123541

Eine Lösung

(63)

Lokale Suche Lokale Suche

n.

k d

ranaloger Verfahre SBN 3824461811.

Wie könnte die

Lösungsraumsuche hier aussehen?

durch Einsatz natur en : Gabler, 1995. IS

f

t. Tourenplanung d s Verlag; Wiesbadeen95] Oliver Wendt utscher Universität[We Deu

Ei Lö G = 123541

Eine Lösung

(64)

Lokale Suche

Exkurs

Lokale Suche

n.

k d

Wie könnte die

f

Ein Suchalgorithmus im Lösungsraum (es gibt auch andere) ist die Lokale Suche:

t. Tourenplanung d s Verlag; Wiesbade

andere) ist die okale Suche:

• Wandern von Lösung zu Lösung anhand der

en95] Oliver Wendt utscher Universität

Lösung anhand der Nachbarschaft

• zufälliger Start bei

G 123541 ^[W^e ^De^u

Ei Lö G = 123541

G = 123541 Eine Lösung

(65)

Lokale Suche

Exkurs

Lokale Suche

n.

k d

Wie könnte die

f

G 123541 ^[W^e ^De^u

Ei Lö G = 123541

G = 123541 Eine Lösung

(66)

Lokale Suche

Exkurs

Lokale Suche

n.

k d

Wie könnte die

f

G 123541 ^[W^e ^De^u

Ei Lö G = 123541

G = 123541

• Ende bei G = 123451 mit f(G) = 416

Eine Lösung

(67)

Fitness‐Landschaft Fitness Landschaft

Di Zi lf k i f d j d Lö k did i ll Z hl

f P ℜ

• Die Zielfunktion f ordnet jedem Lösungskandidat eine reelle Zahl zu:

• Fitness‐Landschaft stellt die Lösungsmenge, die Nachbarschaft und die Zielfunktion dar:

ℜ

→ P f :

[Wen95]

Woher stammen die Kanten?

Wo findet sich diese Nachbarschaft bei der biologischen Evolution? ?

(68)

Beispiele für Lösungsräume Beispiele für Lösungsräume

Problem Lösungsmenge P Metrik / Nachbarschaft Finden einer kurzen

Rundreise

Menge von Permutationen

2‐Kanten‐Tausch (Inversion)

…

2 weitere Beispiele für Lösungsräume ... p g

(69)

Reellwertiger Lösungsraum Reellwertiger Lösungsraum

• Lösungskandidaten sind Vektoren reeller Zahlen

n

• Metrik: Euklidische Distanz

Zi lf kti d t j d V kt i ll Z hl

P = ℜ

n

ℜ ℜ

ⁿ

f

• Zielfunktion ordnet jedem Vektor ein reelle Zahl zu:

Beispiel

ℜ

→ ℜ

ⁿ

f :

2 2 2

2 2 x x f

P ℜ

Beispiel

Einige Lösungen mit Zielfunktion:

2

1

2

2 , f x x

P = ℜ = − −

(x1,x2) f ( , )

(‐4,‐3) ‐50 (2,4) ‐40 (3,1) ‐20 ( , )

(0,0) 0

(2,2) ‐16 u.v.a

hb h f k h d ?

Nachbarschaft: Wie könnte man hier wandern?

(70)

Reellwertiger Lösungsraum Reellwertiger Lösungsraum

• Lösungskandidaten sind Vektoren reeller Zahlen

n

• Metrik: Euklidische Distanz

Zi lf kti d t j d V kt i ll Z hl

P = ℜ

n

ℜ ℜ

ⁿ

f

• Zielfunktion ordnet jedem Vektor ein reelle Zahl zu:

Beispiel MZ TS250/1 Vergaser

ℜ

→ ℜ

ⁿ

f :

Beispiel MZ TS250/1 ‐ Vergaser

x1: Schieberanschlagschraube, x1: Schieberanschlagschraube, x2: Leerlaufluftschraube

f(x1,x2) ‐> Motordrehzahl gesucht kleines x1, hohes f

hb h f k h d ?

(71)

Beispiele für Lösungsräume Beispiele für Lösungsräume

Rundreise

2‐er Tausch Optimum einer reellen

Funktion

Rⁿ = Menge von

Vektoren reeller Zahlen

Euklidischer Abstand

…

(72)

Merkmalsraum als Lösungsraum

Exkurs

Merkmalsraum als Lösungsraum

k l b d k l f

kartesisches Produkt

• n Merkmale M₁ bis M_nspannen den Merkmalsraum M = M₁ x … x M_n auf.

• Eine Lösung ist eine konkrete Merkmalskombination

• Zielfunktion:

M x ∈

ℜ

→ M f :

Zielfunktion:

• Metrik: Anzahl verschiedener Merkmale (zum Beispiel)

ℜ

→ M f :

Beispiel Merkmalsraum „Autos“

• M = Größe = {1 5m}

• M₁ = Größe = {1..5m},

M₂= Farbe = {rot, grün, violett},

M₃= Kraftstoff = {Benzin, E10, Diesel}

• M = Größe x Farbe x Kraftstoff

• f(x): verkaufte Stückzahl

• Eine Lösung x = {2m, grün, Diesel}

• mit f(x) = 7( )

(73)

Beispiele für Lösungsräume Beispiele für Lösungsräume

Rundreise

2‐er Tausch Optimum einer reellen

Funktion

Rⁿ = Menge von

Vektoren reeller Zahlen

Euklidischer Abstand Merkmalskombination Merkmalsraum M Änderung eines

Merkmalskombination mit günstigen

Eigenschaften

Merkmalsraum M Änderung eines Merkmales

…

• Nicht in allen Lösungsräumen haben wir: Achsen, Ableitungg , g

Wie sucht die Evolution in Lösungsräumen nach guten Lösungen?

Lösungen?

(74)

Evolution als Suche Evolution als Suche

ö h

• Lösungsraumsuche

• Kombination von informierter (gerichteter Suche) mit blinder Suche:

Mutation • zufällig, blind

• Erzeugung von Varianten und Alternativen Genetische

O t

Rekombination

• Überwindung von lokalen Optima

• zufällig, blind

Operatoren:

Æ Nachbarschaft (Crossover,..) • Mischen von Erbgut,

• Vereinen guter Ansätze Selektion • zufällig, gerichtet

• Steuerung der Evolution Zielfunktion

Parallelität

g

• gleichzeitiges Testen des Lösungsraumes

h S ll

an mehreren Stellen

(75)

Suche als Optimierung Suche als Optimierung

• Suche nach Lösungen mit gutem Wert der Zielfunktion ist Optimierung

• P und f bilden ein Optimierungsproblem

I t P di k t i ht k bi t i h O ti i

• Ist P diskret spricht man von kombinatorischer Optimierung

In seiner Umgebung

der Beste der Beste

(76)

Optima Optima

• Modalität: Ist diese Fitness‐Landschaft unimodal (nur ein Optimum) oder multimodal?

l i d l i i h O i

f

• > Multimodal, es existieren mehrere Optima

?

(77)

Fitness‐Landschaft Fitness Landschaft

d d h f i d l ( ) d l i d l?

• Ist diese Fitness‐Landschaft unimodal (nur ein Optimum) oder multimodal?

• Unimodal, denn von jedem Punkt im Lösungsraum (außer vom Optimum) lässt sich ein benachbarter Punkt mit besserer Zielfunktion finden.

• Wovon hängt die Modalität neben der Zielfunktion f noch ab?

• Von der

Nachbarschaftsdefinition Nachbarschaftsdefinition, also der Metrik d oder der Nachbarschaftsrelation N.

i lf k i d

[Wen95]

• Zielfunktion und

Nachbarschaftsdefinition gestalten gemeinsam die Fitness‐Landschaft

?

(78)

Beispiele für Fitness‐Landschaften Beispiele für Fitness Landschaften

• Einfach

• Schwieriger: Plateaus (Fitness bei

• Schwieriger: Plateaus (Fitness bei allen Nachbarn gleich) und

Rauschen

• Komplett zufällig

Die Funktionen F1, F3 und F4 der Abbildung sind Testfunktionen für EA aus: [De Jong 75] K. A. De Jong. An Analysis of the Behavior of a Class of Genetic Adaptative Systems. Dissertation, University of Michigan, Ann Arbor, 1975.

(79)

Optimierungsverfahren

(80)

Optimierungsverfahren Optimierungsverfahren

• Deterministische Optimierung 3 i f h V f h

– 3 einfache Verfahren

– Downhill‐Simplex‐Verfahren genauer Beispielverlauf an der Rastriginfunktion – Beispielverlauf an der Rastriginfunktion

• Nichtdeterministische Optimierung 5 einfache Verfahren

– 5 einfache Verfahren

• Überblick im Rückblick

(81)

Optimierung ‐ deterministisch Optimierung ‐ deterministisch

Die deterministischen Verfahren führen bei mehrfacher

Anwendung auf dasselbe Anwendung auf dasselbe Problem mit gleichen

Anfangsbedingungen stets zu einer identischen Lösung.

• Gauß‐Seidel‐Strategie

• Gradientenverfahren Aufstieg

• Gradientenverfahren

• Simplex‐Verfahren*

g

in der Fitness-

Landschaft

…

*Es gibt noch ein anderes Simplex‐Verfahren zur Lösung

Landschaft

g p g

linearer Gleichungssysteme

(82)

Optimierung ‐ deterministisch Optimierung deterministisch

1. Gauß–Seidel‐Strategie (Koordinaten‐Verfahren)

Wiederhole

• x1 verändern, so dass

sich f(x) vergrößert Weiter bis sich f(x) vergrößert. Weiter bis zum lokalen Maximum von f(x).

• nacheinander für x2 .. xn

• Vorteil: kein Gradient nötig

A h

• Annahme:

Lösungsparameter als Koordinaten in einem n‐dimensionalen

Parameterraum (Achsen)

(83)

Optimierung ‐ deterministisch Optimierung deterministisch

2. Gradientenverfahren (ein Bergsteiger‐Verfahren)

/v/gradient-1

Gradient = Richtung des steilsten Anstiegs (ein Vektor) Wiederhole

• Anstieg von f im aktuellen Punkt x bestimmen ^es_topic/gradient/

• Anstieg von f im aktuellen Punkt x bestimmen (partielle Ableitungen)

• Schritt in die Richtung des Anstiegs proportional

/partial_derivative

zum Betrag des Anstiegs

rg/math/calculus/

lies: Gradient der Funktion f an der

Vorteil: schnell und gierig

Voraussetzung: Gradient bestimmbar

w.khanacademy.o

Stelle P

g

• Prominentes Beispiel: Backpropagation bei neuronalen Netzen ist ein Gradientenverfahren ^https://w

ww

(84)

Beispiel: Gradient in einem Punkt

Exkurs 2014

Beispiel: Gradient in einem Punkt

(85)

Gradient von f an der Stelle P

Exkurs

Gradient von f an der Stelle P

f _x1 (P)

Gradient von f

f (P)

Gradient von f an der Stelle P

f _x2 (P)

Abbildung aus: Franz Embacher, Vorlesung „Mathematische Grundlagen für das Physikstudium 2“, online available:

Abbildung aus: Franz Embacher, Vorlesung „Mathematische Grundlagen für das Physikstudium 2 , online available:

https://www.univie.ac.at/physikwiki/index.php/LV009:LV‐Uebersicht/WS07_08/Aufgabe5_Gradient, Universität Wien, 2007

(86)

Optimierung ‐ deterministisch Optimierung deterministisch

3. Simplex‐Verfahren (Downhill‐Verfahren v. Nelder, Mead 1965)

• M habe n Dimensionen ‐> n+1 Punkte in M verteilt anlegen (Das Simplex)

• Wiederhole

– Reflektion des schlechtesten Punktes am Schwerpunkt der anderen (z.B. α=1) – Neuer Punkt: besser als alle anderen ‐> Expansion versuchen (z.B. γ=2),

greedy greedy

– Sonst: wenigstens besser als der zweitschlechteste ‐> Verwenden – Sonst: Kontraktion versuchen, um besseren (alt, neu) (z.B. mit β=0.5)

– Kontrakt. nicht erfolgreich: schrumpfe Simplex um besten Punkt (z.B. Shrink mit δ=0.5)

• Vorteil: Population = Gedächtnis

(87)

A simplex method for function minimization

Exkurs

By J. A. Nelder and R. Mead

richtig: y*<=ys; ys=zweitschlechtester

Gamma=2 Gamma 2

Beta = 0.5

0.5 auch Delta, damit 4 Parameter + Init

i l

(88)

Simplex‐Verfahren Simplex Verfahren

Parameter: α, β, γ, δ

fl ti 1

• reflection α ∼1

• expansion γ >1, ∼2

• contraction β 0 1

• contraction β 0..1

• shrink δ ∼0.5

• Ein größenveränderlicher

Simplex auf Wanderschaft p

(89)

Simplex‐Verfahren

Exkurs

Simplex Verfahren

Parameter: α, β, γ, δ

fl ti 1

• reflection α ∼1

• expansion γ >1, ∼2

• contraction β 0 1

• contraction β 0..1

• shrink δ ∼0.5

(90)

A simplex method for function minimization

Exkurs

By J. A. Nelder and R. Mead, Flowchart

* fl ti

* reflection

b l ll ?

alle ausser Ph

besser als P*? Ph sei der bessere

besser als alle?

versuche versuche

t t

versuche

expansion contraction

expansion erfolgreich contraction

fehlgeschlagen->

0.5 auch delta

p g

fehlgeschlagen->

Shrink

(91)

Rastrigin‐Funktion

Exkurs

Rastrigin Funktion

Rastrigin-Funktion

• n=2 und A=10,

• Minimum bei f(0,0)=0

(10*2+(x**2-10*cos(2*pi*x))+(y**2-10*cos(2*pi*y))) 80 60 60 40 20 80

90

40 50 60 70 80

0 10 20 30

0

2

4

-4

-2

0 -2

0

(92)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

1

‐ Startsimplex 1(43),2(47),3(28) 2(47) i t d hl ht t P kt

2

‐ 2(47) ist der schlechteste Punkt

3

(93)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

1

‐ 2(47) soll ersetzt werden

S h kt d tli h b ti

2

‐ Schwerpunkt der restlichen bestimmen

3

(94)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

1

‐ Reflektion ergibt 4(23), 4(23) i t b l ll d

2

‐ 4(23) ist besser als alle anderen

‐ Expansion versuchen

4

3

(95)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

1

‐ Expansion ergibt 5(4) 5(4) i t h b

2

‐ 5(4) ist noch besser,

‐ 5(4) ersetzt 2(47)

‐ Ein Simplex‐Schritt beendet

4 5

3

(96)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

1

‐ Neues Simplex 1(43),3(28),5(4)

5

3

(97)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

1

‐ Altes und neues Simplex

5

3

(98)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

1

‐ 1(43) soll ersetzt werden R fl kti 6(30)

‐ Reflektion zu 6(30)

‐ 6(30) verbessert zwar 1(43), aber keinen anderen

‐ Kontraktion versuchen

5

3

6

(99)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

1

‐ 6(30) besser als 1(43), also Kontraktion von 6 E t 7(31)

‐ Erzeugt 7(31),

‐ Kein Erfolg: 7(31) ist schlechter als 6(30)

5

3 7

6 Stimmt das? Im Artikel prüfen, ob Punkt 1 von Punkt 6 ersetzt wird (Vorbereitung Kontraktion wählt besseren von 1,6, Kontraktion schlägt fehl, verbleibt der bessere?

(100)

Beispiel Simplex‐Verfahren

Exkurs

Beispiel Simplex Verfahren

‐ Shrink des Simplex 1(43),3(28),5(4) d b t 5(4)

1

8 um den besten 5(4)

‐ Erzeugt 8(17) und 9(7)

‐ Ein Simplex‐Schritt beendet

5

9

3