The power resides in the ability of adaptation to the problem  the considerations on the size, the complexity or the form of the solution should emerge.

Prezentace na téma: "The power resides in the ability of adaptation to the problem  the considerations on the size, the complexity or the form of the solution should emerge."— Transkript prezentace:

1 The power resides in the ability of adaptation to the problem  the considerations on the size, the complexity or the form of the solution should emerge during the own evolution process Used for learning programs, learning decision trees, learning rules, learning strategies,... Applications - symbolic regression, classifiers, learning strategies for agents in complex, dynamic systems (e.g. inventory management, production planning, investment decisions and logistic systems, prediction, data mining,... EAs operating on trees

2 Genetické programování Struktury podstupující adaptaci v GP jsou stromy proměnné velikosti a tvaru, které reprezentují hierarchické programy. Stromy jsou tvořeny z funkcí (vnitřní uzly) a terminálů (listové uzly), zvolených pro danou úlohu:  terminály T - vstupní proměnné programu, reálné, celočíselné nebo logické konstanty, funkce bez argumentů mající nějaký efekt  funkce F aritmetické funkce (+, -, *, / ) algebraické funkce ( sin, cos, exp, log ) logické funkce ( AND, OR, NOT ) podmíněné operátory ( If-Then-Else, cond?true:false ) jiné operace specifické pro daný problém Uzavřenost - je nutné, aby výstup libovolné funkce či terminálu mohl figurovat jako argument jiné funkce

3 Genetické programování Př.: Stromová reprezentace LISPovského S-výrazu 0.23  Z+X-0.78

4 Genetické programování - inicializace Metody generování stromů při zadané max. hloubce D init :  Úplné generování - pro uzly na úrovni < D init omezujeme volbu následníků na prvky F a v poslední úrovni na T.  Růstové generování - kdy žádná omezení neklademe a stromy jsou pak nerovnoměrně hluboké  Lineární půl na půl - D init = 6 a generuje 20% stromů s hloubkou 2, 20% s hloubkou 3, atd., z čehož je vždy polovina vytvářena úplným a polovina růstovým generováním

5 GP: Crossover

6 Mutation replaces selected subtree with a randomly generated new one Permutation, editing, encapsulation, decimation... GP: Mutation and Others

7 Fuzzy Rule Base Representation EA used to extract the set of fuzzy-rules of the type IF (x1 is low) and (x2 is medium) THEN class = c1 with cf = 0.7

8 GP: Illegal Tree Expression Does not represent a proper rule base

9 Strongly typed GP  Resolves the problem of the generation of illigal trees −Significant overhead when generating new trees (GE) −x-over becomes inefficient for large trees

10 Genetické programování - mravenec Stanovení množiny terminálů  příkazy pro motorickou sekci  T = { MOVE, LEFT, RIGHT } Stanovení množiny neterminálů  tímto stanovujeme možné tvary generovaných programů  IF-FOOD-AHEAD – detekce potravy 2 argumenty – je / není potrava  PROG2, PROG3 - sekvence 2/3 akcí Fitness - počet snědených návnad v nějakém rozumném čase - 400 kroků Pozn.: Mravenec se chová tak, že cyklicky opakuje „svůj program“, dokud mu nevyprší jeho čas nebo dokud nepozře všech 89 návnad

11 Mravenec – průběh experimentu Typická individua v počáteční populaci jsou např: neboli v LISP-ovské notaci (PROG2 (RIGHT) (LEFT))  nic nesnědl  fitness=0  podobně (IF-FOOD-AHEAD (LEFT) (RIGHT))  tento (PROG2 (MOVE) (MOVE)) čistě náhodou pozří 3 návnady RIGHT PROG2 LEFT

12 Mravenec – průběh experimentu prošívač (quilter) (PROG3(RIGHT) (PROG3 (MOVE) (MOVE) (MOVE)) (PROG2 (LEFT) (MOVE))) Systematické prohledávání  při dostatku času najde všechny návnady

13 Mravenec – průběh experimentu Tento mravenec (IF-FOOD-AHEAD (MOVE) (RIGHT)) pracuje velmi dobře, dokud nenarazí na chybějící návnadu na cestě; pak se „zacyklí“

14 Mravenec – průběh experimentu Tento mravenec se dokonale vyhýbá předložené potravě (I-F-A (RIGHT) (I-F-A (RIGHT) (PROG2(MOVE) (LEFT) ) ) )

15 GP Mravenec – průběh experimentu Průměrná fitness v počáteční populaci 3,5 V generaci 21 byl ve studovaném běhu poprvé nalezen jedinec, který byl schopen nalézt všech 89 (I-F-A(MOVE) (PROG3(I-F-A(MOVE) (RIGHT) (PROG2(RIGHT) (PROG2(LEFT) (RIGHT) ) ) ) (PROG2(I-F-A(MOVE) (LEFT) ) (MOVE) ) ) ) Tento „program“ řeší průchod každou stezkou s týmž typem iregularit jako stezka Santa Fe.

16 GP - hledání trigonometrické identity cos 2x  ? Úkolem je najít pravou stranu rovnosti Množina terminálů: T = {X, konstanta 1,0} Množina funkcí: F = {+, -, , %, SIN} Testovací případy: 20 párů hodnot (x i, y i ), kde x i jsou náhodně vybrané hodnoty z intervalu  0, 2  a y i = cos 2 x i Fitness: Součet 20 absolutních hodnot diferencí mezi y i a hodnotou generovanou testovaným výrazem pro dané x i. Zastavovací pravidlo: Nalezen jedinec, jehož hodnota fitness je menší než 0,01

17 GP - hledání trigonometrické identity Ve 13. generaci byl nalezen jedinec ve tvaru (v prefixové notaci): (- (- 1 (* (sin X) (sin X)))) (* (sin X) (sin X))) což odpovídá výrazu (po editaci) 1 – 2 sin 2 x. V jiném běhu byl ve 34. generaci nalezen jedinec (- 1 (* (* (sin X) (sin X)) 2)) Zajímavý výsledek vyšel v dalším běhu ve 30. generaci, a to: (sin (- (- 2 (* X 2)) (sin (sin (sin (sin (sin (sin (* (sin (sin 1)) (sin 1)) ))))))))) Po podrobnější numerické analýze výrazu na druhém a třetím řádku zjistíme, že dává hodnotu přibližně  /2, takže odhalená identita je cos 2x = sin(  /2 – 2x)

18 Grammatical Evolution (GE) Designed to evolve programs in any language, that can be described by a context free grammar Backus Naur Form (BNF)  production rules P  terminals T – non-expandable items  non-terminals N – can be expand into one or more items  N  T N = {S, Rule, Cond} T = {cl, cf, att, lt} S – starting symbol P: (1)S ::= Rule Rule [0] (2)Rule ::= Cond cl cf [0] | Rule Rule [1] (3)Cond ::= att lt [0] | Cond Cond [1]

19 GE does not work with a natural tree representation  It runs the evolution on binary strings Genotype – phenotype mapping 1.Binary string is translated into a sequence of integers (codons) 1 0 1 1 0 1 0 0 1 0 1 0 0 1 0 1 0 1 1 1 11 4 10 5 7 2.Each codon specifies the production rule to be applied for currently expanded non-terminal choice = codon MOD number_of_rules 3.Mapping finishes as all of the N have been expanded Multiple codon values can select the same rule Useful redundancy in genetic code !!! Only syntactically correct programs can be generated !!! Grammatical Evolution - representation

20 Construction of the program tree 6  4  9  cos 3  5  x 8  + 8  x 6  * 2  x Grammar in the Backus-Naur FormChromosome: 6 4 9 3 5 8 8 6 2

21 Grammatical Evolution - example The prefix string IF IS OR IF IS IF AND IS IS is represented by the codons 6 4 9 4 8 12 15 6 2 as a sequence of choices 0 0 1 0 0 0 1 0 0 N = {S, Rule, Cond} T = {cl, cf, att, lt} S – starting symbol P: (1)S ::= Rule Rule [0] “OR” (2)Rule ::= Cond cl cf [0] “IF” | Rule Rule [1] “OR” (3)Cond ::= att lt [0] “IS” | Cond Cond [1] “AND”

22 1-point crossover

23 Grammatical Evolution - recombination Simple 1-point crossover (riple x-over) 3 2 11 7 6 9 12 5 2 3 8 4 6 6 4 9 4 8 12 15 6 2 The head sequence of codons does not change its meaning  the tale sequence may or may not change its interpretation Good generative and explorative characteristics

24 GE – bidirectional representation Each individual has two chromosomes  one expresses the program in a prefix notation and the other one in a postfix notation Crossover is applied on both the prefix and postfix chromosomes

25 GE – symbolická regrese N = {expr, op, pre-op, var} T = {+, −, , /, sin, cos, exp, log, X} S = expr startovní symbol P: (1) ::= [0] | (2) ::=+[0] |−[1] |  [2] |/[3] (3) ::=sin[0] |cos[1] |exp[2] |log[3] (4) ::=X[0]

26 GE – symbolická regrese Kromě správné funkce byly nalezeny i tyto varianty