Prezentace se nahrává, počkejte prosím

Prezentace se nahrává, počkejte prosím

Kognitivní procesy – evoluční algoritmy 1.Evoluční algoritmy - Úvod do evolučních algoritmů (EA), historie a přehled technik spadajících do EA, jednoduchý.

Podobné prezentace


Prezentace na téma: "Kognitivní procesy – evoluční algoritmy 1.Evoluční algoritmy - Úvod do evolučních algoritmů (EA), historie a přehled technik spadajících do EA, jednoduchý."— Transkript prezentace:

1 Kognitivní procesy – evoluční algoritmy 1.Evoluční algoritmy - Úvod do evolučních algoritmů (EA), historie a přehled technik spadajících do EA, jednoduchý genetický algoritmus, oblasti použití EA 2.Evoluční algoritmy - Schéma teorie, genetické operátory, příklad na GA – umělý mravenec, genetické programování. 3.Evoluční algoritmy - Genetické programování a gramatická evoluce. 4.Evoluční algoritmy - Genetické algoritmy s reálnou reprezentací, evoluční strategie, genetické algoritmy a předčasná konvergence, kompetentní genetické algoritmy 5.Ant Colony Optimization - Chování mravenců jako inspirace mravenčích optimalizačních algoritmů, ACO metaheuristika a její modifikace, specifikace problémů řešitelných pomocí ACO, příklad aplikací 6.Celulární automaty - Definice celulárních automatů, 2-D celulární automaty, příklady použití CA

2 Evoluční algoritmy Historie evolučních výpočetních technik (EVT) Standardní genetické algoritmy (SGA)  přírodní motivace  struktura jednoduchého genetického algoritmu  teorie o schématech a její zobecnění na stavební bloky  GA s reálnou reprezentací Genetické programování (GP)  stromová reprezentace, podmínka uzavřenosti, typování  genetické operátory Gramatická evoluce (GE)  Lineární reprezentace  1-bodové alias vlnkové křížení  Porovnání s GP

3 Co nás čeká (... a snad nemine ) Evoluční strategie (ES)  reprezentace  základní modely  samoadaptace Problémy s EA  Předčasná konvergence, úlohy s omezeními, víceúčelové optimalizace, multimodální optimalizace, úlohy obsahující vazbu mezi parametry Vybrané partie EVT  Diferenciální evoluce, Memetické algoritmy, Messy GA, Estimation of Distribution Algorithms (EDA), Population-based incremental learning (PBIL), Compact GA (cGA), extended cGA (ECGA), Learning Linkage GA (LLGA), Bayesian Optimization Algorithm (BOA)

4 Evoluční výpočetní techniky - historie Fraser, Bremermann, Reed (50-tá, 60-tá léta) – první pionýři L. Fogel 1962 (San D.,CA): Evolutionary Programming Rechenberg & H.-P. Schwefel 1965 (Berlin, Germany): Evolution Strategies J. Holland 1975 (Ann Arbor, MI): Genetic Algorithms J. Koza 1989 (Palo Alto, CA): Genetic Programming... Gene expression programming, Grammatical evolution, competent GAs... D. Fogel: „Měli bychom mít radost z toho, že evoluční výpočty vyšly asi z deseti nezávislých počátků v období let od 1953 do Je to klasický příklad konvergující evoluce.“

5 Cílem bylo evolučním postupem odvodit chování konečného automatu ve smyslu schopnosti predikovat změny prostředí, v němž se automat nachází  prostředí je popsáno jako posloupnost symbolů z konečné abecedy  výstupem je automat předpovídající další symbol této posloupnosti  kvalita automatu je hodnocena spolehlivostí predikce 5 mutačních operátorů pro modifikaci populace N (náhodně utvořených) automatů:  změna závislosti výstupního symbolu na vnitřním stavu,  změna přechodové funkce vnitřních stavů automatu,  změna počátečního stavu automatu,  odstranění vnitřního stavu,  přidání vnitřního stavu. Evoluční programování (EP), L. Fogel

6 Evoluční programování Periodická posloupnost ( )*  začíná se se 20 znaky  5 generací se hledá FSM  potom se přidá znak, atd.

7 Evoluční strategie (ES), Schwefel Optimalizace tvaru vstřikovacích trysek  Reprezentace: počet segmentů a jejich parametry  dortmund.de/people/schwefel /EADemos/Demos/Duese/dueseGIFE.html Počáteční tryska Nalezená optimální tryska

8 Materiály D.E. Goldberg, Genetic Algorithms in Search, Optimisation and Machine Learning, Addison-Wesley, ‘89 J. Koza, Genetic Programming, MIT Press, 1992 Z. Michalewicz, Genetic Algorithms + Data Structures = Evolution Programs, Springer, 3rd ed., 1996 Th. Bäck, Evolutionary Algorithms in Theory and Practice, Oxford University Press, 1996 D.B. Fogel, Evolutionary Computation, IEEE Press, 1995 H.-P. Schwefel, Evolution and Optimum Seeking, Wiley & Sons, 1995 Marek Obitko:

9 EVT – přírodní motivace Stochastické optimalizační algoritmy  pracují na principu "vyšlechtění" kvalitního řešení postupnou evolucí populace potenciálních řešení založené na [Davis L. et al.]: V přírodní evoluci je základní úlohou biologického druhu vyhledávání výhodných adaptací vůči složitému a dynamicky se měnícímu prostředí. ‚Znalost‘, která charakterizuje každý biologický druh, byla získána vývojem a je shrnuta v chromozómech každého jedince Abstrakce  genetické dědičnosti (J.G. Mendel) a  zápasu o přežití, kde vítězí ti nejsilnější (Ch. Darwin) Názvosloví  gen, chromozóm, jedinec, populace, generace, křížení, mutace,...

10 Genetické algoritmy (GA) Holland, 1975 (Americký biolog)  Pokus o vysvětlení diversity druhů v přírodě GA  řešení jsou reprezentována chromozomy  každé řešení je ohodnoceno  populace potenciálních řešení je vyvíjena pomocí selekce křížení mutace

11 Reprezentace + x  3 ^ y 2 Chromosomy jako lineární řetězce  binární (klasické GA): parametrické optimalizace  reálných čísel:3,241,78-2,61  znaků (permutační problémy - TSP): D  E  A  C  B ale i  stromy: x*3 + y^2   matice,... Genotyp  Fenotyp genetickou informaci o řešení konkrétní hodnoty parametrů řešení ke každému genotypu musí být definován fenotyp

12 Ohodnocovací funkce Fitness  jediná informace o řešeném problému, kterou poskytneme GA  musí být definována pro všechny možné chromozomy Prohledávaný prostor může být  mnohorozměrný  nelineární  multimodální  vícekriteriální  diskrétní Fitness nemusí být definována analyticky  Výsledky simulace optimalizovaného systému  Úspěšnost klasifikace

13 Příklad na kódování Funkční optimalizace  hledání maxima funkce f(x,y) = x 2 + y 2  na intervalu celých čísel  0, 31   x a y jsou kódovány na 5 bitech genotypfenotypfitness , , , , = , , = , , = 1053

14 Evoluční cyklus Rekombinace Mutace Populace PotomciRodiče Selekce Nahrazení

15 Standardní genetický algoritmus (SGA) begin t:=0; Inicializace P(t); Ohodnocení P(t); Statistika P(t); while (not ukončovací podmínka) do begin t=t+1; Reprodukce P(t) z P(t-1); Rekombinace P(t); Ohodnocení P(t); Nahrazení P(t); Statistika P(t); end

16 Inicializace počáteční populace Náhodná inicializace  náhodný výběr zvoleného počtu chromozomů (náhodný generátor nul a jedniček s p-stí 0,5 )  žádná apriorní znalost o podobě hledaného řešení  spoléhá pouze na šťastné navzorkování celého prohledávaného prostoru omezeným počtem příkladů Informovaná  využívá apriorní znalost  může vést jednak k nalezení lepších řešení  může zkrátit celkový výpočet  může způsobit nevratné nasměrování GA k suboptimálnímu řešení Předzpracování jedinců pro počáteční populaci

17 Paralelismus v GA snížení pravděpodobnosti uváznutí v lokálním extrému

18 Vývoj populace řešení rovnoměrné navzorkování prohledávaného prostoru zaostření na slibné oblasti prohledávaného prostoru

19 Předzpracování počáteční populace Předšlechtění jedinců pro počáteční populaci (metaGA)

20 Efekt predzpracování počáteční populace Počet operací ohodnocení fitness

21 Selekce (reprodukce) Modeluje přírodní princip „přežívání nejsilnějších“  upřednostňuje zdatnější jedince před slabšími  každý jedinec má šanci přispět svým kódem do další generace Ruletové kolo  pravděpodobnost výběru jedince je úměrná jeho fitness

22 Genetické operátory - křížení Myšlenka: „Máme-li dvě dobrá řešení daného problému, pak jejich vhodným zkombinováním lze možná získat řešení, které bude ještě lepší“ Křížení  Vzorkování „exploration“ prohledávaného prostoru Příklad: 1-bodové křížení

23 Genetické operátory - mutace Mutace  udržení diversity populace  minimalizování možnosti ztráty potenciálně užitečné části genetického kódu selekce + mutace  může být dostatečně silná i bez křížení  viz evoluční strategie

24 Nahrazovací strategie Určuje:  jak velká část populace (a kteří jedinci konkrétně) bude nahrazena v jednom gener. kroku Generační strategie – stará populace je kompletně nahrazena novou populací (short-lived species) Steady-state – pouze část populace je nahrazena, ostatní jedinci zůstávají (longer-lived species)

25 Oblasti nasazení GA GAs jsou populární pro jejich jednoduchost, efektivnost a robustnost. Holland : “Nejlepší uplatnění GA je v oblastech, kde nemáme žádnou představu o tom, jak by mělo řešení vypadat. Právě tam nás často překvapí s čím přijdou." Aplikace :  control,  design,  scheduling, routing problems  optimal resource allocation,  layout planning,  design of neural networks,  image processing  marketing,  credit & insurance modelling  stock prediction,  credit scoring, risk assessment

26 Tracking a criminal suspect Task is to guide the witness through a huge database of faces in order to identify the criminal suspect Chromosome structure: Human serves as an objective function evaluator UK Home Office, Police Systems Research and Development Group hair_colour skull_shapehair_cut eye_colour beardspectacles

27 Multiple Traveling Salesmen Problem Zadání:  100 měst,  3 agenti Cíl: Rozdělit práci mezi všechny agenty tak, aby se minimalizovalo zatížení nejvytíženějšího agenta Rescue Operation Planning

28 Multiple Traveling Salesmen Problem

29 Job Shop Scheduling Problem (Nakano) Machines: M=6, Jobs: N=6

30 Evoluce topologie a nastavení vah ANN Binární reprezentace vícevrstvé dopředné sítě  granularita – počet bitů použitých pro kódování hodnot vah  spojovací bity – indikují přítomnost/absenci spojení mezi neurony  bity kódující váhy


Stáhnout ppt "Kognitivní procesy – evoluční algoritmy 1.Evoluční algoritmy - Úvod do evolučních algoritmů (EA), historie a přehled technik spadajících do EA, jednoduchý."

Podobné prezentace


Reklamy Google