GA a predčasná konvergence Předčasná konvergence - výpočet konverguje příliš rychle k nějakému neoptimálnímu řešení Co způsobuje předčasnou konvergenci?

Slides:



Advertisements
Podobné prezentace
AUTOR: Ing. Helena Zapletalová
Advertisements

Dualita úloh lineárního programování a analýza citlivosti
Lekce 7 Metoda molekulární dynamiky I Úvod KFY/PMFCHLekce 7 – Metoda molekulární dynamiky Osnova 1.Princip metody 2.Ingredience 3.Počáteční podmínky 4.Časová.
ALGO – Algoritmizace 6. cvičení
Fakulta elektrotechniky a informatiky
PA081 Programování numerických výpočtů Přednáška 2.
PA081 Programování numerických výpočtů
ALGO – Algoritmizace 7. cvičení 1.ročník, ZS Ing. Zdena DOBEŠOVÁ, Ph.D.
Genetické algoritmy [GA]
Genetické algoritmy. V průběhu výpočtu používají náhodné operace. Algoritmus není jednoznačný, může projít více cestami. Nezaručují nalezení řešení.
Proč?. pokud jsme schopni vytvořit stroj, který bude úlohu řešit problém je algoritmizovatelný příklad.
Návrh a optimalizace filtru OTA-C s využitím heuristických algoritmů ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE Fakulta elektrotechnická Katedra teorie obvodů.
Odpovědi na otázky Praha 2007 Bc. Dalibor Barri ČESKÉ VYSOKÉ UČENÍ TECHNICKÉ V PRAZE Fakulta elektrotechnická Katedra mikroelektroniky.
Medians and Order Statistics Nechť A je množina obsahující n různých prvků: Definice: Statistika i-tého řádu je i-tý nejmenší prvek, tj., minimum = statistika.
Praktické využití genetických algoritmů
Decision Trees & Genetic Programming 1 Klasické DT V některých případech nepraktické.
Stránky o genetice Testy z genetiky
Genetika populací, rodokmen
GA a predčasná konvergence Předčasná konvergence - výpočet konverguje příliš rychle k nějakému neoptimálnímu řešení Co způsobuje předčasnou konvergenci?
TI 7.1 NEJKRATŠÍ CESTY Nejkratší cesty - kap. 6. TI 7.2 Nejkratší cesty z jednoho uzlu Seznámíme se s následujícími pojmy: w-vzdálenost (vzdálenost na.
PB161 – Programování v jazyce C++ Objektově Orientované Programování
Genetické algoritmy Lukáš Kábrt.
PictureBox u vkládání obrázků u vlastnost Picture pomocí příkazu LoadPicture u přiřazení obrázku mezi dvěma prvky PictureBox Auto.Picture = AutoCerv.Picture.
Genetické algoritmy [GA]. Historie:  1960: I. Rechenberg – první odborná práce na toto téma „Evolution strategies“  1975: John Holland – první genetický.
KIV/PRO Cvičení Částečný součet v posloupnosti Najděte maximální částečný součet v posloupnosti Vstup: – Reálná čísla Výstup: – Maximální.
0 / 1X36DSA 2005The complexity of different algorithms varies: O(n), Ω(n 2 ), Θ(n·log 2 (n)), … Různé algoritmy mají různou složitost: O(n), Ω(n 2 ), Θ(n·log.
Genetické algoritmy Filip Dušek Filip Dušek 2004 – V 53 ČVUT v Praze – fakulta Stavební.
Genetická variabilita populací  Pacient je obrazem rodiny a následně populace, ke které patří  Distribuci genů v populaci, a to jak jsou četnosti genů.
OSNOVA: a) Příkazy pro větvení b) Příkazy pro cykly c) Příkazy pro řízení přenosu d) Příklad Jiří Šebesta Ústav radioelektroniky, FEKT VUT v Brně Počítače.
1 / 2X36DSA 2005The complexity of different algorithms varies: O(n), Ω(n 2 ), Θ(n·log 2 (n)), … Různé algoritmy mají různou složitost: O(n), Ω(n 2 ), Θ(n·log.
1 / 9X36DSA 2005The complexity of different algorithms varies: O(n), Ω(n 2 ), Θ(n·log 2 (n)), … Různé algoritmy mají různou složitost: O(n), Ω(n 2 ), Θ(n·log.
PA152Notes 101 CS 245: Database System Principles Notes 10: More TP Hector Garcia-Molina Pavel Rychlý.
A1PRG - Programování – Seminář Ing. Michal Řízení běhu programu 5 Verze
ALGO – Algoritmizace 4. cvičení 1.ročník, ZS Ing. Zdena DOBEŠOVÁ, Ph.D.
Jak „dispersal limitation“ ovlivňuje druhovou bohatost společenstva Anna Vlachovská.
Kognitivní procesy – evoluční algoritmy
1 Škola: Gymnázium, Brno, Slovanské náměstí 7 Šablona: III/2 – Inovace a zkvalitnění výuky prostřednictvím ICT Název projektu: Inovace výuky na GSN prostřednictvím.
Akcelerace genetických algoritmů na grafických kartách 4. část Mikuláš Dítě Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti.
Akcelerace genetických algoritmů na grafických kartách 3. část Mikuláš Dítě Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti.
Obchodní akademie, Ostrava-Poruba, příspěvková organizace Vzdělávací materiál/DUM Businessland / Making Contracts 06B16 AutorLadislava Pechová Období vytvořeníLeden.
Alternativy k evolučním optimalizačním algoritmům Porovnání genetických algoritmů a některých tradičních stochastických optimalizačních přístupů David.
Datové struktury a algoritmy Část 7 Vyhledávání a vyhledávací stromy Searching and Search Trees Petr Felkel.
Monte Carlo simulace Experimentální fyzika I/3. Princip metody Problémy které nelze řešit analyticky je možné modelovat na základě statistického chování.
1 Název práce: Šlechtitelský program lesních dřevin Zpracovali: Tauchman, Bače.
Databázové systémy 2 Zkouška – 8:00. Příklad I - Funkce Vytvořte funkci ZK_DIFF_MIN_MAX (P_ZAM_ID NUMBER) RETURN VARCHAR2. Funkce může vracet.
Grafické řešení Jediné optimální řešení. Zadání příkladu z = 70x x 2 → MAX omezení:  x 1 + 2x 2 ≤ 360  x 1 + x 2 ≤ 250  x i ≥ 0, i= 1, 2.
Příkazy cyklů. Co je to cyklus Jako cyklus označujeme opakované vykonávání určitého bloku příkazů Jako cyklus označujeme opakované vykonávání určitého.
doc. RNDr. Zdeněk Botek, CSc.
Doc. Josef Kolář (ČVUT)Prohledávání grafůGRA, LS 2010/11, Lekce 4 1 / 15Doc. Josef Kolář (ČVUT)Prohledávání stavového prostoruGRA, LS 2013/14, Lekce 11.
Směrování -RIP. 2 Základy směrování  Předpoklady:  Mějme směrovač X  Směrovač nemůže znát topologii celé sítě  X potřebuje určit směrovač pro přístup.
1 / 3The complexity of different algorithms varies: O(n), Ω(n 2 ), Θ(n·log 2 (n)), … Různé algoritmy mají různou složitost: O(n), Ω(n 2 ), Θ(n·log 2 (n)),
Příklady z populační genetiky
Akcelerace genetických algoritmů na grafických kartách 5. část Mikuláš Dítě.
2014 Výukový materiál GE Tvůrce: Mgr. Šárka Vopěnková Projekt: S anglickým jazykem do dalších předmětů Registrační číslo: CZ.1.07/1.1.36/
Autorem materiálu a všech jeho částí, není-li uvedeno jinak, je Mgr. Jan Rozsíval. Slezské gymnázium, Opava, příspěvková organizace. Vzdělávací materiál.
Autorem materiálu a všech jeho částí, není-li uvedeno jinak, je Mgr. Jan Rozsíval. Slezské gymnázium, Opava, příspěvková organizace. Vzdělávací materiál.
GAs and Premature Convergence  Premature convergence - GAs converge too early to suboptimal solution o as the population evolves, only a little new can.
B AT SOUBORY Jednoduché skripty ve Windows. O PAKOVÁNÍ PŘÍKAZU OPAKUJ. off for /L %i in ( ) do ( echo *** echo %i echo *** ) Zápis: Opakuj.
Genetika populací Doc. Ing. Karel Mach, Csc.. Genetika populací Populace = každá větší skupina organismů (rostlin, zvířat,…) stejného původu (rozšířená.
EU peníze středním školám Název vzdělávacího materiálu: Genetika populací – teoretický základ Číslo vzdělávacího materiálu: ICT10 /13 Šablona: III/2 Inovace.
C# konzole – Podíl dvou čísel, podmínka IF
Výukový materiál zpracován v rámci projektu
Hardyův – Weinbergův zákon genetické rovnováhy v populacích
CW-057 LOGISTIKA 29. PŘEDNÁŠKA Optimalizační metody Leden 2017
Příkazy cyklu (1) Umožňují vícekrát (nebo ani jednou) pro-vést určitý příkaz Jazyk C rozlišuje příkaz cyklu: s podmínkou na začátku: obecný tvar: while.
Databázové systémy a SQL
Race Car Design Project SOLIDWORKS 2018
Různé algoritmy mají různou složitost: O(n), Ω(n2), Θ(n·log2(n)), …
ALG 14 Vícedimenzionální data Řazení vícedimenzionálních dat
Dynamické programování Optimální binární vyhledávací strom
Transkript prezentace:

GA a predčasná konvergence Předčasná konvergence - výpočet konverguje příliš rychle k nějakému neoptimálnímu řešení Co způsobuje předčasnou konvergenci? –příliš velký selekční tlak - přílišné upřednostňování několika výjimečných jedinců na úkor zbytku populace –nedostatečná velikost populace - optimální velikost populace roste exponenciálně (!) s velikostí řešeného problému –obsah počáteční populace –špatně navržené genetické operátory - nutná rovnováha mezi prohledáváním (exploration) a zachováním důležitých stavebních bloků (exploration) –klamnost - nadprůměrná schémata pokrývající falešný extrém

Gentické algoritmy s omezenou konvergencí Genetic Algorithms with Limited Convergence (GALCO) Idea – neřešit, co dělat v případě, kdy nám už populace zkonvergovala ale naopak určit maximální povolenou míru konvergence a zajistit, že nebude během výpočtu překročena  nepřipustit možnost, že by nějaký gen (stavební blok) zcela převládl v populaci

GALCO cont. Celkový genotyp populace – limit na konvergenci v rámci sloupců populace Jednotlivé geny mohou na dané pozici převládnout maximálně o hodnotu C – parametr konvergence i-tá pozice v chromozomu = sloupec populace chromozomy

GALCO Algorithm Step 1Generate an initial population Step 2Choose parents Step 3Create offspring using the 2-point crossover Step 4Insert the offspring into the population according to the following rule if(max(child1, child2) > max(parent1, parent2)) then replace both parents with the children else{ find(current_worst) replace_with_mask(child1, current_worst) find(current_worst) replace_with_mask(child2, current_worst) } Step 5if (not finished) then goto Step 2

Replace_with_mask operator for(i=0; i<chrom_length; i++){ change = child.genes[i] – current_worst.genes[i] if (PopSize/2 – C < conv[i] + change < PopSize/2 + C ) then{ conv[i] = conv[i] + change current_worst.genes[i] = child.genes[i] } Slučuje chromozomy potomka a nejhoršího jedince v populaci –Pokud na dané pozici nedojde k překročení povolené míry konvergence, tak se použije bit z potomka, jinak z nejhoršího jedince –Vektor conv [] – maska, určující, z kterého jedince bude daný bit použit

Výsledky experimentů na známých úlohách

Pokrytí více extrémů Rozdělení populace po iterací Rozdělení populace po iterací

GALCO - poznámky Typ inkrementálního GA Generuje nová řešení i po nalezení globálního optima P křížení = 1.0 P mutace = 0.0 Vystačí si s menšími velikostmi populace než klasický GA –důležité z hlediska efektivnosti výpočtu

Další přístupy Duální GA Messy GA Selective X-over

Duální Genetické Algoritmy Idea – zavedením redundance do genetického kódu se zvýší diversita populace Meta-gen připojen ke každému chromozomu Meta-gen řídí interpretaci chromozomu –0... přímá –1... Invertovaná  v populaci mohou být 2 jedinci s totálně opačným genotypem ale se stejným fenotypem Operátor zrcadlení – invertuje celý chromozom bity kódující parametry řešení 1/01/0

Vazba stavebních bloků (linkage) Pevná – kompaktní stavební bloky Volná – roztroušené stavební bloky (snadno porušitelné)...

Messy Genetic Algorithms Idea – nešlechtit přímo celé chromozomy, namísto toho hledat slibná schémata (resp. stavební bloky) a postupně z nich budovat řetězce rostoucí délky Podobně jako v přírodě, kde vývoj začal od nejjednodušších forem života k vyšším a složitějším, které od nich přebíraly to dobré Od 1-buněčných organismů k Homo sapiens s genetickou výbavou kolem genů

Messy GA - representation Reprezentace - řetězce dvojic (jméno, hodnota) proměnné délky underspecification – nejsou definovány všechny bity bere se např. první hodnota zleva (first-come-first-served) overspecification – některý bit má v řetězci vícenásobnou definici na neúplné řetězce lze nahližet jako na schémata Přípustné řetězce pro 4-bitový problém: {(1, 0) (2, 0) (4, 1) (4, 0)}  00  1 {(1, 1) (3, 0) (4, 0) (2, 1) (4, 1) (3, 1)}

Výpočet fitness neúplného řetězce Průměrování –několikrát se náhodně doplní nespecifikované bity a vezme se průměrná fitness takto dolepených chromozomů –příliš evlký rozptyl  nepřesné Competitive templates 1.Pomocí metody hill-climbing se najde lokální optimum 2.Neúplné schéma se doplní bity z tohoto lokálního optima 3.Pokud schéma vylepší lokální optimum, stává se toto schéma novým lokálním optimem

Funkční schéma Messy GA 1.Inicializace počáteční poplace – uplný výčet schémat řádu k 2.Primordinal fáze – naplnění populace slibnými schématy pouze selekce a kopírování jedinců v určitých intervalech půlení populace 3.Juxtapositional fáze – vzájemná rekombinace schémat selekce + cut & splice operátor {(2, 0) (3, 0) (1, 1) (4, 1) (6, 0)}  {(2, 0) (3, 0) (1, 1)} {(4, 1) (6, 0)} {(3, 1) (2, 0) (1, 1)} + {(4, 1) (6, 0)}  {(3, 1) (2, 0) (1, 1) (4, 1) (6, 0)}

Slabiny Messy GA Jak volit k ? –Velice konkrétní apriorní znalost o řešené úloze Inicializace počáteční populace a její proveditelnost –l... délka chromozomu –k... velikost minimálních (fundamentálních) schémat –velikost populace n=2 k ( l k ) Př:l=30, k=3  n = l=64, k=8  n  10 12

Pravděpodobnostně úplná inicializace Populace inicializována řetězci o délce k << l’< l –řetězce pokrývají mnoho schémat řádu k Odhad n’tak, že každé schéma řádu k bude v populaci Parazitující bity – poškozují dobrá schémata obsažená v delších řetězcích –building-block filtering – náhodné ořezávání bitů Př: Klamný problém l=150, k=5 –normálně by potřebovali n =

Selective X-over Idea – převzít od každého rodiče jen to dobré Dceřinný chromozom se buduje bit po bitu –výsledek je nezávislý na struktuře st. bloků (délce, řádu) U každého bitu se rozhodujeme podle pravidla: i-tý bit se vezme z toho rodiče, u kterého změna daného bitu způsobí menší zlepšení (nebo větší škody) než u rodiče druhého – rozhodujeme se na základě vyšetření okolí rodič. chromozomů

Selective X-over (cont.)

Poznámky k Selective X-over Klamné problémy + optimálně nastavený stavební blok již nemůže být rozbit – platí pouze u klamných problémů -špatně se nastavují opt. st. Bloky Obecně – pokud jsou nějaké interakce mezi bity, tak to už nemusí fungovat Mnoho výpočtů navíc – O(PopSize  lchrom)