GA a predčasná konvergence Předčasná konvergence - výpočet konverguje příliš rychle k nějakému neoptimálnímu řešení Co způsobuje předčasnou konvergenci?

Prezentace na téma: "GA a predčasná konvergence Předčasná konvergence - výpočet konverguje příliš rychle k nějakému neoptimálnímu řešení Co způsobuje předčasnou konvergenci?"— Transkript prezentace:

1 GA a predčasná konvergence Předčasná konvergence - výpočet konverguje příliš rychle k nějakému neoptimálnímu řešení Co způsobuje předčasnou konvergenci? –příliš velký selekční tlak - přílišné upřednostňování několika výjimečných jedinců na úkor zbytku populace –nedostatečná velikost populace - optimální velikost populace roste exponenciálně (!) s velikostí řešeného problému –obsah počáteční populace –špatně navržené genetické operátory - nutná rovnováha mezi prohledáváním (exploration) a zachováním důležitých stavebních bloků (exploitation) –klamnost - nadprůměrná schémata pokrývající falešný extrém

2 Definice funkcí typu královska cesta f(x) =  c i  i, kde  i = 1, když x  s i, jinak  i = 0 Efekt stopování (hitchhiking)

3 Jak na předčasnou konvergenci? Inicializace počáteční populace Částečně náhodný operátor křížení Koevoluce přímých a invertovaných schémat

4 Inicializace počáteční populace Efektivita GA závisí na implementaci elementarních operací –křížení, ohodnocení jedinců, úprava nepříp. chromozomů Motivace - snížit výpočtové náklady nutné pro nalezení řešení odpovídající kvality Měřítka kvality počáteční populace –zastoupení elem. stavebních bloků –rozložení fitness v populaci Typy inicializace –náhodná –informovaná

5 Předzpracování počáteční populace Myšlenka - najít několik slibných podoblastí stavového prostoru a jejich reprezentanty dát do počáteční populace hlavního GA Identifikace podoblastí pomocí přípravných GA Každý přípravný výpočet vzorkuje oblast kolem některého lokálního extrému

6 Předzpracování počáteční populace

7 Poznámky k předzpracování Zásada - nenechat zcela zkonvergovat populaci –práh konvergence (např. 95% konvergence) –náhodná výběr jedinců, klasické selekční metody Každý běh může být už explicitně nasměrován do nějaké specifické podoblasti stavového prostoru –ruzná pravděpodobnost s jakou se generují počáteční populace přípravných výpočtů

8 Charakteristiky přípravných výpočtů Stejně jako hlavní GA i předzpracování má několik parametrů, které jsou závislé na konkrétní řešené úloze – velikost populace, délka výpočtu rychle konvergující konfigurace –chceme nalézt relativně kvalitní řešení a to co možná nejrychleji (nástřel) –Steady-state nahrazovací strategie s naharzovaním nejhorších jedinců v populaci –maximální mixování genotypu: P křížení =1,0

9 Výsledky dosažené s předzpracováním Porovnání efektivity prosté náhodné inicializace a předzpracování počáteční populace u problému a) 50  DF3 a b) 6  F2_24. Výpočtová náročnost včetně operací provedených při předzpracování

10 Vlastnosti klasických operátorů křižení Důsledně zachovávají společné schéma rodičovských chromozomů

11 Convergence Rate of Simple GA Shows a typical convergence rate at positions of the most significant bits and 5th bits of parameters x, y Especially the most significant bits fix its value very fast Shows how the size of CS grows during the evolution process It reaches the value of 92% of the length of the chromosome

12 Partially Randomised 2-point Crossover Does not strictly preserve the schema common to both parents as classical operators do. –One of the two offspring is partially changed so that a randomly selected portion of the common schema is inverted. The population is not saturated only with the superior BBs, which emerge in the course of the evolution but also with their randomly modified binary complements. –Extends the exploration of the search space. –Helps the GA to avoid getting stuck in a local optimum.

13 Částečně náhodné křížení (PRX) Dva kroky algoritmu: 1) Klasický operátor křížení 2) U jednoho z nových chromozomů invertuj s pravděpodobností P PRX bity náležející společnému schématu P PRX = l PRX / (2  N CS ), kde N CS je počet společných bitů v úseku délky l PRX P PRX : 1.0  0.5

14 Porovnání klasického a PRX operátoru křížení z hlediska konvergence bitů Klasické 2-bodové křížení –hodnota nejvýznamnějších bitů se ustálí velice rychle –evoluce již probíhá pouze na úrovni méně významných bitů 2-bodové PRX křížení –Míra konvergence resp. diversity nejvýznamnějších bitů a méně významných bitů je srovnatelná

15 Nahrazovací strategie s pravidlem Vkládací pravidlo: IF (alespoň jeden z potomků není horší než lepší z obou rodičů) THEN „dej oba potomky do nové populace“ ELSE „použij lepšího rodiče a lepšího potomka.“ Smysl použití pravidla –udržuje rovnováhu mezi diversitou populace a mírou nežádoucího poškození stavebních bloků, –pomáhá udržet kvalitu vytvářené populace, –a přitom zajištuje nepřetržitý vývoj populace.

16 Comparison of Simple 2-point and 2-point PRX Operators Deceptive problems: 10  F2 problem:

17 Effect of the Rule on the Composition of the Population (10  F2) The number of randomised offspring used is much less than a half of the population size (PopSize = 100) 1/3 of the created population are unchanged strings from the old pop. direct offspringparents inverted offspring

18 Effect of the Rule on the Composition of the Population (50  DF3) parents direct offspring inverted offspring

19 Effect of the Rule on the Number of Achieved best-so-far Modifications Seeming contradiction - best-so-far modified more times with the simple op. - PRX performs an additional local search around the randomised offspring Shows a dramatic growth of the frequency of best-so-far changes for the PRX operator

20 Job Shop Scheduling Problem (Representation by Nakano) Machines: M=6, Jobs: N=6

21 Job Shop Scheduling Problem Randomisation focused on 2 randomly chosen job-pairs –i.e. section of 12 bits is affected Results achieved on 100 independent runs (simple vs. PRX) schedule of length 55:0vs.6 schedule of length 57:1vs.1 schedule of length 58:14vs.19 schedule of length 59:85vs.74 total:15vs.26

22 Definice funkcí typu královska cesta f(x) =  c i  i, kde  i = 1, když x  s i, jinak  i = 0 Efekt stopování (hitchhiking)

23 Experimenty a výsledky s R 1 10 stavebních bloků velikosti 16 bitů Populace velikosti 100 P-st výskytu správného stavebního bloku v chromozomu je 1/216 Mizivá pravděpodobnost, že v počáteční populaci vůbec něco bude  Důležitá je generativní (explorativní) schopnost algoritmu l PRX = 8, tzn. polovina délky stavebních bloků P mutace = 0,0 Výsledky uniform vs. uniform PRX (max. je 10): 4,4 vs. 6,3

24 Poznámky k PRX Změny společného schématu - permanentní reinicializace –Výrazně zvyšuje explorativníschopnost GA –Snižuje pravděpodobnost uváznutí GA v lokálním optimu Samoadaptace míry mutace společného schématu rodičů Jak najít optimální hodnotu l PRX ? –Rovnováha mezi přidanou explorativností a rozbíjecím efektem Maximální efekt u reprezentace s kompaktními stavebními bloky –chromozom sestaven ze souvislých podřetězců reprezentujících parametry dané úlohy nebo jiné vlastnosti řešení

25 Genetic Algorithm with Permanent Re-initialisation of Parental Common Schema 1.Initialise Prim_pop, Generations=0 2.Run_SGA(M, Prim_Pop, PRX_crossover) ºDirect offspring  Prim_Pop ºOffspring with changed CS  Sec_Pop 3.Run_SGA(N, Sec_Pop, classical_crossover) ºAll_offspring  Sec_Pop 4.If(BestOf(Sec_Pop)  BestOf(Prim_Pop)) then Swap(Prim, Sec) else Merge(Prim_Pop, Sec_Pop) 5.Inc(Generations) 6.If not(Termination condition) go to step 2.

26 Koevoluce přímých a invertovaných schémat Prim_popSec_pop  sluč

27 Remarks on GA-PRPCS Extends the search power of Gas Reduces probability of being stuck in a local optimum for –highly multimodal fitness landscapes, –deceptive problems Open questions –How to merge Primary and Secondary population? –How to set parameters M and N?

28 Convergence Characteristics of GA-PRPCS The population converged much less than with the classical crossover Even the diversity of the (x 1, y 1 ) and (x 5, y 5 ) bits is comparable The common schema of the parents varies in wide range during the whole run

29 Comparison of SGA and GA-PRPCS Deceptive problem 50  DF3: success rate 24/50 (SGA) versus 50/50 (GA-PRPCS) GA-PRPCSSGA 10  F2 and 7  doubleF2