NEURONOVÉ SÍTĚ (c) 1999. Tralvex Yeap. All Rights Reserved

PŘÍBĚH PHINEASE GAGE (c) 1999. Tralvex Yeap. All Rights Reserved

NEURONY ZÁKLADNÍ STAVEBNÍ KAMENY JAKÉHOKOLIV MOZKU NA TÉTO PLANETĚ TVOŘÍ TZV. NEURONY. JSOU TO BUŇKY, KTERÉ JSOU V MOZKU NEJVÍCE ROZŠÍŘENY (CCA 20%) PO BUŇKÁCH GLIOVÝCH (CCA 80%). (c) 1999. Tralvex Yeap. All Rights Reserved

NAPODOBENÍ MOZKU NA POČÍTAČOVÉ ÚROVNI NENÍ A NEBUDE JEDNODUCHÉ. V MOZKU JE ASI 25 MILIARD NEURONŮ. JEDEN NEURON JE SCHOPEN MÍT 10 000 – 100 000 SPOJENÍ S JINÝMI NEURONY. MOŽNOST JEJICH VZÁJEMNÝCH SPOJENÍ DOSAHUJE AŽ 10 TRILIÓNŮ KOMBINACÍ. VÝKONNOST MOZKU ZÁLEŽÍ HLAVNĚ NA KVALITĚ A MNOŽSTVÍ SPOJŮ MEZI NIMI ( NE NA VÁZE ČI OBJEMU) (c) 1999. Tralvex Yeap. All Rights Reserved

CO SE DĚJE UVNITŘ NEURONÚ NENÍ DODNES USPOKOJIVĚ VYSVĚTLENO CO SE DĚJE UVNITŘ NEURONÚ NENÍ DODNES USPOKOJIVĚ VYSVĚTLENO. EXISTUJÍ JEN JEDNODUCHÉ MATEMATICKÉ MODELY. ZÁKLADNÍM FAKTEM, KTERÝ JE DNES JIŽ JISTÝ, JE TO, ŽE BĚHEM JEJICH ČINNOSTI DOCHÁZÍ K VYTVÁŘENÍ NOVÝCH SPOJŮ A ZANIKÁNÍ SPOJŮ JIŽ EXISTUJÍCÍCH. TENTO PROCES MÁ ZA NÁSLEDEK SCHOPNOST PAMATOVAT SI A UČIT SE. (c) 1999. Tralvex Yeap. All Rights Reserved

NEURON NEURONY VYTVÁŘÍ MOHUTNÉ SÍTĚ, VE KTERÝCH SE INFORMACE (V PODSTATĚ NAŠE MYŠLENÍ) ŠÍŘÍ VE FORMĚ ELEKTROCHEMICKÝCH VZRUCHŮ, DÁVÁ MOZKU JAKO TAKOVÉMU MASIVNÍ PARALELNÍ VÝPOČETNÍ SCHOPNOST. (c) 1999. Tralvex Yeap. All Rights Reserved

ŠEDÁ A BÍLÁ HMOTA MOZKOVÁ VYŠŠÍ ČINNOST MOZKU JE PROJEVEM TOHO, ČEMU SE ŘÍKÁ INTELIGENCE A JE ZÁVISLÁ NA KVALITĚ BIOLOGICKÝCH PODSTRUKTUR, JAKÝMI JSOU V MOZKU PŘEVÁŽNĚ NEURONOVÉ SÍTĚ (c) 1999. Tralvex Yeap. All Rights Reserved

NERVOVÁ VLÁKNA S NEURONY PRŮŘEZ MOZEČKEM NERVOVÁ VLÁKNA S NEURONY (c) 1999. Tralvex Yeap. All Rights Reserved

VYŠŠÍ MOZKOVÉ FUNKCE JSOU : UČENÍ SPÁNEK PAMĚŤ APOD VEŠKERÉ VYŠŠÍ FUNKCE SE DĚLÍ NA DVA ZÁKLADNÍ DRUHY A TO NA FUNKCE RACIONÁLNÍ A EMOTIVNÍ. (c) 1999. Tralvex Yeap. All Rights Reserved

V ŽIVÝCH ORGANISMECH SE BĚHEM EVOLUCE VYVINULY V RÁMCI DRUHŮ KOMPLEXNÍ SYSTÉMY KOMPLIKOVANÝCH FUNKCÍ, KTERÉ UMOŽŇUJÍ KOEXISTENCI JAK JEDINCŮ V CELKU TAK RŮZNÝCH DRUHŮ. NAPŘ. VLČÍ SMEČKA. (c) 1999. Tralvex Yeap. All Rights Reserved

NEURONOVÉ SÍTĚ VÝSTUP JÁDRO VSTUP CELKEM ASI 25 MILIARD (c) 1999. Tralvex Yeap. All Rights Reserved

SÍLA SYNAPSE – SPOLEHLIVOST, S NÍŽ URČITÁ SYNAPSE PŘEDÁ ZPRÁVU OD JEDNOHO NEURONU K DRUHÉMU, SE DÁ CHÁPAT JAKO SÍLA SYNAPSE. (c) 1999. Tralvex Yeap. All Rights Reserved

Warren McCulloch Marvin Minsky VYPRACOVÁNÍ MODELU NEURONU (c) 1999. Tralvex Yeap. All Rights Reserved

40. LÉTA TOHOTO STOLETÍ Warren McCulloch (c) 1999. Tralvex Yeap. All Rights Reserved

(c) 1999. Tralvex Yeap. All Rights Reserved

ROZDÍL MEZI PC A NEURONOVOU SÍTÍ NEURONOVÁ SÍŤ POČÍTAČ JE UČENA NASTAVOVÁNÍM VAH, PRAHŮ A STRUKTURY JE PROGRAMOVÁNA INSTRUKCEMI (IF, THEN, GOTO PAMĚŤOVÉ A VÝKONNÉ PRVKY TVOŘÍ HOMOGENNÍ CELEK PROCES A PAMĚŤ JSOU PRO NĚJ SEPAROVÁNY PARALELISMUS SEKVENČNOST TOLERUJÍ ODCHYLKY OD ORIGINÁLNÍCH INFORMACÍ NETOLERUJÍ ODCHYLKY NEMĚNNOST PROGRAMU SAMOORGANIZACE BĚHEM UČENÍ (c) 1999. Tralvex Yeap. All Rights Reserved

VYUŽITÍ NEURONOVÝCH SÍTÍ (c) 1999. Tralvex Yeap. All Rights Reserved

SCHÉMATICKÁ PODOBNOST TECHNICKÉHO A BIOLOGICKÉHO NEURONU (c) 1999. Tralvex Yeap. All Rights Reserved

(c) 1999. Tralvex Yeap. All Rights Reserved

ROZDĚLENÍ TECHNICKÝCH NEURONOVÝCH SÍTÍ PODLE POČTU VRSTEV S JEDNOU VRSTVOU (HOPFIELDOVA SÍŤ, KOHONENOVA SÍŤ…) S VÍCE VRSTVAMI (ART SÍŤ, PERCEPTRON, KLASICKÁ VÍCEVRSTVÁ SÍŤ S ALGORITMEM BACKPROPAGATION) PODLE TYPU ALGORITMU UČENÍ S UČITELEM ( SÍŤ S ALGORITMEM BACKPROPAGATION…) BEZ UČITELE ( HOPFIELDOVA SÍŤ….) PODLE STYLU UČENÍM DETERMINISTICKÝM (NAPŘ. ALGORITMUS BACKPROPAGATION) STOCHASTICKÝM (NÁHODNÉ NASTAVOVÁNÍ VAH ) (c) 1999. Tralvex Yeap. All Rights Reserved

(c) 1999. Tralvex Yeap. All Rights Reserved

(c) 1999. Tralvex Yeap. All Rights Reserved

POD POJMEM TOPOLOGIE SÍTĚ ROZUMÍME ZPŮSOB, JAKÝM JSOU MEZI SEBOU SPOJENY JEDNOTLIVÉ NEURONY, VRSTVY A KOLIK VSTUPŮ A VÝSTUPŮ SÍŤ MÁ. (c) 1999. Tralvex Yeap. All Rights Reserved

SCHOPNOST NEURONOVÝCH SÍTÍ UČIT SE , SPOČÍVÁ V MOŽNOSTI MENIT VŠECHNY VÁHY V SÍTI PODLE VHODNÝCH ALGORITMŮ NA ROZDÍL OD SÍTÍ BIOLOGICKÝCH, KDE JE SCHOPNOST UČIT SE ZALOŽENA NA MOŽNOSTI TVORBY NOVÝCH SPOJŮ MEZI NEURONY. (c) 1999. Tralvex Yeap. All Rights Reserved

JAK SÍŤ FUNGUJE JEDEN ZE ZÁKLADNÍCH PŘEDPOKLADŮ PRO FUNKCI SÍTĚ JE JEJÍ NAUČENÍ – ADAPTACE NA DANÝ PROBLÉM. FÁZE UČENÍ ADAPTAČNÍ - UČÍCÍ AKTIVAČNÍ – VYBAVOVACÍ BĚHEM TĚCHTO FÁZÍ SE NASTAVUJÍ VÁHY SÍTĚ (c) 1999. Tralvex Yeap. All Rights Reserved

ALGORITMUS UČENÍ SE DĚLÍ NA 2 FÁZE ADAPTAČNÍ A AKTIVAČNÍ KE SVÉ ČINNOSTI POTŘEBUJÍ TRÉNOVACÍ MNOŽINU (VIZ DALŠÍ SLIDE) x1 w1 x2 TŘÍDA1 y w2 x3 w3 TŘÍDA2 xn wn TŘÍDA3 TŘÍDA INFORMACÍ - MNOŽINA, KTERÁ ZAHRNUJE X JEDINCŮ SE SPOLEČNOU VLASTNOSTÍ

TRÉNOVACÍ MNOŽINA JE SKUPINA VEKTORŮ (MNOŽINA DAT), OBSAHUJÍCÍCH INFORMACE O DANÉM PROBLÉMU PRO UČENÍ. POKUD SE JEDNÁ O SÍŤ S UČITELEM PAK JSOU TO DVOJICE VEKTORŮ – VSTUP – VÝSTUP. x1 w1 x2 y w2 x3 w3 xn wn POKUD SE JEDNÁ O SÍŤ BEZ UČITELE PAK TRÉNOVACÍ MNOŽINA OBSAHUJE JEN VSTUPNÍ VEKTORY.

AKTIVAČNÍ FÁZE 1. 2. 3. x1 w1 x2 y w2 x3 w3 xn wn PŘEDLOŽENÝ VEKTOR INFORMACÍ NA VSTUPU SÍTĚ SE PŘEPOČÍTÁVÁ PŘES VŠECHNY SPOJE VČETNĚ JEJICH VYNÁSOBENÍ VAHAMI AŽ NA VÝSTUP 1. x1 w1 x2 y w2 x3 w3 KDE SE OBJEVÍ ODEZVA VE FORMĚ VÝSTUPNÍHO VEKTORU 2. xn wn PŘI UČENÍ SE TENTO VEKTOR POROVNÁ S VEKTOREM ORIGINÁLNÍM A ROZDÍL MEZI OBĚMA VEKTORY- LOKÁLNÍ CHYBA SE ULOŽÍ DO PAMĚŤOVÉ PROMĚNNÉ. 3.

ADAPTAČNÍ FÁZE FÁZE x1 x2 x3 xn w1 w2 w3 wn y PROCES PŘI KTERÉM JE MINIMALIZOVÁNA LOKÁLNÍ CHYBA SÍTĚ TAK, ŽE SE PŘEPOČÍTÁVAJÍ VÁHY JEDNOTLIVÝCH SPOJŮ SMĚREM Z VÝSTUPU NA VSTUP ZA ÚČELEM CO NEJVĚTŠÍ PODOBNOSTI VÝSTUPNÍ ODEZVY S ORIGINÁLNÍM VEKTOREM x1 x2 x3 xn w1 w2 w3 wn y PROCES SKONČÍ POKUD JE GLOBÁLNÍ ODCHYLKA MENŠÍ NEŽ POŽADOVANÁ CHYBA. POTÉ SE OPĚT OPAKUJE AKTIVAČNÍ FÁZE. DALŠÍ ZÍSKANÝ ROZDÍL (LOKÁLNÍ ODCHYLKA SE PŘIČTE K PŘEDCHOZÍMU ATD. POKUD SE PROJDE TÍMTO ZPŮSOBEM CELÁ TRÉNOVACÍ MNOŽINA JE HOTOVÁ JEDNA EPOCHA. CELÉ SUMĚ ODCHYLEK ZA JEDNU EPOCHU SE ŘÍKÁ GLOBÁLNÍ ODCHYLKA - CYHYBA

x1 w1 x2 TŘÍDA1 y w2 x3 w3 TŘÍDA2 xn wn TŘÍDA3 TŘÍDA INFORMACÍ - MNOŽINA, KTERÁ ZAHRNUJE X JEDINCŮ SE SPOLEČNOU VLASTNOSTÍ

POKUD EXISTUJE MNOŽINA TŘÍD PAK LZE PROVÉST NAUČENÍ SÍTĚ. TŘÍDA1 Z KAŽDÉ TŘÍDY JE VYBRÁNA MNOŽINA REPREZENTATIVNÍCH ZÁSTUPCŮ A TI JSOU POPSÁNÍ VE FORMĚ VEKTORŮ. PRO KAŽDOU MNOŽINU JE VYTVOŘEN VZOROVÝ VEKTOR. TŘÍDA2 TŘÍDA3 UČENÍ PAK ZNAMENÁ TO, ŽE SE UČÍCÍ ALGORITMUS SNAŽÍ NAJÍT TAKOVOU KOMBINACI VAH ABY BYL VSTUPNÍ VEKTOR ZAŘAZEN DO PŘÍSLUŠNÉ TŘÍDY. 3 TŘÍDY A Z KAŽDÉ TŘÍDY 20 REPREZENTATIVNÍCH ČLENŮ. PŘEDSTAVUJE TO CELKEM 60 VSTUPNÍCH VEKTORŮ.

AKTIVAČNÍ PROCES– VYBAVOVACÍ UČÍCÍ ALGORITMUS PRACUJE S TZV. TŘÍDAMI INFORMACÍ, KDE SE TŘÍDOU ROZUMÍ MNOŽINA, KTERÁ ZAHRNUJE X JEDINCŮ SE SPOLEČNOU VLASTNOSTÍ. AKTIVAČNÍ PROCES– VYBAVOVACÍ PŘEDLOŽENÝ VEKTOR INFORMACÍ NA VSTUPU SÍTĚ SE PŘEPOČÍTÁVÁ PŘES VŠECHNY SPOJE VČETNĚ JEJICH VYNÁSOBENÍ VAHAMI AŽ NA VÝSTUP. PŘI UČENÍ SE TENTO VEKTOR POROVNÁ S VEKTOREM ORIGINÁLNÍM A ROZDÍL MEZI OBĚMA VEKTORY SE ULOŽÍ DO PAMĚŤOVÉ PROMĚNNÉ. ADAPTAČNÍ FÁZE - UČÍCÍ JE PROCES, PŘI KTERÉM JE MINIMALIZOVÁNA LOKÁLNÍ CHYBA SÍTĚ, TAK, ŽE SE PŘEPOČÍTÁVAJÍ VÁHY JEDNOTLIVÝCH SPOJŮ SMĚREM Z VÝSTUPU NA VSTUP ZA ÚČELEM CO NEJVĚTŠÍ PODOBNOSTI VÝSTUPNÍ ODEZVY S ORIGINÁLNÍM VEKTOREM. (c) 1999. Tralvex Yeap. All Rights Reserved

PROCES UČENÍ NENÍ NIC JINÉHO, NEŽ PŘELÉVÁNÍ INFORMACÍ ZE VSTUPU NA VÝSTUP A NAOPAK. (c) 1999. Tralvex Yeap. All Rights Reserved

SCHOPNOST SÍTĚ PŘIŘAZOVAT JEDNOTLIVÉ VSTUPNÍ ČLENY DANÝM TŘÍDÁM JE DÁNA TÍM, ŽE SÍŤ V PODSTATĚ POČÍTÁ VDÁLENOST DANÉHO ČLENU OD ČLENŮ JIŽ PŘIŘAZENÝCH, A NA ZÁKLADĚ TOHO USUZUJE, DO JAKÉ TŘÍDY DANÝ VEKTOR PATŘÍ. (c) 1999. Tralvex Yeap. All Rights Reserved

SEPARABILITA SEPARABILITA NEBO-LI ROZDĚLITELNOST, ZNAMENÁ JAKÁ KŘÍVKA MŮŽE BÝT VYTYČENA JAKO HRANICE MEZI JEDNOTLIVÝMI TŘÍDAMI TAK, ABY CO NEJMÉNĚ JEDINCŮ ( PŘÍSLUŠNÍKŮ TŘÍDY) BYLO TOUTO HRANICÍ PŘIŘAZENO DO NEPATŘIČNÝCH TŘÍD. (c) 1999. Tralvex Yeap. All Rights Reserved

UČEBNÍ TEXT POKUD MÁ BÝT NEURONOVÁ SÍŤ ČI JAKÝKOLIV JINÝ ALGORITMUS (VČETNĚ NAŠEHO MOZKU ) SCHOPEN KONAT ROZHODNUTÍ NA ZÁKLADĚ VSTUPNÍCH ÚDAJŮ, PAK MUSÍ NAJÍT HRANICI MEZI TĚMITO TŘÍDAMI. N A ZÁKLADĚ VSTUPŮ A Z TOHO VYPLÝVAJÍCÍ POZICE VZHLEDEM K HRANICÍM MEZI TŘÍDAMI PAK KONÁ ROZHODNUTÍ. TYTO HRANICE MOHOU BÝT PŘÍMKAMI A OBVYKLE V BĚŽNÉM ŽIVOTĚ JSOU PRAPODIVNÝMI KŘIVKAMI ČI SPÍŠE VICEDIMENZIONÁLNÍMI PLOCHAMI.

PŘÍKLAD TŘÍD A JEJICH ROZDĚLENÍ ŠPATNÝCH A DOBRÝCH POMERANČŮ VLASTNOSTI PRO POPIS KVALITY : VSTUPY ZRALOST : 0 – ZKAŽENÝ 1 – ZRALÝ TRVANLIVOST : 0 – MINIMÁLNÍ TRVANLIVOST 1 – DLOUHODOBÁ TRVANLIVOST VÝSTUP – ZDA JE POMERANČ PRODEJNÝ 0 – NEPRODEJNÝ 1 - PRODEJNÝ

JEDNÁ SE O PROBLÉM LINEÁRNĚ SEPARABILNÍ ?? POMERANČ BUDE PRODEJNÝ PŘI VSTUPECH {1,1,}, {1,0,} OSTATNÍ KOMBINACE BUDOU 0 VSTUP 1 VSTUP 2 VÝSTUP 1

PROBLÉM JE LINEÁRNĚ SEPARABILNÍ 1 1 PROBLÉM JE LINEÁRNĚ SEPARABILNÍ VSTUP 2 VSTUP 1 1

(c) 1999. Tralvex Yeap. All Rights Reserved

(c) 1999. Tralvex Yeap. All Rights Reserved

NEUROFYZIOLOGICKÁ MOTIVACE (c) 1999. Tralvex Yeap. All Rights Reserved

LITERATURA http://www.maxon.net/pages/gallery/gallery_3.html ZELINKA, I. : UMĚLÁ INTELIGENCE – HROZBA NEBO NADĚJE ? ŠÍMA, J. A NERUDA, R. : TEORETICKÉ OTÁZKY NEURONOVÝCH SÍTÍ http://www.maxon.net/pages/gallery/gallery_3.html http://www.esc13.net/socialstudies/neurons.htm

OTÁZKY K OPAKOVÁNÍ CO JSOU TO NEURONY POPIŠTE NEURONOVOU SÍŤ POPIŠTE MODEL NEURONU KLASIFIKUJTE TECHNICKÉ NEURONOVÉ SÍTĚ JAK FUNGUJE NEURONOVÁ SÍŤ