W i ref (t+1) = W i ref (t) + h ci (t) [X(t) - W i ref (t)], i Nc h ci (t) 0, t  proces konverguje Algoritmy a struktury neuropočítačů ASN – P3 SOM algoritmus.

Slides:



Advertisements
Podobné prezentace
Lineární klasifikátor
Advertisements

Algoritmy a struktury meuropočítačů ASN – C2
SMS brána Eurotel Jednoduché OCR pomocí neuronových sítí Marek Kukačka
Problematika a metody zpracování biomed. dat z pohledu jejich klasifikace Marcel Jiřina.
Automatická fonetická segmentace pomocí UNS Registr - 36 neuronových sítí MLNN (pro každou českou hlásku jedna UNS) Trénovací množina: databáze promluv.
Topologie neuronových sítí (struktura, geometrie, architektura)
ASN - cvičení 2 : Ukázky práce s NN-Toolboxem
LVQ – Learning Vector Quantization
Hodnocení způsobilosti procesů
Plošná interpolace (aproximace)
Kalmanuv filtr pro zpracování signálů a navigaci
Rozložení EEG elektrod (10-20 system)
Automated data mining Ing. Jan Černý Czech Technical University in Prague Faculty of Information Technology.
DOK „Umělá inteligence“ v DOK (i jinde). NEURONOVÉ SÍTĚ.
Memory-based Learning Učení založené na paměti (výtah z přednášky Waltera Daelemanse, GSLT, Göteborg 2003) + TiMBL -ukázka použití programu Jiří Mírovský,
Využití umělých neuronových sítí k urychlení evolučních algoritmů
Komprese barev Jakub Gemrot Ondřej Burkert. Popis problému Běžné obrázky mají 16,7 mil. barev Běžné obrázky mají 16,7 mil. barev Problém: Jak je rozumně.
Obrazové parametry H.Mírka, J. Ferda, KZM LFUK a FN Plzeň
Neuronové sítě Jakub Krátký.
Úprava digitálních obrazů Ondřej Ptáček H2KNE1, 2013.
Optimalizační úlohy i pro nadané žáky základních škol
Biometrické Bezpečnostní Systémy Filip Orság Technologie rozpoznání mluvčího.
Vyhledávání podobností v datech s využitím singulárního rozkladu
METODA KONEČNÝCH PRVKŮ
Orbis pictus 21. století Tato prezentace byla vytvořena v rámci projektu.
Příprava plánu měření pro přírubu
4. Lekce Dílčí procesy funkčního testování
IGrid index Roman Krejčík. Obsah Motivace Prokletí dimenze Míry podobnosti IGrid, IGrid+ Experimentální porovnání.
Rastr a transformace v 2D
Hopfieldova asociativní paměť. Topologie sítě 1 vrstva zároveň vstupní i výstupní mezi neurony existují všechny spoje (kromě smyček)
Nelineární klasifikátory
Detekce hran.
Dokumentace informačního systému
Ve třídě je 24 dívek a 8 chlapců. Jakou procentuální část třídy tvoří chlapci? Co tvoří základ? Základ je 100 % Základ je celkový počet dětí ve.
Reprezentace klasifikátoru pomocí „diskriminant“ funkce
Neuronové sítě Jiří Iša
Estimation of Distribution Algorithms Část II Petr Pošík Prezentace pro předmět Kognitivní procesy 6. dubna 2006.
Klasifikace klasifikace: matematická metoda, kdy vstupní objekty X(i) jsou rozřazovány do tříd podle podobnosti metody klasifikace bez učitele: podoba.
Pár dalších použití statistiky v přírodních vědách
Vektorová kvantizace (VQ) (Vector Quantization)
Rozpoznávání v řetězcích
Logika a umělá inteligence pro multi-agentní systémy Mobilní agent řízený neuronovou sítí.
© Institut biostatistiky a analýz ANALÝZA A KLASIFIKACE BIOMEDICÍNSKÝCH DAT prof. Ing. Jiří Holčík, CSc.
DETERMINUJÍCÍ FAKTORY STABILITNÍ ANALÝZY
Počítačová chemie (5. přednáška)
Vyhledávání v multimediálních databázích Tomáš Skopal KSI MFF UK 4. Mapování a redukce dimenze 1. část – úvod + mapování vektorových sad.
© Institut biostatistiky a analýz INVESTICE DO ROZVOJE VZDĚLÁVÁNÍ ANALÝZA A KLASIFIKACE DAT prof. Ing. Jiří Holčík, CSc.
Maximální chyba nepřímá měření hrubý, řádový odhad nejistoty měření
1 Audio retrieval Referát Vyhledávání v multimediálních databázích MFF UK 2005/06 Jan Kodym.
Algoritmy a struktury neuropočítačů ASN - P14 Hopfieldovy sítě Asociativní paměti rekonstrukce původních nezkreslených vzorů předkládají se neúplné nebo.
Dita Matesová, David Lehký, Zbyněk Keršner
Praktická využití UNS V medicínských aplikacích Jan Vrba 2006.
Cenová mapa podnájmů v Praze Ondřej Kmoch Tomáš Kohan
Neuronové sítě. Vývoj NS 1943 – W. McCulloch, W. Pittse – první jednoduchý matematický model neuronu 1951 – M. Minsky - první neuropočítač Snark 1957.
Přenos nejistoty Náhodná veličina y, která je funkcí náhodných proměnných xi: xi se řídí rozděleními pi(xi) → můžeme najít jejich střední hodnoty mi a.
Vícerozměrné statistické metody Vícerozměrné statistické rozdělení a testy, operace s vektory a maticemi Jiří Jarkovský, Simona Littnerová.
Neuronové sítě.
Klasifikace a rozpoznávání Lineární klasifikátory.
Využití technik dataminingu při rozpoznávání znaků Marek Kukačka Květen 2006.
Geografické informační systémy pojetí, definice, součásti
© Institut biostatistiky a analýz INVESTICE DO ROZVOJE VZDĚLÁVÁNÍ ANALÝZA A KLASIFIKACE DAT prof. Ing. Jiří Holčík, CSc.
Geografické informační systémy
Induktivní statistika
Klasifikace a rozpoznávání
Regresní analýza výsledkem regresní analýzy je matematický model vztahu mezi dvěma nebo více proměnnými snažíme se z jedné proměnné nebo lineární kombinace.
Neuronové sítě.
Neuronové sítě.
Pokročilé neparametrické metody Validační techniky
Kohonenovy samoorganizující se mapy a možnosti jejich aplikace
Algoritmizace a datové struktury (14ASD)
Transkript prezentace:

W i ref (t+1) = W i ref (t) + h ci (t) [X(t) - W i ref (t)], i Nc h ci (t) 0, t  proces konverguje Algoritmy a struktury neuropočítačů ASN – P3 SOM algoritmus – s učitelem i bez učitele U-matice Vektorová kvantizace - LVQ obecně - LVQ varianty SOM algoritmus funkce okolí Obvykle: h ci (t) = h(|| r c – r i ||) r c, r i poloha vektorů c, i Nejčastěji: h ci (t) = g(t), pro i N c h ci (t) = 0, pro i  Nc

Adaptace W i ref (t+1) = W i ref (t) + g(t) [X(t) – W i ref (t)], i Nc W i ref (t+1) = W i ref (t), pro všechna ostatní i N c je zvolené okolí vítězného neuronu, t je okamžitý čas, g(t) je skalár představující rychlost učení (gains) 0 < g(t) < 1 přesnost mapování závisí na počtu iterací ( 500-krát více kroků než je neuronů v mapě) počet iterací je řádově 10 5 pro prvních 1000 iterací je obvykle g(t) konstantní, dále se monotónně snižuje (lineárně, exponenciálně, skokově,…) pouze doporučení

např. g(t) = 0.9 (1-t/1000), h ci (t) = g(t). exp {-[(|| r c – r i ||) 2 ]/ 2a 2 (t)} konečná hodnota kolem 0.01 Gaussovská funkce, a…šířka shluku nejlépe volba velikosti okolí N c = N c (t) malé okolí na začátku procesu neúplná mapa !!! minimálně 1/2 velikosti mapy SOM s učitelem nová varianta Kohonenova učení algoritmus učení je podobný SOM nové: do originálních trénovacích dat je přidán další parametr informace o třídě, do které vzorek náleží

dimenze vstupního vektoru se zvětší o počet tříd, do kterých chceme klasifikovat u každého tréninkového vektoru má jeden z nových parametrů hodnotu '1' (to odpovídá přidané třídě), ostatní mají hodnotu '0' Důvod: zlepšení klasifikace Příklad Topologie sítě je 12 x neuronů Trénování sítě: počet dětí je 20, věk 6-9 let, děvčata i chlapci trénují se samohlásky 1810 vektorů všech samohlásek Řečový korpus: děti ze ZŠ, nejsou rozděleny podle věku. Důvod experimentu: ověření hypotézy o posunu v „namapování“ samohlásek u nemocných dětí, případně dospělých jedinců Chyba na obrázcích je definována jako podíl (počet správných umístění) / (počet všech umístění) Jedná se o namapování konkrétní samohlásky do vokalického trojúhelníku vzniklého po natrénování promluv zdravých dětí.

Klasifikace samohlásky „a“ muže KSOM chyba 60% SOM s učitelem chyba 44% Počet testovacích vektorů : 95 a m … samohláska „a“ vyslovená mužem Správná klasifikace … bílá barva, chybná klasifikace … černá barva

Klasifikace samohlásky „a“ ženy KSOM chyba 43% SOM s učitelem chyba 40% Počet testovacích vektorů : 64 a z … samohláska „a“ vyslovená ženou Správná klasifikace … bílá barva, chybná klasifikace … černá barva

Klasifikace samohlásky „a“ zdravých dětí KSOM chyba 21% SOM s učitelem chyba 33% Počet testovacích vektorů : 44

Klasifikace samohlásky „a“ nemocného dítěte č.1 KSOM chyba 82% SOM s učitelem chyba 58% Počet testovacích vektorů : 25 a 1n … samohláska „a“ vyslovená nemocným dítětem č.1 správná klasifikace … bílá barva, chybná klasifikace … černá barva

Klasifikace samohlásky „a“ nemocného dítěte č.2 KSOM chyba 81% SOM s učitelem chyba 72% Počet testovacích vektorů : 47 a 2n … samohláska „a“ vyslovená nemocným dítětem č.2 správná klasifikace … bílá barva, chybná klasifikace … černá barva

Důvod: vizualizace shluků jsou zobrazeny vzdálenosti mezi neurony a jejich sousedy vzdálenost mezi sousedními neurony je po výpočtu znázorněna různými barvami tmavé barvy mezi neurony velké vzdálenosti reprezentují velké rozdíly (mezery) ve vstupním prostoru světlé barvy mezi neurony vektory jsou ve vstupním prostoru blízko sebe Světlé oblasti reprezentují clustery a tmavé oblasti reprezentují hranice clusterů. Clustery jsou snadněji identifikovatelné. U - matice matice sjednocených vzdáleností a) KSOM b) SOM s učitelem