Neuronové sítě.

Slides:



Advertisements
Podobné prezentace
Lineární klasifikátor
Advertisements

Počítačová grafika.
Programování funkcí v Excelu (pole)
Ostatní vnitřní komponenty
Algoritmy a struktury meuropočítačů ASN – C2
SMS brána Eurotel Jednoduché OCR pomocí neuronových sítí Marek Kukačka
Aplikace teorie grafů Základní pojmy teorie grafů
Hledání začátků exonů v DNA Klára Pešková, Michal Bída.
Neuronové sítě Marcel Jiřina.
Automatická fonetická segmentace pomocí UNS Registr - 36 neuronových sítí MLNN (pro každou českou hlásku jedna UNS) Trénovací množina: databáze promluv.
Topologie neuronových sítí (struktura, geometrie, architektura)
Umělé neuronové sítě z pohledu rozpoznávání
SSC - cvičení 7 Aplikace programového systému Speech Laboratory - SL Postup: 1.Zkopírovat z adresy
LVQ – Learning Vector Quantization
SSC - cvičení 3 MATLAB - BPG algoritmus 1.Vytvořit tréninková data 2.Vytvořit objekt sítě 3.Natrénovat síť 4.Simulace Funkce pro učení: learngd … základní.
Jiří Gazárek, Martin Havlíček Analýza nezávislých komponent (ICA) v datech fMRI, a ICA necitlivá ke zpoždění.
Algoritmy I Cvičení č. 4.
DOK „Umělá inteligence“ v DOK (i jinde). NEURONOVÉ SÍTĚ.
Využití umělých neuronových sítí k urychlení evolučních algoritmů
Medians and Order Statistics Nechť A je množina obsahující n různých prvků: Definice: Statistika i-tého řádu je i-tý nejmenší prvek, tj., minimum = statistika.
Základy počítačové grafiky
Neuronové sítě Jakub Krátký.
Vícevrstvé neuronové sítě.  Neuronové sítě jsou složeny z neuronů tak, že výstup jednoho neuronu je vstupem jednoho nebo více neuronů  Propojení neuronů.
Ř ADIČ RASTROVÝ, ELEKTROLUMINISCEN ČNÍ A VEKTOROVÝ.
Algoritmizace.
Vyučovací hodina 1 vyučovací hodina: Opakování z minulé hodiny 5 min Nová látka 20 min Procvičení nové látky 15 min Shrnutí 5 min 2 vyučovací hodiny: Opakování.
Neuronové sítě Martin Vavřička Copyright 2004 © Martin Vavřička 2004 – V 53 ČVUT v Praze – fakulta Stavební.
Nervová soustava.
Počítačová grafika 18. Marcel Svrčina.
Elektronické měřicí přístroje
NEURONOVÉ SÍTĚ (c) Tralvex Yeap. All Rights Reserved.
Neuronové sítě na grafických akcelerátorech Ondřej Zicha, Jiří Formánek.
Charakteristiky výstupního procesu systémů hromadné obsluhy Martin Meca ČVUT, Fakulta strojní.
Orbis pictus 21. století Tato prezentace byla vytvořena v rámci projektu.
Hopfieldova asociativní paměť. Topologie sítě 1 vrstva zároveň vstupní i výstupní mezi neurony existují všechny spoje (kromě smyček)
Nelineární klasifikátory
GRAFIKA.
Dokumentace informačního systému
Aplikační počítačové prostředky X15APP MATLAB Katedra elektroenergetiky, Fakulta elektrotechniky ČVUT, Technická 2, Praha 6 Ing. Zbyněk Brettschneider.
Neuronové sítě Jiří Iša
Klasifikace klasifikace: matematická metoda, kdy vstupní objekty X(i) jsou rozřazovány do tříd podle podobnosti metody klasifikace bez učitele: podoba.
Orbis pictus 21. století Tato prezentace byla vytvořena v rámci projektu.
ALGO – Algoritmizace 4. cvičení 1.ročník, ZS Ing. Zdena DOBEŠOVÁ, Ph.D.
CZ.1.07/1.4.00/ VY_32_INOVACE_152_IT7 Výukový materiál zpracovaný v rámci projektu Vzdělávací oblast: Informační a komunikační technologie Předmět:Informatika.
Nervová soustava l Autor : Mgr. Irena Hudcová Přírodopis Inovace výuky na Gymnáziu Otrokovice formou DUMů CZ.1.07/1.5.00/
© Institut biostatistiky a analýz ANALÝZA A KLASIFIKACE BIOMEDICÍNSKÝCH DAT prof. Ing. Jiří Holčík, CSc.
Opakování k písemné práci. Zadání (2b)Vysvětlete jak by šlo použít LSQ učení pro rozpoznání vzoru A od vzorů B a C. Jak by vypadaly bipolární vstupy a.
Monte Carlo simulace Experimentální fyzika I/3. Princip metody Problémy které nelze řešit analyticky je možné modelovat na základě statistického chování.
W i ref (t+1) = W i ref (t) + h ci (t) [X(t) - W i ref (t)], i Nc h ci (t) 0, t  proces konverguje Algoritmy a struktury neuropočítačů ASN – P3 SOM algoritmus.
ALTERA Stratix – LE až 7427 Kbitů RAM tři bloky RAM pamětí rychlé DSP bloky až 12 PLL (4+8 rychlých) až 16 globálních hodin a 22 zdrojů podpora.
MorČe morfologické značkování češtiny
Algoritmy a struktury neuropočítačů ASN - P14 Hopfieldovy sítě Asociativní paměti rekonstrukce původních nezkreslených vzorů předkládají se neúplné nebo.
Dita Matesová, David Lehký, Zbyněk Keršner
Rastrová grafika E4.
Martin Langhammer Antonín Wimberský. ÚVOD PŘEDPOKLADY Jednotný vstup Zadní SPZ Stejný úhel a vzdálenost záběru Pouze vodorovné záběry značek Obdélníkové.
Cenová mapa podnájmů v Praze Ondřej Kmoch Tomáš Kohan
Neuronové sítě. Vývoj NS 1943 – W. McCulloch, W. Pittse – první jednoduchý matematický model neuronu 1951 – M. Minsky - první neuropočítač Snark 1957.
Grafické systémy II. Ing. Tomáš Neumann Interní doktorand kat. 340 Vizualizace, tvorba animací.
1 Televizní obraz Digitální záznam Tento projekt je spolufinancován Evropským sociálním fondem, státním rozpočtem České republiky a rozpočtem Hlavního.
Uvedení autoři, není-li uvedeno jinak, jsou autory tohoto výukového materiálu a všech jeho částí. Tento projekt je spolufinancován ESF a státním rozpočtem.
Geografické informační systémy
Vlastnosti souborů Jaroslava Černá.
Číslicová technika.
Operační pamět počítače-RAM
GRAFIKA.
Neuronové sítě.
Základná schéma počítača
Obecná deformační metoda
Neuronové sítě.
Anotace Prezentace slouží k úvodní hodině do tématického celku: nervová soustava Je určena pro žáky 8. ročníku ZŠ.
Transkript prezentace:

Neuronové sítě

Biologická motivace neuron

Lidský mozek Lidský mozek obsahuje asi 1011 neuronů. Buněčné jádro (soma) má velikost jen 1 až 3 mm. Délka dendritu bývá 1 až 3 mm. Bývá jich 100 až 10000. Délka axonů bývá i delší než 1 m. Mozek spotřebovává 2030 % energie těla, i když představuje jen asi 2 % váhy.

Neuron Snímek neuronu v elektronovém mikroskopu

Srovnání počítač x mozek Lidský mozek Výpočetní jednotka 1 CPU 1011 buněk Paměť 109 bitů RAM, 1011 bitů na disku 1011 neuronů, 1014 synapsí Délka cyklu 10-8 sekundy 10-3 sekundy Šířka pásma 109 bitů za sekundu 1014 bitů za sekundu Rychlost obnovy 109 výpočetních elementů 1014 neuronů za sekundu

Formální neuron

Matematický popis

Přenosová funkce skoková

Přenosová funkce sigmoidní

Topologie sítě I1 O7 I2

Vrstvené sítě Vrstvená síť typu m – k1 – k2 – ... – kr – n se vstupní vrstvou dimenze m s výstupní vrstvou dimenze n s r skrytými vrstvami. Příklad: síť 4-6-6-6-3

Neuronová síť je určena Topologií Váhami synapsí Prahem neuronů Přenosovou funkcí

Proces učení neuronových sítí Pro učení (trénování NS) je třeba mít dostatek reprezentativních příkladů Trénovací, výběrová, testovací množina Na začátku učení bývají váhy nejčastěji nastaveny na náhodná čísla Proces učení se snaží minimalizovat odchylku (chybu) mezi skutečným (aktuálním) a požadovaným výstupem Každá neuronová síť má jiný algoritmus učení, vesměs jsou to ale iterační procesy

Hopfieldova asociativní paměť

Topologie sítě 1 vrstva zároveň vstupní i výstupní mezi neurony existují všechny spoje (kromě smyček)

Motivace Rozpoznávání obrazu Každý neuron nabývá jednoho ze dvou stavů {0,1}. Každý neuron odpovídá pixelu rastrového obrázku. Stav 0 odpovídá bílé barvě, stav 1 černé barvě

Další parametry sítě Přenosová funkce skoková F(U) = 1 pro U>Θ F(U) = 0 pro U<=Θ Váhy synapsí se určují při učení Prahy neuronů Θi = ½ Σj wij

Učení sítě = nastavení vah t vzorů (n složkové vektory) wij = 0 pro i=j Pro i<>j inicializuj wij=0 Pro každý vzor v1,v2,…,vn proveď wij = wij + (2vi-1)(2vj-1)

Vybavování Vstupní vzor x1,x2,…,xn První iterace y(0)=y1(0),y2(0),…,yn(0) Další iterace Spočti vstup pro i=tý neuron ui(t+1)=Σj wij.yj(t) Podle přenosové funkce urči yi(t+1) = 1 pro ui(t+1) > Θi yi(t+1) = 0 pro ui(t+1) <= Θi

Energetická funkce E(t) = -½ ΣiΣj wij yi(t)yj(t) –Σi Θiyi(t) Během vybavování její hodnota klesá Vybavování končí v lokálním minimu energetické funkce Toto minimum může odpovídat naučeným vzorům Nebo vzorům k ním inverzním Nebo vzorům falešným „fantomům“

Příklad Obrázek velikosti 2x2 pixely. Síť má 4 neurony 1 vzory 1

Příklad – stanovení vah Pokud má vzor na i-tém a j=tém poli stejnou hodnotu, přičítám 1, pokud má různou odečítám 1 Původní matice vah

Příklad – stanovení vah Váhy po naučení vzoru (1,0,0,0) -1 1

Prahy Θ Θ1 = -3/2 Θ2 = 1/2 Θ3 = 1/2 Θ4 = 1/2

Vybavování Vzor (0,0,0,0) y(0) = (0,0,0,0) E(0) = 0 1.krok 2.krok u(1)=(0,0,0,0) y(1)=(1,0,0,0) E(1) = -3 + 3/2 = -3/2 2.krok u(2)=(0,-1,-1,-1) y(2)=(1,0,0,0) E(2)=-3/2 Rozeznán vzor v