Neuronové sítě Martin Vavřička Copyright 2004 © Martin Vavřička 2004 – V 53 ČVUT v Praze – fakulta Stavební.

Prezentace na téma: "Neuronové sítě Martin Vavřička Copyright 2004 © Martin Vavřička 2004 – V 53 ČVUT v Praze – fakulta Stavební."— Transkript prezentace:

1 Neuronové sítě Martin Vavřička Copyright 2004 © Martin Vavřička 2004 – V 53 ČVUT v Praze – fakulta Stavební

2 Úvod Neuron je elementární jednotka pro zpracování informace. Neuronová sít jsou propojené neurony. Jsou to obecně vzato černé krabice, do kterých proudí data a na výstupu/ech vycházejí data zpracovaná, nějak závislá na datech vstupních.

3 Jak funguje jeden neuron Neuron reaguje na velikost podráždění na svých vstupech (tedy přesně řečeno, na velikost součtu podráždění od všech dendritů dohromady). Tělo neuronu má určitou prahovou hodnotu, pod kterou má na svém výstupu logickou nulu a nad tuto úroveňí logickou jedničku. Nejde tedy čistě o binární obvod, spíše o jakýsi komparátor s nelineární převodní charakteristikou a sumátorem na vstupu.

4 Matematický model neuronu

5 Dlouhodobá paměť Je realizována "zapojením obvodu", tedy tím, jak jsou propojeny jednotlivé neurony mezi sebou a jak jsou nastaveny synapse. Pokud se někde objeví korelace mezi určitými výstupy neuronů a nějakou akcí, tak lze vzít výstupy těchto neuronů jako indikátor této akce. V mozku se vytvoří a následným užíváním utvrdí cesta (dendritické spojení) mezi axony takto generujících neuronů a neurony řídícími nějakou akci, kterou má neuronová síť realizovat.

6 Matematický základ a vysvětlení principu chování neuronových sítí Pokud lze sílu signálů reprezentovat reálnými čísly, můžeme popsat neuronovou síť matematicky. Chování samotného neuronu v matematické oblasti lze psát jako násobení vektorů (výstupy odebírané neuronem z jiných neuronů jsou vektor X). Zeslabení či inverze signálů probíhající na synapsích jsou druhým vektorem W Po vynásobení těchto dvou vektorů a odečtení prahové úroveně neuronu, dostaneme nějaké reálné číslo, které ještě musíme zohlednit nějakou převodní charakteristikou

7 Jednoúrovňová síť n-počet vstupních dendritů X=(x1,x2,x3,....xn) W=(w1,w2,w3,....wn) y=f(X*W-práh) kde X*W=x1*w1+x2*w2+x3*w3+......... Jednoúrovňová síť má vstupní budicí vektor X, ale více (m) neuronů Každý si může odebírat ze vstupního vektoru signál a případně si ho zeslabit či negovat Výstupem je vektor (pro každý neuron 1 hodnota).

8 Víceúrovňové sítě Vrstva neuronů, která si bere do vstupu výstup z předchozí vrstvy, se nazývá síť s dopředným šířením (Feedforward Neural Network). Takové sítě mají konečnou délku odezvy na předložená data. Síť je hloupá, neumí se učit.

9 Víceúrovňové sítě - schema

10 Umělé neuronové sítě Principem výstupní funkce neuronové sítě je aproximovat nějakou funkci podle vstupních vektorů. Klíčem k správné aproximaci je nutné znát správně koeficienty. Jsou vyjádřeny v matici a biologicky vlastně znamenají hodnoty propustností synapsí. Neuronovou síť lze naučit reagovat správně na vstupy.

11 Učení neuronové sítě s učitelem Při učení učitelem se umělá neuronová síť učí tak, že srovnává svůj výstup s výstupem svého učitele nastavováním vah synapsí (hodnoty v matici) tak, aby se snížil rozdíl mezi skutečným a požadovaným výstupem. Je nutno použít nějaký učící algoritmus, efektivně hledající správné hodnoty koeficientů. Změnou některé váhy zjistím, jestli to na výstupu zpřesnilo nebo rozhodilo aproximaci.

12 Učení bez učitele Nemá žádný srovnávací signál k určení správnosti. Algoritmus je navržen tak, že hledá ve vstupních datech vzorky s určitými vlastnostmi, tedy podle závislosti, korelace. Takto je možno např. analyzovat jaký vliv má roční období na srážky, počet dešťů na úrodu apod.

13 Vybavování Na vstup sítě se přivedou data a pak se (v matematické umělé reprezentaci) počítá odezva sítě na výstupu. U sítí se zpětnou vazbou se musí počítat tak dlouho, než se signál na výstupu neustálí (zkonverguje). Vlivem zpětné vazby může dojít k oscilacím, výstup začne divergovat k velkým hodnotám. Poté se výpočet odezvy sítě na vstupní data nedá spočítat.

14 Aplikace v elektronice Neuronové sítě lze realizovat softwarově, obvodově neboli hardwarově jako: - analogové - realizace operačními zesilovači - digitální: počítá se s maticemi a čísly, iterativně hardwarové (neuroprocesor) softwarové (program) Využívá se schopnosti učit se aniž by se ztrácela předchozí informace (dovednosti). Při dostatku neuronů, lze naučené informace nadále upřesňovat dalším učením.

15 Literatura NEURONOVÉ SÍTĚ A NEUROPOČÍTAČE Doc. Ing. Miroslav Norek, CSc. Ing. Marcel Jiřina, DrSc. Vydavatelství ČVUT http://www.genetics.gla.ac.uk/neil/index.html http://www.cuni.cz/propsy/fencl.htm http://home.eunet.cz/berka