Neuronové sítě. Vývoj NS 1943 – W. McCulloch, W. Pittse – první jednoduchý matematický model neuronu 1951 – M. Minsky - první neuropočítač Snark 1957.

Prezentace na téma: "Neuronové sítě. Vývoj NS 1943 – W. McCulloch, W. Pittse – první jednoduchý matematický model neuronu 1951 – M. Minsky - první neuropočítač Snark 1957."— Transkript prezentace:

1 Neuronové sítě

2 Vývoj NS 1943 – W. McCulloch, W. Pittse – první jednoduchý matematický model neuronu 1951 – M. Minsky - první neuropočítač Snark 1957 – F. Rozenbaltt – perceptron 1959 - B. Widrow - ADALINE:nová učící pravidla 1967 – 1982 – vývoj mimo USA Sejnowski, Rozenberg – NETtalk 1987 – založena INNS součastnost – neuročipy, neuropočítače

3 Popis neuronu Dendrity - vlákna, pomocí níž přijímá signály od ostatních neuronů Axon - pomocí něj vysílá neuron signály(délka až 1m) Terminály - axon se rozbíhá do mnoha větví, tzv. terminálů Synapse - jsou na konci terminálu - předávají el. impuls do neuronu Soma - tělo neuronu mozková kůra obsahuje 13-15 miliard neuronů, každý může být propojen až s 5000 dalších

4 Perceptron zakladní neuronová síť vstupy x 1 - x n váhy w 1 - w n => učení: změna vah x 0 =1, w 0 -bias, -práh => w 0 =- vzor, trénovací množina příklad realizace - AND, OR - nejde XOR

5 musí se již využít dvouvrstvá síť REALIZACE FUNKCE XOR

6 Vícevrstvé sítě cyklické a dopředné statické a dynamické Příkrad cyklické architektury NS učení s učitelem a bez učitele

7 Backpropagation vícevrstvá, cyklická s učícím algoritmem zpětného šíření chyby nejpoužívanější

8 Kohonenovy sítě samoorganizující se sítě=>bez učitele shluková analýza vychází z poznatku – mozek používá pro uchování informace vnitřní prostorovou reprezentaci dat většina neuronů v mozkuje organizována v 2D spoje mezi neurony vedou pouze mezi sousedy použití: fonetický psací stroj, rozpoznávání látek, rozpoznávání geografických map

9 Hopfieldova síť cyklická, učení s učitelem asociativní pamět(obrazový vstup), klasifikátor, řešení optimaliyačních problémů symetrická síť, diagonálně symetrická matice vah

10 Výhody neuronových sítí získávání znalostí pomocí množiny vzorů, bez nutnosti získání znalostí explicitně. schopnost učit se a adaptovat se. schopnost generalizace - do správných tříd jsou klasifikovány i vstupní vzory, které nejsou součástí tréninkvé množiny

11 Nevýhody neuronových sítí velikost a složitost sítí doba potřebná k natrénování

12 Použití neuronových sítí analýza neperiodických signálů(EEG, EKG, …) komprese, kódování a expanze signálu analýza a syntéza řeči adaptivní filtrace signálu a šumu ekonomika(vývoj kurzů, cenných papírů, …) zdravotnictví(analýza rentgenových snímků,...)

13 Další využití rozponávání obrazu(kriminalistika) detekce předpovědi poruch(letadla) adaptivní regulátory

14 Zdroje Sdělovací technika - Petr Husek, ČVUT FEL katedra řídici techniky ● http://www.stech.cz http://www.stech.cz ● http://normandy.sandhills.cc.nc.us/psy150/neuron.html http://normandy.sandhills.cc.nc.us/psy150/neuron.html ● http://www.fs.vsb.cz/books/NeuronoveSite/NN_pojmy.htm http://www.fs.vsb.cz/books/NeuronoveSite/NN_pojmy.htm ● http://cyber.felk.cvut.cz/gerstner/biolab/ http://cyber.felk.cvut.cz/gerstner/biolab/ Teoretické otázky neuronových sítí – Jiří Šíma, Roman Neruda ● http://www.cs.cas.cz/~sima/kniha.pdf http://www.cs.cas.cz/~sima/kniha.pdf ● Neuronové sítě - Doc. Ing. Pavel Ošmera, CSc. - VUT FSI v Brně