Neuronové sítě

Vývoj NS 1943 – W. McCulloch, W. Pittse – první jednoduchý matematický model neuronu 1951 – M. Minsky - první neuropočítač Snark 1957 – F. Rozenbaltt – perceptron B. Widrow - ADALINE:nová učící pravidla 1967 – 1982 – vývoj mimo USA Sejnowski, Rozenberg – NETtalk 1987 – založena INNS součastnost – neuročipy, neuropočítače

Popis neuronu Dendrity - vlákna, pomocí níž přijímá signály od ostatních neuronů Axon - pomocí něj vysílá neuron signály(délka až 1m) Terminály - axon se rozbíhá do mnoha větví, tzv. terminálů Synapse - jsou na konci terminálu - předávají el. impuls do neuronu Soma - tělo neuronu mozková kůra obsahuje miliard neuronů, každý může být propojen až s 5000 dalších

Perceptron zakladní neuronová síť vstupy x 1 - x n váhy w 1 - w n => učení: změna vah x 0 =1, w 0 -bias, -práh => w 0 =- vzor, trénovací množina příklad realizace - AND, OR - nejde XOR

musí se již využít dvouvrstvá síť REALIZACE FUNKCE XOR

Vícevrstvé sítě cyklické a dopředné statické a dynamické Příkrad cyklické architektury NS učení s učitelem a bez učitele

Backpropagation vícevrstvá, cyklická s učícím algoritmem zpětného šíření chyby nejpoužívanější

Kohonenovy sítě samoorganizující se sítě=>bez učitele shluková analýza vychází z poznatku – mozek používá pro uchování informace vnitřní prostorovou reprezentaci dat většina neuronů v mozkuje organizována v 2D spoje mezi neurony vedou pouze mezi sousedy použití: fonetický psací stroj, rozpoznávání látek, rozpoznávání geografických map

Hopfieldova síť cyklická, učení s učitelem asociativní pamět(obrazový vstup), klasifikátor, řešení optimaliyačních problémů symetrická síť, diagonálně symetrická matice vah

Výhody neuronových sítí získávání znalostí pomocí množiny vzorů, bez nutnosti získání znalostí explicitně. schopnost učit se a adaptovat se. schopnost generalizace - do správných tříd jsou klasifikovány i vstupní vzory, které nejsou součástí tréninkvé množiny

Nevýhody neuronových sítí velikost a složitost sítí doba potřebná k natrénování

Použití neuronových sítí analýza neperiodických signálů(EEG, EKG, …) komprese, kódování a expanze signálu analýza a syntéza řeči adaptivní filtrace signálu a šumu ekonomika(vývoj kurzů, cenných papírů, …) zdravotnictví(analýza rentgenových snímků,...)

Další využití rozponávání obrazu(kriminalistika) detekce předpovědi poruch(letadla) adaptivní regulátory

Zdroje Sdělovací technika - Petr Husek, ČVUT FEL katedra řídici techniky ● ● ● ● Teoretické otázky neuronových sítí – Jiří Šíma, Roman Neruda ● ● Neuronové sítě - Doc. Ing. Pavel Ošmera, CSc. - VUT FSI v Brně