Hopfieldova asociativní paměť
Topologie sítě 1 vrstva zároveň vstupní i výstupní mezi neurony existují všechny spoje (kromě smyček)
Motivace Rozpoznávání obrazu –Každý neuron nabývá jednoho ze dvou stavů {0,1}. –Každý neuron odpovídá pixelu rastrového obrázku. –Stav 0 odpovídá bílé barvě, stav 1 černé barvě
Další parametry sítě Přenosová funkce skoková –F(U) = 1 pro U>Θ –F(U) = 0 pro U<=Θ Váhy synapsí se určují při učení Prahy neuronů Θ i = ½ Σ j w ij
Učení sítě = nastavení vah t vzorů (n složkové vektory) w ij = 0 pro i=j Pro i<>j –inicializuj w ij =0 –Pro každý vzor v 1,v 2,…,v n proveď w ij = w ij + (2v i -1)(2v j -1)
Vybavování Vstupní vzor x 1,x 2,…,x n První iterace y(0)=y 1 (0),y 2 (0),…,y n (0) Další iterace –Spočti vstup pro i=tý neuron u i (t+1)=Σ j w ij.y j (t) Podle přenosové funkce urči y i (t+1) = 1 pro u i (t+1) > Θ i y i (t+1) = 0 pro u i (t+1) <= Θ i
Energetická funkce E(t) = -½ Σ i Σ j w ij y i (t)y j (t) –Σ i Θ i y i (t) Během vybavování její hodnota klesá Vybavování končí v lokálním minimu energetické funkce Toto minimum může odpovídat naučeným vzorům Nebo vzorům k ním inverzním Nebo vzorům falešným „fantomům“
Příklad Obrázek velikosti 2x2 pixely. Síť má 4 neurony 1 vzory v = (1,0,0,0) 10 00
Příklad – stanovení vah Pokud má vzor na i-tém a j=tém poli stejnou hodnotu, přičítám 1, pokud má různou odečítám 1 Původní matice vah
Příklad – stanovení vah Váhy po naučení vzoru (1,0,0,0)
Prahy Θ Θ 1 = -3/2 Θ 2 = 1/2 Θ 3 = 1/2 Θ 4 = 1/2
Vybavování Vzor (0,0,0,0) y(0) = (0,0,0,0) E(0) = 0 1.krok –u(1)=(0,0,0,0) –y(1)=(1,0,0,0) E(1) = /2 = -3/2 2.krok – u(2)=(0,-1,-1,-1) – y(2)=(1,0,0,0) E(2)=-3/2 Rozeznán vzor v