Indukce Definice: nalezení obecných zákonitostí z příkladů.

Prezentace na téma: "Indukce Definice: nalezení obecných zákonitostí z příkladů."— Transkript prezentace:

1 Indukce Definice: nalezení obecných zákonitostí z příkladů.
Původ slova: Z latinského INDUCTIO. Původně řecké slovo EPAGWGH. Česky návod. Rozdělení: Úplná Neúplná Indukce je přirozenou složkou lidské inteligence. Většina neslovních testů inteligence testuje schopnost indukce.

2 Test 1 2 ?

3 Řešení 1! 2!! 3!!! 4!!!! 5!!!!! …

4 Historie Politik: rozdělit množinu na dvě části tak, aby platilo:
Obě části jsou přibližně stejně velké. Nejméně jedna část obsahuje příklady jednoho druhu. (nevyřčené pravidlo)

5 Je živočich suchozemský? Je živočich samosnubný?
Historie Je živočich stádní? NE ANO Není člověk Je živočich suchozemský? NE ANO Není člověk Je živočich chodící? NE ANO Není člověk Je živočich bezrohý? NE ANO Není člověk Je živočich samosnubný? NE ANO Není člověk Má živočich 2 nohy? Klasifikace oškubaného kohouta: člověk NE ANO Není člověk Je člověk + má živočich široké nehty

6 Indukce jako filtrace Schéma Zdroj znalostí Úloha poruchy přesnost
Testovací množina Trénovací množina Mez přetrénování přesnost složitost

7 Hladový algoritmus

8 Konstrukce rozhodovacích stromů
TDIDT CLS Tycho de Brahe x Johannes Kepler

9 Algoritmus ID3 Vybereme náhodně podmnožinu z trénovací množiny (tzv. okno) Aplikuje CLS algoritmus Projde všechny příklady z příkladů, které nejsou v okně, a najde výjimky Když existují výjimky, pak vybere některé z nich a přidá je do okna a jde na krok 2. Jinak konec a strom je hotov

10 Prohledávání stavového prostoru
? A B C

11 Entropie Míra překvapení z výsledku náhodného pokusu.
Požadavky na míru: Závisí pouze na pravděpodobnosti výsledku. S rostoucí pravděpodobností míra nejistoty klesá. Spojitá funkce. Nejistota předpovědi dvou nezávislých pokusů se sčítá. Neboli H(p1.p2) = H(p1) + H(p2) Jediný možný výsledek: H(p) = c . log(p), c < 0 Používaná míra: H(p) = -log2(p) [bit] EJ = - pi . log2(pi) [bit]

12 Kritérium výběru otázky
Otázka 1. možnost odpovědi 2. možnost odpovědi N-tá. možnost odpovědi … J1 J2 JN Žádáme minimum kriteriální funkce Upozornění: Existují i jiná kritéria výběru otázky

13 Indukční systém - příklad
Rozpoznávání druhu ovoce

14 Skutečná znalost požitá při konstrukci trénovací množiny
Tvar Kulatý Hruškovitý Podlouhlý Kužel Velikost Hruška Okurka Velikost Velká Malá Malá Střední Pevnost Borůvka Malina Jahoda Měkké Pevné Rajče Jablko

15 Obr. Barva Velikost Tvar Pevnost Třída Červená Velká Kulatý Měkké Rajče Malá Kužel Malina Modrá Borůvka Zelená Střední Podlouhlý Pevné Okurka Hruškovitý Hruška Žlutá Jablko Jahoda

16 Minimum Tvar ? Je uzel list? Není!
 Musí být nalezena optimální otázka Minimum

17 Minimum Tvar Kulatý Hruškovitý Podlouhlý Kužel Barva ? ? ? ?
Je uzel list? Není!  Musí být nalezena optimální otázka Minimum

18 Minimum Tvar Kulatý Hruškovitý Podlouhlý Kužel Barva ? ? ? Červená
Modrá Zelená Je uzel list? Pevnost ? ? ? Není!  Musí být nalezena optimální otázka Minimum

19 Rajče Tvar Kulatý Hruškovitý Podlouhlý Kužel Barva ? ? ? Červená Modrá
Zelená Je uzel list? Pevnost ? ? Je!  Musí být vybráno rozhodnutí Měkké Pevné Rajče Rajče ? ?

20 Znalost odhadnutá pomocí trénovací množiny
Tvar Kulatý Hruškovitý Podlouhlý Kužel Barva Hruška Okurka Velikost Malá Střední Červená Modrá Zelená Malina Jahoda Pevnost Borůvka Jablko Měkké Pevné Rajče Jablko

21 Odhadnutá znalost Rozdíly Skutečná znalost Počet pravidel = 8

22 Indukční systémy - příklad
Aproximace funkce

23 Schéma Báze znalostí R1: xa1;b1  y = c1 R2: xa2;b2  y = c2 ...
Rn: xan;bn  y = cn x y Porucha k.sin(w.x) e  N(0;0,1)

24 Kritérium optimální otázky:
Kritérium ukončení: Kritérium optimální otázky: Výběr rozhodnutí: -3,02 -0,29 2,05 1,04 0,29 2,00 -0,01 2,29 0,34 2,68 3,27

25 Kritérium ukončení: Kritérium optimální otázky: Výběr rozhodnutí:

26 Indukční systémy - příklad
Klasifikace obrazu

27 Klasifikace: voda x země
Expertní systém [ X Y ] Klasifikace w Pravildo px: IF faktx AND f(x,y,qx) > 0 THEN fakt_důsledekx

28

29

30 Klasifikace obrazu Přesnost: 98,39 % Počet pravidel: 961

31 Příklad – aproximace funkce

32 Indukční systémy - příklad
Klasifikace slova

33

34

35 Literatura Platón: Politikos Berka: Dobývání znalostí z databází
Mařík a kol.: Umělá inteligence 1.