ANALÝZA A KLASIFIKACE DAT

Prezentace na téma: "ANALÝZA A KLASIFIKACE DAT"— Transkript prezentace:

1 ANALÝZA A KLASIFIKACE DAT
prof. Ing. Jiří Holčík, CSc. INVESTICE DO ROZVOJE VZDĚLÁVÁNÍ

2 VIII. ANALÝZA HLAVNÍCH KOMPONENT

3 ANALÝZA HLAVNÍCH KOMPONENT
ZAČÍNÁME ANALÝZA HLAVNÍCH KOMPONENT PRINCIPAL COMPONENT ANALYSIS (PCA) ROZKLAD PODLE VLASTNÍCH ČÍSEL SINGULAR VALUE DECOMPOSITION (SVD) Karhunenova-Loevova transformace

4 ZAČÍNÁME extrakce příznaků - hledání zobrazení (optimálního) Z, které transformuje původní m rozměrný prostor (obraz) na prostor (obraz) n rozměrný (m  n); nalezení vhodné transformace – potřeba optimalizačního kritéria: obrazy v novém prostoru budou aproximovat původní obrazy ve smyslu minimální střední kvadratické odchylky; obrazy v novém prostoru budou minimalizovat odhad pravděpodobnosti chyby

5 ZAČÍNÁME aby byla úloha řešitelná, hledáme zobrazení v oboru lineárních zobrazení

6 Jak poznáme lineární zobrazení?
ZAČÍNÁME aby byla úloha řešitelná, hledáme zobrazení v oboru lineárních zobrazení Jak poznáme lineární zobrazení?

7 Jak poznáme lineární zobrazení?
ZAČÍNÁME aby byla úloha řešitelná, hledáme zobrazení v oboru lineárních zobrazení Jak poznáme lineární zobrazení?

8 TEORIE předpokládejme, že je dáno K obrazů a nechť existuje m příznakových veličin, které tyto obrazy charakterizují. Tedy k-tý obraz je vyjádřen m rozměrným sloupcovým vektorem yk  Y m, k=1,…,K. aproximujme nyní kterýkoliv obraz yk lineární kombinací n ortonormálních vektorů ei (m  n) ()

9 TEORIE koeficienty cki lze považovat za velikost i-té souřadnice vektoru yk vyjádřeného v novém systému souřadnic s bází ei, i=1,2,…,n, tj. platí použijeme-li jako kritérium minimální střední kvadratické odchylky, pak je

10 TEORIE pak pomocí dříve uvedených vztahů pro xk a cki dostaneme
střední kvadratická odchylka pro všechny obrazy yk, k=1,…,K je

11 TEORIE pak pomocí dříve uvedených vztahů pro xk a cki dostaneme
střední kvadratická odchylka pro všechny obrazy yk, k=1,…,K je (je tedy závislá na volbě bázového systému ei)

12 TEORIE diskrétní konečný rozvoj podle vztahu () s bázovým systémem ei, optimálním podle kritéria minimální střední kvadratické chyby nazýváme diskrétní Karhunenův – Loevův rozvoj; aby střední kvadratická odchylka podle výše uvedeného vztahu byla minimální, musí být odečítaná hodnota na pravé straně rovnice maximální.

13 TEORIE musíme tedy maximalizovat výraz
je autokorelační matice řádu m. Protože je symetrická a semidefinitní, jsou její vlastní čísla λi, i=1,…,m, reálná a nezáporná a vlastní vektory vi, jsou buď ortonormální, nebo je můžeme ortonormalizovat (v případě násobných vlastních čísel).

14 TEORIE uspořádáme-li vlastní čísla sestupně podle velikosti, tj.
a podle toho očíslujeme i odpovídající charakteristické vektory, lze dokázat, výe uvedený výraz dosahuje maxima, jestliže platí ei = vi, i=1,…,n a pro velikost maxima je

15 TEORIE pro minimální střední kvadratickou odchylku tedy platí

16 teorie v některých případech je vhodnější vektory yk před aproximací centrovat se střední hodnotou a místo s obrazem yk počítáme s jeho centrovanou verzí Postup výpočtu se nemění, ale místo autokorelační matice používáme disperzní matici ve tvaru

17 Geometrická interpretace

18 příklad Předpokládejme, že množinu obrazů Y 3 tvoří dva obrazové vektory y1 = (1, 1, 1)T a y2 = (2, 2, 2)T. Pomocí Karhunenova – Loevova rozvoje najděme novou souřadnicovou soustavu, která umožní popsat oba vektory s minimální střední kvadratickou odchylkou.

19 příklad autokorelační matice: vlastní čísla:
(2,5 - )3 + 2,53 + 2,53 – 3.2,52.(2,5 - ) = 0 3 – 7,52 = 0  1 = 7,5 a 2,3 = 0.

20 příklad vlastní vektory: [ - .I].x = 0.
Pro 1 = 7,5 dostáváme lineární soustavu tří rovnic která obsahuje pouze dvě lineárně nezávislé rovnice a tedy její parametrické řešení je pro t = 1 je k vlastnímu číslu 1 vlastní vektor x1 = (1, 1, 1)T,

21 příklad pro 2,3 = 0 x1 = - x2 - x3; x2 = t a x3 = u. Parametry t a u volíme tak, aby vlastní vektory byly navzájem ortogonální, pro x2 např. t = 1 a u = 1, pak x2 = (-2, 1, 1)T a pro x3 např. t = -1 a u = 1 a tedy x3 = (0, -1, 1)T.

22 příklad Co by se stalo, kdybychom odstranili souřadnici x1?
Protože body y1 a y2 leží na vrcholech krychlí s hranami o délce 1, resp. 2 protilehlých k počátku, je jejich vzdálenost od počátku a tím i souřadnice ve směru x1 rovna délce prostorové úhlopříčky, tj. d1 = 3 v případě vektoru y1, resp. d2 = 12 v případě vektoru y2. Protože je nová souřadnicová soustava ortogonální, promítaly by se oba obrazové vektory při odstranění osy x1 do počátku. A konečně, vzhledem k tomu, že chybu popisu obrazových vektorů 2 vyjadřujeme pomocí střední kvadratické odchylky, je tato chyba rovna což je právě 1.

23 vlastnosti při daném počtu n členů rozvoje poskytuje ze všech možných aproximací nejmenší střední kvadratickou odchylku; při použití disperzní matice jsou transformované souřadnice nekorelované; pokud se výskyt obrazů řídí normálním rozložením zajišťuje nekorelovanost i jejich nezávislost; vliv každého členu uspořádaného rozvoje se zmenšuje s jeho pořadím; změna požadavků na velikost střední kvadratické odchylky nevyžaduje přepočítávat celý rozvoj, nýbrž jen změnit počet jeho členů.

24 Rozdělení do tříd Jak se změní podmínky, když obrazy y budou vymezeny jako části spojitého obrazového prostoru Y m? Výskyt obrazů v jednotlivých klasifikačních třídách bude popsán podmíněnými hustotami pravděpodobnosti p(y|ωr), r=1,2,…,R a apriorní pravděpodobnost klasifikačních tříd bude P(ωr). V tom případě autokorelační matice bude

25 Rozdělení do tříd disperzní matice kde nebo vztahem

26 Rozdělení do tříd kde střední hodnota μ je vážený průměr středních hodnot všech tříd, tj.

27 „VÍCEOBOROVÁ INOVACE STUDIA MATEMATICKÉ BIOLOGIE“
Příprava nových učebních materiálů oboru Matematická biologie je podporována projektem ESF č. CZ.1.07/2.2.00/ „VÍCEOBOROVÁ INOVACE STUDIA MATEMATICKÉ BIOLOGIE“ INVESTICE DO ROZVOJE VZDĚLÁVÁNÍ