Náhodné veličiny, náhodné chyby

Prezentace na téma: "Náhodné veličiny, náhodné chyby"— Transkript prezentace:

1 Náhodné veličiny, náhodné chyby
Máme náhodnou veličinu X, jejíž vlastnosti zkoumáme. Můžeme ji popsat rozložením s určitými parametry - charakteristikami populace. Pokud tyto parametry neznáme, můžeme získat pouze jejich odhad na základě výpočtu nebo zjištění z výběrového souboru. Výběrový soubor získáme z populace náhodným statistickým výběrem při statistickém šetření. Každý odhad je zatížen jistou neurčitostí - náhodnou chybou. (Je zřejmé, že při každém novém výběru bude chyba jiná, protože budou vybrány jiné prvky z populace.)

2 Náhodné chyby a systematické chyby
Při měření nebo stanovení charakteristik výběru jsou obvykle hodnoty zkresleny nejen náhodnými chybami, ale i dalšími chybami způsobenými nehomogenitou souboru, jednostrannými chybami měření apod. Tyto nežádoucí jevy nazýváme systematické chyby. Matematická statistika se snaží eliminovat systematické chyby, ale naopak počítá s náhodnými chybami - nejedná se vlastně o chyby, takže budeme spíše hovořit o náhodné složce, která může být ovlivněna: biologickou variabilitou nepřesností určení nebo měření veličiny nepřesností modelu

3 Náhodné chyby a rozsah souboru
Náhodu nechceme při statistickém šetření eliminovat, ale matematická statistika se ji snaží nějakým způsobem formalizovat, tj. vyjádřit pomocí matematického zápisu tak, abychom s ní mohli počítat. Pokud konstruujeme odhady charakteristik populace, můžeme náhodnou chybu zmenšit zvětšením výběru. Znamená to, že kvalita odhadu je dána variabilitou náhodné veličiny rozsahem výběru

4 Parametry populace a náhodný výběr
Protože výběr z populace je náhodný, je i hodnota parametru vypočtená na základě výběru náhodná veličina. Můžeme tedy považovat i parametry populace (například výběrový průměr nebo výběrový rozptyl) za náhodnou veličinu s určitým rozložením. Mluvíme-li ve statistice o testování veličin, považujeme za testovaný objekt populaci reprezentovanou výběrovým souborem (resp., více výběrovými soubory). TESTOVÁNÍ VELIČINY je zkoumání nějaké vlastnosti u této populace.

5 Úvod do statistického testování hypotéz
HYPOTÉZA je domněnka (tvrzení) o statistickém souboru TESTOVÁNÍ HYPOTÉZ je způsob ověřování domněnek o typu rozdělení statistického souboru o parametrech rozdělení - charakteristikách souboru (μ, σ2, σ, λ) o shodě dvou a více rozdělení o shodě parametrů rozdělení vždy proti sobě stojí dvě doměnky (tvrzení): nulová hypotéza (domněnka, kterou testujeme) alternativní hypotéza (domněnka, kterou přijímáme pokud zamítneme nulovou hypotézu)

6 Nulová a alternativní hypotéza
Nulová hypotéza je obvykle tvrzení, které po matematické stránce vyjadřuje „rovnost“, ekvivalenci, nulový rozdíl, nezávislost. Značíme H0 Jejím zamítnutím potvrzujeme platnost alternativní hypotézy, obvykle tvrzení, které chceme prokázat. Zamítnutí H0 má většinou vážnější důsledky. Alternativní hypotéza je obvykle tvrzení, které se zdá na první pohled evidentní a chceme ho prokázat. Říká, že existuje rozdíl mezi výběrovými soubory, např. závislost na zkoumaných faktorech. Značíme HA nebo H1 Její zamítnutí nemá většinou tak vážné důsledky. Přesto se jedná „jen o dohodu“, že takto stanovíme, která hypotéza je nulová a která alternativní.

7 Nulová a alternativní hypotéza - příklady:
Tvrzení, které chceme obvykle prokázat mohou znít např.: „Lék A má větší léčebný efekt než lék B.“ „Chlapci dosahují lepších výsledků v plavání než dívky.„ "Výsledky dotazníkového šetření závisí na věku respondentů.„ Opačná tvrzení, která proto musíme zamítnout, zní: „Léky A a B mají stejný léčebný efekt." „Chlapci dosahují stejných výsledků v plavání jako dívky." "Výsledky dotazníkového šetření nezávisí na věku respondentů.„

8 Nulová a alternativní hypotéza
Věcné hypotézy představují nulovou a alternativní hypotézu podle popsaných konvencí. Vždy se jedná o dvě tvrzení, která stojí proti sobě (druhé neguje první). Za nulovou hypotézu budeme považovat domněnku (tvrzení), že mezi testovanými soubory neexistuje vztah (souvislost), že pozorované rozdíly jsou způsobeny jen náhodnými vlivy. Mohli bychom testovat i jiné předpoklady, ale tento způsob přijetí nebo zamítnutí NULOVÉ HYPOTÉZY jakožto nositele „nulové změny, nulové závislosti“, je vžitý a srozumitelný.

9 Rozhodování ve statistických testech
Základem statistických testů je snaha o rozhodnutí, zda rozdíl testovaných hodnot můžeme vysvětlit pomocí náhody, nebo jej musíme považovat za systematický. Rozhodování ve statistických testech má vždy charakter pravděpodobnostní – nikdy si nejsme svým rozhodnutím zcela jisti. Zcela jednoznačně nemůže statistický test nikdy tvrdit, že dvě hodnoty jsou stejné, lze pouze říct, že rozdíl nelze prokázat.

10 Očekávané (hypotetické) rozdělení hodnot
Pokud zkoumáme dva nebo víc výběrových souborů, porovnáváme (testujeme) obvykle jejich charakteristiky, které vypočteme z naměřených (pozorovaných) hodnot. Často porovnáváme pouze jeden výběrový soubor s očekávaným rozdělením četností a testujeme, zda se rozdělení hodnot výběrového souboru řídí tímto očekávaným (hypotetickým) rozdělením hodnot. Nulovou hypotézou bychom nazvali tvrzení, že: - charakteristiky výběrových souborů se neliší - výběrový soubor se řídí očekávaným rozdělením hodnot.

11 Testování hypotéz TESTEM HYPOTÉZY nazýváme postup, jímž na základě výsledků zjištěných z náhodného výběru ověřujeme, zda statistickou hypotézu lze pokládat za správnou či nikoli. Rozložení hodnot nulové hypotézy se řídí očekávaným, hypotetickým rozdělením hodnot To znamená, že od námi předpokládaného teoretického rozdělení se zkoumané hodnoty odlišují jen díky náhodným vlivům - náhodě, kterou umíme statisticky zdůvodnit. Platí-li H0 Pozorované hodnoty jsou velmi blízké očekávaným (hypotetickým) hodnotám Platí-li HA Pozorované hodnoty se příliš liší od očekávaných - neumíme vysvětlit pouhou náhodou

12 Příklad pro schematické vysvětlení statistických testů
Budeme-li házet hrací kostkou, nebudeme očekávat jiná čísla než od 1 do 6. Pokud se nám mezi hrací kostky připlete jiná kostka, která bude mít čísla 6, 7, 8, 9, 10, 11 a padne na ní 6, nepoznáme, že patří do jiného souboru. Když ale padne jiné číslo, uvidíme na první pohled, že tato hodnota nepatří mezi očekávané. Statistické testy vyhodnotí statisticky výsledek našeho pokusu podobně: když se bude výsledek blížit očekávané hodnotě, nemůže zamítnout nulovou hypotézu. Když se bude výrazně odlišovat, statistický test prohlásí nulovou hypotézu za neplatnou. Pokud by bylo velmi nebezpečné přijmout nulovou hypotézu v příkladu s kostkou, pro jistotu bychom ji museli zamítnout ve všech případech, kdy padne šestka, bez ohledu na to, zda padla na kostce 1 – 6 nebo na kostce 6 – 11.

13 Chyba I. a II. druhu při testování hypotéz
Při testování mohou nastat čtyři situace: H0 zamítneme, ačkoliv platí H0 přijmeme, ačkoliv neplatí H0 přijmeme a platí H0 zamítneme a neplatí Výsledek testu Skutečnost H0 platí H0 neplatí H0 přijata III. Chyba II. druhu β H0 zamítnuta Chyba I. druhu α IV.

14 Hladina významnosti Snahou je volit test tak, aby pravděpodobnost chyby I. i II. druhu byla minimální. Bohužel jak si dále ukážeme, snížíme-li riziko chyby I. druhu, zvětší se riziko chyby II. druhu a naopak. Rozhodujeme se na základě zvážení důsledků obou chyb - tam, kde je důsledek chyby menší, můžeme zvolit riziko větší. Příklad: Lékař vyšetřuje pacienta, který si myslí, že trpí určitou chorobou. Na základě vyšetření se rozhoduje, zda mu předepíše léky (přijímá hypotézu, že pacient je nemocný) nebo ne (přijímá hypotézu, že pacient je simulant). Musí zvážit rizika, která s sebou nese rozhodnutí, že nemocnou osobu považuje za zdravou.

15 Hladina významnosti Obvykle mívá důsledek chyby I. druhu - hypotézu H0 zamítneme, ačkoliv platí - horší následky. Proto se snažíme chybu I. druhu minimalizovat a její pravděpodobnost volíme velmi malou 0,05 (5%) nebo dokonce jen 0,01 (1%). Tato pravděpodobnost se nazývá hladina významnosti a značí se α. Je to riziko zamítnutí ověřované hypotézy. Opačnou chybu – přijetí ověřované hypotézy, přestože neplatí, označujeme jako chybu II. druhu Tuto pravděpodobnost značíme β. Doplněk k pravděpodobnosti β, tj. přijetí alternativní hypotézy, když platí, se nazývá síla testu. Jinými slovy je to pravděpodobnost zamítnutí H0, když neplatí.

16 Příklad statistického testu
Sledujeme výšku postavy skupiny basketbalistů ve věku let. Chceme vědět, zda se jejich průměrná výška statisticky významně odlišuje od průměrné výšky běžné populace. Pro testování musíme: přijmout určité předpoklady - rozložení výšky se řídí normálním rozdělením stanovit nejmenší odchylku od hypotézy H0 , kterou bychom měli být schopní prokázat - hypotézu H1 stanovit hladinu významnosti (přijatelnou chybu statistického testu) nulová hypotéza H0: průměrná výška sledované skupiny basketbalistů ve věku let se neodlišuje statisticky významně od průměrné výšky běžné mužské populace Na následujícím obrázku je graficky znázorněno rozložení sledovaného souboru basketbalistů, frekvenční funkce hypotézy H0, H1, hladina významnosti α, chyba II. druhu β a síla testu

17 Testování hypotéz α chyba I. druhu β chyba II. druhu 1-β síla testu β
Skutečnost Testování hypotéz H0 H1 β α Výsledek testu Zkoumaný soubor s naměřenými daty H0 testovaná hypotéza (to co ověřujeme) H1 alternativní hypotéza (to co chceme odlišit) H1 α chyba I. druhu β chyba II. druhu 1-β síla testu H0 β α

18 Komentář k obrázku růžová plocha pod modrou křivkou představuje kritické 1% hodnot, tj. 1%-ní pravděpodobnost chyby I. druhu - tuto pravděpodobnost (hladinu významnosti α) volíme modrá plocha pod červenou křivkou představuje chybu II. druhu a je to pravděpodobnost, že sice platí alternativní hypotéza H1 , ale my nejsme schopni prokázat významnou odchylku od testované hodnoty a nemůžeme zamítnout H0. - zmenšit tuto pravděpodobnost, tj. chybu II. druhu aniž bychom zvětšili chybu I. druhu, můžeme jen zvětšením rozsahu výběru (viz následující obrázek) zvětšíme tím sílu testu, jinými slovy – budeme schopní prokázat i menší odchylky od nulové hypotézy (viz příklad pro 10 a 20 měřených hodnot) (na následujícím obrázku představuje posunutí šedé čáry z místa původní do nové hladiny významnosti α – chyby 1. druhu).

19 β α Skutečnost H0 testovaná hypotéza (to co ověřujeme)
H1 alternativní hypotéza (to co chceme odlišit) H0 H1 β α Výsledek testu β α

20 Výška mužů basketbalistů Dvouvýběrový t-test s nerovností rozptylů 182 184 výška basketbal. 175 191 Stř. hodnota 178,4 183,6 176 187 Rozptyl 15,8 37,2 178 Počet pozorování 10 181 Hyp. rozdíl stř. hodnot 173 194 t Stat – abs. hodnota 2,26 183 P(T<=t) (1) 0,020 186 t krit (1) – jednostranný t. 2,60 179 P(T<=t) (2) 0,039 174 t krit (2) – oboustranný t. 2,96 180 178,7 183,1 177 12,2 32,5 20 190 2,98 0,003 t krit (1) 2,45 0,006 185 t krit (2) 2,74

21 Vyhodnocení výsledků t-testu z Excelové tabulky
Jednostranný t-test porovnání statistiky a kritické hodnoty absolutní hodnotu vypočtené statistiky t Stat = 2,26 porovnáme s kritickou hodnotou pro α = 0,01 pro 10 měření t Stat=2,26 < t krit(1)=2,60 proto H0 nemůžeme zamítnout pro 20 měření t Stat=2,98 > t krit(1)=2,45 proto H0 zamítáme nebo ke stejnému závěru dojdeme porovnáním pravděpodobnosti a hladiny významnosti α vypočtenou hodnotu pravděpodobnosti P(T<=t) porovnáváme se zvolenou hladinou významnosti - pro 10 měření je P=0,020 > α=0,01 proto H0 nemůžeme zamítnout - pro 20 měření je P=0,003 < α=0,01 proto H0 zamítáme

22 Závislost výsledku testu na počtu měření
Při prvním testu jsme vyhodnotili výsledek z 10 měření a na zvolené hladině významnosti α = 0,01 nemohli zamítnout nulovou hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku let se statisticky významně neodlišuje od průměrné výšky běžné mužské populace. H0 nemůžeme zamítnout ani u jednostranného testu, kdy nás zajímá pouze vyšší výška basketbalistů, ani u oboustranného testu, kdy hodnotíme odchylky na obě strany Při druhém testu jsme vyhodnotili výsledek z 20 měření a na zvolené hladině významnosti α = 0,01 zamítáme nulovou hypotézu a přijímáme alternativní hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku let je statisticky významně vyšší než je průměrná výška běžné mužské populace.

23 Síla testu a interval spolehlivosti - viz příklad
Pokud budeme mít více měření, budou hustoty pravděpodobnosti nulové hypotézy H0 i alternativní hypotézy H1 užší - rozptyl se zmenšil z 15,8 na 12,2 pro běžnou mužskou populaci a z 37,2 na 32,5 pro basketbalisty. Střední hodnoty zůstávají přibližně stejné. Mezní hodnota pro chybu I. druhu (šedá čára) se posune pro jednostranný test z 2,60 na 2,45 a pro oboustranný test z 2,95 na 2,74. Velikost chyby II. druhu β (plocha pod červenou křivkou) klesne - test se stane silnějším. Čím je rozsah výběrového souboru větší, tím je náš odhad testovaného parametru přesnější a tím je interval spolehlivosti užší. Čím užší je interval spolehlivosti, tím větší je síla testu.

24 Postup konstrukce a provedení testu
Formulujeme hypotézu H0, kterou chceme ověřit a k ní alternativní hypotézu HA, Zvolíme hladinu významnosti podle důsledků, které by mohla mít chyba I. druhu (obvykle 5%, přísnější test 1%) Zvolíme rozsah výběru Provedeme experiment a na základě hypotézy zvolíme testovou statistiku T (znamená to, že data převedeme transformací do vhodné statistické „normy“, např. výběrového rozdělení, abychom mohli test vyhodnotit) Porovnáme testovou statistiku T s kritickou hodnotou TK příslušného výběrového rozdělení pro zvolenou hladinu významnosti. (TK najdeme v tabulkách nebo pomocí statistického programu, např. ve funkcích Excelu).

25 Postup konstrukce a provedení testu - pokračování
Na základě porovnání rozhodneme o zamítnutí nebo přijetí nulové hypotézy. Přijetí H0 znamená, že odchylky naměřených hodnot od předpokládaného výběrového rozdělení lze vysvětlit pouhou náhodou (T < TK). Zamítnutí H0 znamená, že odchylky jsou větší, než umí statistika vysvětlit pouhou náhodou - jsou statisticky významné (T ≥ TK). Se zvoleným rizikem (hladina významnosti α) zamítáme H0 a přijímáme H1

26 Testování hypotéz H0 HA α=0,05 H0 přijímáme H0 zamítáme TK pro α=0,05
T < TK T > TK H0 přijímáme H0 zamítáme TK pro α=0,05

27 Významnost statistického testu - shrnutí
Test není statisticky významný – hypotézu nezamítáme Pozorované odchylky od hypotézy je možno vysvětlit pouhou náhodou Důvodem může být i to, že rozdíl je tak malý, že na jeho prokázání nestačí použitý rozsah souboru. Test je statisticky významný – hypotézu zamítáme Pozorované odchylky od hypotézy není možno vysvětlit pouhou náhodou Odchylka od hypotézy je tak velká, že při opakování šetření bychom s velkou pravděpodobností hypotézu opět zamítli. P - hodnota Pravděpodobnost chyby vypočtená z našich pozorovaných dat, se kterou bychom zamítli hypotézu H0. Při praktickém provedení testu slouží k porovnání s hladinou významnosti: platí, že H0 zamítáme, pokud p-hodnota ≤ α

28 VÝBĚROVÁ ROZDĚLENÍ jsou rozložení používaná ke konstrukci statistických testů Mějme normální rozložení s parametry a Protože Normální rozložení je tabelováno pouze pro hodnoty a , normováním transformujeme pozorované hodnoty na tzv. z-skóry a tyto transformované hodnoty pak mají normované normální rozdělení. V praxi neznáme skutečné hodnoty a a musíme je nahradit jejich odhady. Tím se změní rozložení takto transformované veličiny.

29 VÝBĚROVÁ ROZDĚLENÍ Proto byla pro tyto případy odvozena jiná rozdělení, která popisují rozdělení výběrových charakteristik (odhadů populačních parametrů). Pro provádění statistických testů nám slouží tato VÝBĚROVÁ ROZLOŽENÍ jako vzor, se kterým srovnáváme vypočtené výsledky.

30 ROZDĚLENÍ Je rozdělení součtu n druhých mocnin
normálně rozdělených veličin U: U (0,1) Tvar rozložení je závislý na počtu sčítanců n, ale toto číslo musíme v případě, že pro výpočet použijeme odhad jednoho nebo více parametrů, zmenšit o příslušný počet odhadovaných parametrů. Příklad: když pro výpočet výběrového ROZPTYLU použijeme odhad průměru, je počet stupňů volnosti (n – 1) místo n (odhadovali jsme jeden parametr).

31 ROZDĚLENÍ Ve složitějších případech bývá počet odhadovaných parametrů větší a tím pádem počet stupňů volnosti menší. Střední hodnota rozdělení je E(X) = n Rozptyl rozdělení je VAR(X) = 2n Podrobněji se rozdělením zabývá téma „Neparametrické testy hypotéz“ (test dobré shody).

32 STUDENTOVO t - ROZDĚLENÍ
Příklad: Studentovo t-rozdělení popisuje standardní normální rozdělení v případě, že neznáme směrodatnou odchylku a použijeme pouze její odhad. veličina U v čitateli má standardizované normální rozložení veličina ve jmenovateli má rozdělení o n-stupních volnosti Nejčastěji se používá k porovnání průměrů. Pro n > 40 můžeme Studentovo t-rozdělení nahradit Normálním rozdělením.

33 FISHEROVO F-ROZLOŽENÍ
Toto rozložení popisuje rozložení dvou různých veličin s rozdělením o n a m stupních volnosti. Používá se především pro testování rozdílnosti rozptylů