Náhodné veličiny, náhodné chyby Máme náhodnou veličinu X, jejíž vlastnosti zkoumáme. Pokud známe její rozložení nebo alespoň předpokládáme znalost rozložení, můžeme ji popsat určitými parametry - charakteristikami populace. Pokud tyto parametry neznáme, můžeme získat jejich odhad na základě výpočtu nebo zjištění z výběrového souboru. Každý odhad je zatížen jistou neurčitostí - náhodnou chybou. Je zřejmé, že při každém novém výběru bude chyba jiná, protože budou vybrány jiné prvky z populace.
Náhodné chyby a systematické chyby Při měření nebo stanovení charakteristik výběru jsou obvykle hodnoty zkresleny nejen náhodnými chybami, ale i dalšími chybami způsobenými nehomogenitou souboru, jednostrannými chybami měření apod. Tyto nežádoucí jevy nazýváme systematické chyby. Matematická statistika se snaží eliminovat systematické chyby, ale naopak počítá s náhodnými chybami - nejedná se vlastně o chyby, takže budeme spíše hovořit o náhodné složce, která může být ovlivněna: biologickou variabilitou nepřesností určení nebo měření veličiny nepřesností modelu
Náhodné chyby a rozsah souboru Náhodu nechceme při statistickém šetření eliminovat, ale matematická statistika se ji snaží nějakým způsobem formalizovat, tj. vyjádřit pomocí matematického zápisu tak, abychom s ní mohli počítat. Pokud konstruujeme odhady charakteristik populace, můžeme náhodnou chybu zmenšit zvětšením výběru. Znamená to, že kvalita odhadu je dána variabilitou náhodné veličiny rozsahem výběru
Parametry populace a náhodný výběr Protože výběr z populace je náhodný, je i hodnota parametru vypočtená na základě výběru náhodná veličina. Můžeme tedy považovat i parametry populace (například výběrový průměr nebo výběrový rozptyl) za náhodnou veličinu s určitým rozložením. Mluvíme-li ve statistice o testování veličin, považujeme za testovaný objekt populaci reprezentovanou výběrovým souborem (resp., více výběrovými soubory). TESTOVÁNÍ VELIČINY je zkoumání nějaké vlastnosti u této populace.
Úvod do statistického testování hypotéz HYPOTÉZA je domněnka (tvrzení) o statistickém souboru TESTOVÁNÍ HYPOTÉZ je způsob ověřování domněnek o typu rozdělení statistického souboru o parametrech rozdělení - charakteristikách souboru (μ, σ2, σ, λ) o shodě dvou a více rozdělení o shodě parametrů rozdělení vždy proti sobě stojí dvě doměnky (tvrzení): nulová hypotéza (domněnka, kterou testujeme) alternativní hypotéza (domněnka, kterou přijímáme pokud zamítneme nulovou hypotézu)
Nulová a alternativní hypotéza Nulová hypotéza je obvykle tvrzení, které po matematické stránce vyjadřuje „rovnost“, ekvivalenci, nulový rozdíl, nezávislost. Značíme H0 Jejím zamítnutím potvrzujeme platnost alternativní hypotézy, obvykle tvrzení, které chceme prokázat. Zamítnutí H0 má většinou vážnější důsledky. Alternativní hypotéza je obvykle tvrzení, které se zdá na první pohled evidentní a chceme ho prokázat. Říká, že existuje rozdíl mezi výběrovými soubory, např. závislost na zkoumaných faktorech. Značíme HA nebo H1 Její zamítnutí nemá většinou tak vážné důsledky. Přestože se jedná „jen o dohodu“, která hypotéza je nulová a která alternativní, budeme ji respektovat.
Nulová a alternativní hypotéza - příklady: Tvrzení, které chceme obvykle prokázat mohou znít např.: „Lék A má větší léčebný efekt než lék B.“ „Chlapci dosahují kratších časů v plavání než dívky.„ "Výsledky dotazníkového šetření závisí na věku respondentů.„ Opačná tvrzení - nulové hypotézy k alternativním, zní: „Léky A a B mají stejný léčebný efekt." „Chlapci dosahují stejných časů v plavání jako dívky." "Výsledky dotazníkového šetření nezávisí na věku respondentů.„ Pokud chceme dokázat HA, potřebujeme zamítnout H0
Nulová a alternativní hypotéza Věcné hypotézy představují nulovou a alternativní hypotézu podle popsaných konvencí. Vždy se jedná o dvě tvrzení, která stojí proti sobě (druhé neguje první). Za nulovou hypotézu budeme považovat domněnku (tvrzení), že mezi testovanými soubory neexistuje vztah (souvislost), že pozorované rozdíly jsou způsobeny jen náhodnými vlivy. Mohli bychom testovat i jiné předpoklady, ale tento způsob přijetí nebo zamítnutí NULOVÉ HYPOTÉZY jakožto nositele „nulové změny, nulové závislosti“, je vžitý a srozumitelný.
Rozhodování ve statistických testech Základem statistických testů je snaha o rozhodnutí, zda rozdíl testovaných hodnot můžeme vysvětlit pomocí náhody, nebo jej musíme považovat za systematický. Rozhodování ve statistických testech má vždy charakter pravděpodobnostní – nikdy si nejsme svým rozhodnutím zcela jisti. Zcela jednoznačně nemůže statistický test nikdy tvrdit, že dvě hodnoty jsou stejné, lze pouze říct, že rozdíl nelze prokázat.
Očekávané (hypotetické) rozdělení hodnot Pokud zkoumáme dva nebo víc výběrových souborů, porovnáváme (testujeme) obvykle jejich charakteristiky, které vypočteme z naměřených (pozorovaných) hodnot. Často porovnáváme pouze jeden výběrový soubor s očekávaným rozdělením četností a testujeme, zda se rozdělení hodnot výběrového souboru řídí tímto očekávaným (hypotetickým) rozdělením hodnot. Nulovou hypotézou bychom nazvali tvrzení, že: - charakteristiky výběrových souborů se neliší - výběrový soubor se řídí očekávaným rozdělením hodnot.
Testování hypotéz TESTEM HYPOTÉZY nazýváme postup, jímž na základě výsledků zjištěných z náhodného výběru ověřujeme, zda statistickou hypotézu lze pokládat za správnou či nikoli. Rozložení hodnot nulové hypotézy se řídí očekávaným, hypotetickým rozdělením hodnot To znamená, že od námi předpokládaného teoretického rozdělení se zkoumané hodnoty odlišují jen díky náhodným vlivům - náhodě, kterou umíme statisticky zdůvodnit. Platí-li H0 Pozorované hodnoty jsou velmi blízké očekávaným (hypotetickým) hodnotám Platí-li HA Pozorované hodnoty se příliš liší od očekávaných - neumíme vysvětlit pouhou náhodou
Příklad pro schematické vysvětlení statistických testů Budeme-li házet hrací kostkou, budeme očekávat čísla od 1 do 6. Pokud se nám mezi hrací kostky připlete jiná kostka, která bude mít čísla 6, 7, 8, 9, 10, 11 a padne na ní 6, nepoznáme, že patří do jiného souboru. Když ale na ní padne jiné číslo, uvidíme na první pohled, že tato hodnota nepatří mezi očekávané. Statistické testy vyhodnotí statisticky výsledek našeho pokusu podobně: když se bude výsledek blížit očekávané hodnotě, nemůže zamítnout nulovou hypotézu. Když se bude výrazně odlišovat, statistický test prohlásí nulovou hypotézu za neplatnou. Pokud by nesprávné přijetí nulové hypotézy v příkladu s házením hrací kostkou mělo vážné důsledky, pro jistotu bychom ji museli zamítnout ve všech případech, kdy padla šestka (neumíme rozlišit, zda padla na kostce 1 – 6 nebo na kostce 6 – 11).
Chyba I. a II. druhu při testování hypotéz Při testování mohou nastat čtyři situace: H0 zamítneme, ačkoliv platí H0 přijmeme, ačkoliv neplatí H0 přijmeme a platí H0 zamítneme a neplatí Výsledek testu Skutečnost H0 platí H0 neplatí H0 zamítnuta Chyba I. druhu α IV. H0 přijata III. Chyba II. druhu β
Hladina významnosti Snahou je volit test tak, aby pravděpodobnost chyby I. i II. druhu byla minimální. Bohužel jak si dále ukážeme, snížíme-li riziko chyby I. druhu, zvětší se riziko chyby II. druhu a naopak. Rozhodujeme se na základě zvážení důsledků obou chyb - tam, kde je důsledek chyby menší, můžeme zvolit riziko větší. Příklad: Lékař vyšetřuje pacienta, který si myslí, že trpí určitou chorobou. Na základě vyšetření se rozhoduje, zda mu předepíše léky (přijímá hypotézu, že pacient je nemocný) nebo ne (přijímá hypotézu, že pacient je simulant). Musí zvážit rizika, která s sebou nese rozhodnutí, že nemocnou osobu považuje za zdravou.
Hladina významnosti Obvykle mívá důsledek chyby I. druhu - zamítnutí nulové hypotézy, ačkoliv platí, horší následky. Proto se snažíme chybu I. druhu minimalizovat a její pravděpodobnost volíme velmi malou 0,05 (5%) nebo dokonce jen 0,01 (1%). Tato pravděpodobnost se nazývá hladina významnosti a značí se α. Je to riziko zamítnutí ověřované hypotézy. Opačnou chybu – přijetí ověřované hypotézy, přestože neplatí, označujeme jako chybu II. druhu Tuto pravděpodobnost chyby II. druhu značíme β. Doplněk k β, tj. (1-β) - přijetí alternativní hypotézy, když platí, se nazývá síla testu.
Příklad statistického testu Sledujeme výšku postavy skupiny basketbalistů ve věku 16-18 let. Chceme vědět, zda se jejich průměrná výška statisticky významně odlišuje od průměrné výšky běžné populace. Pro testování musíme: přijmout určité předpoklady - rozložení výšky se řídí normálním rozdělením stanovit nejmenší odchylku od hypotézy H0 , kterou bychom měli být schopní prokázat - hypotézu H1 stanovit hladinu významnosti (přijatelnou chybu statistického testu) nulová hypotéza H0: průměrná výška sledované skupiny basketbalistů ve věku 16-18 let se neodlišuje statisticky významně od průměrné výšky běžné mužské populace Na následujícím obrázku je graficky znázorněno rozložení sledovaného souboru basketbalistů, frekvenční funkce hypotézy H0, H1, hladina významnosti α, chyba II. druhu β a síla testu
Testování hypotéz α chyba I. druhu β chyba II. druhu 1-β síla testu β Skutečnost Testování hypotéz H0 H1 β α Výsledek testu Zkoumaný soubor s naměřenými daty H0 testovaná hypotéza (to co ověřujeme) H1 alternativní hypotéza (to co chceme odlišit) H1 α chyba I. druhu β chyba II. druhu 1-β síla testu H0 β α
Komentář k obrázku růžová plocha pod modrou křivkou představuje kritických 5% hodnot, tj. 5%-ní pravděpodobnost chyby I. druhu - tuto pravděpodobnost (hladinu významnosti α) volíme modrá plocha pod červenou křivkou představuje chybu II. druhu a je to pravděpodobnost, že sice platí alternativní hypotéza H1 , ale my nejsme schopni prokázat významnou odchylku od testované hodnoty a nemůžeme zamítnout H0. - zmenšit tuto pravděpodobnost, tj. chybu II. druhu aniž bychom zvětšili chybu I. druhu, můžeme jen zvětšením rozsahu výběru (viz následující obrázek) zvětšíme tím sílu testu, jinými slovy – budeme schopní prokázat i menší odchylky od nulové hypotézy (viz příklad pro 10 a 20 měřených hodnot) (na následujícím obrázku představuje posunutí šedé čáry z místa původní do nové hladiny významnosti α – chyby 1. druhu).
β α Skutečnost H0 testovaná hypotéza (to co ověřujeme) H1 alternativní hypotéza (to co chceme odlišit) H0 H1 β α Výsledek testu β α
Výška mužů basketbalistů Dvouvýběrový t-test s nerovností rozptylů 182 184 výška basketbal. 175 191 Stř. hodnota 178,4 183,6 176 187 Rozptyl 15,8 37,2 178 Počet pozorování 10 181 Hyp. rozdíl stř. hodnot 173 194 t Stat – abs. hodnota 2,26 183 P(T<=t) (1) 0,020 186 t krit (1) – jednostranný t. 2,60 179 P(T<=t) (2) 0,039 174 t krit (2) – oboustranný t. 2,96 180 178,7 183,1 177 12,2 32,5 20 190 2,98 0,003 t krit (1) 2,45 0,006 185 t krit (2) 2,74
Výška mužů basketbalistů Dvouvýběrový t-test s rovností rozptylů 182 184 výška basketbal. 175 187 Stř. hodnota 178,9 181,7 176 181 Rozptyl 13,878 12,678 178 Počet pozorování 10 179 Hyp. rozdíl stř. hodnot 173 180 t Stat – abs. hodnota -1,728 183 P(T<=t) (1) 0,051 186 t krit (1) – jednostranný t. 1,734 P(T<=t) (2) 0,103 177 t krit (2) – oboustranný t. 2,101 174 179,15 181,65 12,029 11,608 20 -2,300 0,014 t krit (1) 1,686 0,027 185 t krit (2) 2,024
Vyhodnocení výsledků t-testu z Excelové tabulky Jednostranný t-test porovnání statistiky a kritické hodnoty absolutní hodnotu vypočtené statistiky t Stat = 2,26 porovnáme s kritickou hodnotou pro α = 0,01 pro 10 měření t Stat=2,26 < t krit(1)=2,60 proto H0 nemůžeme zamítnout pro 20 měření t Stat=2,98 > t krit(1)=2,45 proto H0 zamítáme nebo ke stejnému závěru dojdeme porovnáním pravděpodobnosti a hladiny významnosti α vypočtenou hodnotu pravděpodobnosti P(T<=t) porovnáváme se zvolenou hladinou významnosti - pro 10 měření je P=0,020 > α=0,01 proto H0 nemůžeme zamítnout - pro 20 měření je P=0,003 < α=0,01 proto H0 zamítáme
Vyhodnocení výsledků t-testu z Excelové tabulky Jednostranný t-test porovnání statistiky a kritické hodnoty absolutní hodnotu vypočtené statistiky t Stat = 1,718 porovnáme s kritickou hodnotou pro α = 0,05 pro 10 měření t Stat=1,718 < t krit(1)=1,734 proto H0 nemůžeme zamítnout pro 20 měření t Stat=2,30 > t krit(1)=1,686 proto H0 zamítáme nebo ke stejnému závěru dojdeme porovnáním pravděpodobnosti a hladiny významnosti α vypočtenou hodnotu pravděpodobnosti P(T<=t) porovnáváme se zvolenou hladinou významnosti - pro 10 měření je P=0,051 > α=0,05 proto H0 nemůžeme zamítnout - pro 20 měření je P=0,014 < α=0,05 proto H0 zamítáme
Závislost výsledku testu na počtu měření Při prvním testu jsme vyhodnotili výsledek z 10 měření a na zvolené hladině významnosti α = 0,05 nemohli zamítnout nulovou hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku 16-18 let se statisticky významně neodlišuje od průměrné výšky běžné mužské populace. H0 nemůžeme zamítnout ani u jednostranného testu, kdy nás zajímá pouze vyšší výška basketbalistů, ani u oboustranného testu, kdy hodnotíme odchylky na obě strany Při druhém testu jsme vyhodnotili výsledek z 20 měření a na zvolené hladině významnosti α = 0,05 zamítáme nulovou hypotézu a přijímáme alternativní hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku 16-18 let je statisticky významně vyšší než je průměrná výška běžné mužské populace. Když se podíváme na střední hodnoty obou výběrů, vidíme, že rozsah výběru (počet měření) hraje významnou roli, protože průměrná výška basketbalistů se zmenšila a naopak průměrná výška mužů vzrostla.
Síla testu a interval spolehlivosti - viz příklad Pokud budeme mít více měření, budou hustoty pravděpodobnosti nulové hypotézy H0 i alternativní hypotézy H1 užší - rozptyl se zmenšil z 13,88 na 12,03 pro běžnou mužskou populaci a z 12,68 na 11,61 pro basketbalisty. Střední hodnota se paradoxně zmenšila u basketbalistů a zvětšila u běžné mužské populace. Mezní hodnota pro chybu I. druhu (šedá čára) se posune pro jednostranný test z 1,73 na 1,69 a pro oboustranný test z 2,1 na 2,02. Velikost chyby II. druhu β (plocha pod červenou křivkou) klesne - test se stane silnějším. Čím je rozsah výběrového souboru větší, tím je náš odhad testovaného parametru přesnější a tím je interval spolehlivosti užší. Čím užší je interval spolehlivosti, tím větší je síla testu.
Postup konstrukce a provedení testu Formulujeme hypotézu H0, kterou chceme ověřit a k ní alternativní hypotézu HA, Zvolíme hladinu významnosti podle důsledků, které by mohla mít chyba I. druhu (obvykle 5%, přísnější test 1%) Zvolíme rozsah výběru (obvykle máme rozsah výběru daný našimi možnostmi) Provedeme experiment a na základě hypotézy zvolíme testovou statistiku T (znamená to, že data převedeme transformací do vhodné statistické „normy“, např. výběrového rozdělení, abychom mohli test vyhodnotit) Porovnáme testovou statistiku T s kritickou hodnotou TK příslušného výběrového rozdělení pro zvolenou hladinu významnosti. (TK najdeme v tabulkách nebo pomocí statistického programu, např. ve funkcích Excelu).
Postup konstrukce a provedení testu - pokračování Na základě porovnání rozhodneme o zamítnutí nebo přijetí nulové hypotézy. Přijetí H0 znamená, že odchylky naměřených hodnot od předpokládaného výběrového rozdělení lze vysvětlit pouhou náhodou (T < TK). Zamítnutí H0 znamená, že odchylky jsou větší, než umí statistika vysvětlit pouhou náhodou - jsou statisticky významné (T ≥ TK). Se zvoleným rizikem (hladina významnosti α) zamítáme H0 a přijímáme H1
Testování hypotéz H0 HA α=0,05 H0 přijímáme H0 zamítáme TK pro α=0,05 T < TK T > TK H0 přijímáme H0 zamítáme TK pro α=0,05
Významnost statistického testu - shrnutí Test není statisticky významný – hypotézu nezamítáme Pozorované odchylky od hypotézy je možno vysvětlit pouhou náhodou Důvodem může být i to, že rozdíl je tak malý, že na jeho prokázání nestačí použitý rozsah souboru. Test je statisticky významný – hypotézu zamítáme Pozorované odchylky od hypotézy není možno vysvětlit pouhou náhodou Odchylka od hypotézy je tak velká, že při opakování šetření bychom s velkou pravděpodobností hypotézu opět zamítli. P - hodnota Pravděpodobnost chyby vypočtená z našich pozorovaných dat, se kterou bychom zamítli hypotézu H0. Při praktickém provedení testu slouží k porovnání s hladinou významnosti: platí, že H0 zamítáme, pokud p-hodnota ≤ α
VÝBĚROVÁ ROZDĚLENÍ jsou rozložení používaná ke konstrukci statistických testů Mějme normální rozložení s parametry a Protože Normální rozložení je tabelováno pouze pro hodnoty a , normováním transformujeme pozorované hodnoty na tzv. z-skóry a tyto transformované hodnoty pak mají normované normální rozdělení. V praxi neznáme skutečné hodnoty a a musíme je nahradit jejich odhady. Tím se změní rozložení takto transformované veličiny.
VÝBĚROVÁ ROZDĚLENÍ Proto byla pro tyto případy odvozena jiná rozdělení, která popisují rozdělení výběrových charakteristik (odhadů populačních parametrů). Pro provádění statistických testů nám slouží tato VÝBĚROVÁ ROZLOŽENÍ jako vzor, se kterým srovnáváme vypočtené výsledky.
ROZDĚLENÍ Je rozdělení součtu n druhých mocnin normálně rozdělených veličin U: U (0,1) Tvar rozložení je závislý na počtu sčítanců n, ale toto číslo musíme v případě, že pro výpočet použijeme odhad jednoho nebo více parametrů, zmenšit o příslušný počet odhadovaných parametrů. Příklad: když pro výpočet výběrového ROZPTYLU použijeme odhad průměru, je počet stupňů volnosti (n – 1) místo n - (odhadovali jsme jeden parametr).
ROZDĚLENÍ Ve složitějších případech bývá počet odhadovaných parametrů větší a tím pádem počet stupňů volnosti menší. Střední hodnota rozdělení je E(X) = n Rozptyl rozdělení je VAR(X) = 2n Podrobněji se rozdělením zabývá téma „Neparametrické testy hypotéz“ (test dobré shody).
STUDENTOVO t - ROZDĚLENÍ Příklad: Studentovo t-rozdělení popisuje standardní normální rozdělení v případě, že neznáme směrodatnou odchylku a použijeme pouze její odhad. veličina U v čitateli má standardizované normální rozložení veličina ve jmenovateli má rozdělení o n-stupních volnosti Nejčastěji se používá k porovnání průměrů. Pro n > 40 můžeme Studentovo t-rozdělení nahradit Normálním rozdělením.
FISHEROVO F-ROZLOŽENÍ Toto rozložení popisuje rozložení dvou různých veličin s rozdělením o n a m stupních volnosti. Používá se především pro testování rozdílnosti rozptylů