Úvod do testování hypotéz

Prezentace na téma: "Úvod do testování hypotéz"— Transkript prezentace:

1 Úvod do testování hypotéz
Martina Litschmannová, Adéla Vrtková

2 Obsah lekce Opakování Základní pojmy spojené se statistickou indukcí
Výběrové charakteristiky a populační parametry Intervalové odhady Úvod do testování hypotéz Co je to statistická hypotéza Základní typy statistických hypotéz Co je to testování hypotéz? (zavedení pojmu nulová a alternativní hypotéza pro parametrické hypotézy, definování pojmu efekt, chyby při testování hypotéz) Jak rozhodnout o pravdivosti statistické hypotézy? klasický test Čistý test významnosti

3 Jaké pojmy je nutno znát?
Statistická indukce úplné šetření výběrové šetření Exploratorní (popisná) statistika Exploratorní (popisná) statistika = ZÁKLADNÍ SOUBOR REPREZENTATIVNÍ výběr statistická jednotka statistické znaky – údaje, které u statistických znaků sledujeme (např. váha, výška, IQ, …)

4 Rozdíl mezi výběrovými charakteristikami a populačními parametry
Parametry populace (obvykle pro jejich značení používáme symboly řecké abecedy) jsou konstanty. Charakteristiky výběru (obvykle značíme latinkou) jsou obvykle různé – v závislosti na pořízeném výběru. Jsou to náhodné veličiny. Základní soubor (populace) stř. hodnota 𝐸 𝑋 , resp. 𝜇 medián 𝑥0,5 rozptyl 𝐷 𝑋 , resp. 𝜎 2 směr. odchylka 𝜎 pravděpodobnost (parametr binom. rozdělení) 𝜋 Výběrový soubor (výběr) (výběrový) průměr 𝑋 výběrový medián 𝑋 0,5 výběrový S 2 výběrová směr. odchylka 𝑆 rel. četnost 𝑝

5 Proč používáme metody statistické indukce?
Lze určit střední hodnotu životnosti el. součástek? Lze určit účinnost léku? Lze určit, který výrobce vyrábí kvalitněji? Neznáme-li rozdělení náhodné veličiny 𝑋, pak parametry náhodné veličiny X nelze většinou přesně určit, lze je jen odhadnout.

6 Proč používáme metody statistické indukce?
Lze určit střední hodnotu životnosti el. součástek? Lze určit účinnost léku? Lze určit, který výrobce vyrábí kvalitněji? Neznáme-li rozdělení náhodné veličiny 𝑋, pak parametry náhodné veličiny X nelze většinou přesně určit, lze je jen odhadnout nebo lze ověřovat tvrzení, která se týkají jejich rozdělení.

7 Základní metody statistické indukce
Intervalové odhady (angl. confidence intervals) – umožňují odhadnout nejistotu v odhadu parametru náhodné veličiny Testování hypotéz (angl. hypothesis testing) - umožňuje posoudit, zda experimentálně získaná data nepopírají předpoklad, který jsme před provedením testování učinili. Používáme, chceme-li ověřit platnost předem definované hypotézy (s předem danou hladinou významností). Používáme, chceme-li určit velikost parametru NV, resp. velikost efektu (rozdílu, resp. poměru parametrů dvou NV). zdroj:

8 Co je to statistická hypotéza?
Statistická hypotéza – předpoklad (tvrzení) o rozdělení náhodné veličiny Co je zdrojem statistických hypotéz? předchozí zkušenosti, teorie, kterou je třeba doložit, požadavky na kvalitu produktu, dohady založené na náhodném pozorování…

9 Co je to statistická hypotéza?
Statistická hypotéza – předpoklad (tvrzení) o rozdělení náhodné veličiny Příklady statistických hypotéz: Střední životnost žárovek Ed je nižší než výrobcem udávaných 5 let. Mortalita je u laparoskopických operací nižší než u operací konvenčních. Průměrné výsledky srovnávacích testů závisí na typu absolvované střední školy. Pořízený datový soubor je výběrem z populace mající normální rozdělení. Poznámka: Rozdíl (resp. poměr) parametru náhodné veličiny a jeho očekávané hodnoty, popřípadě rozdíl (resp. poměr) parametrů náhodných veličin nazýváme efekt.

10 Jaké typy statistických hypotéz rozlišujeme?
Parametrická statistická hypotéza – tvrzení ohledně efektu Hypotézy o parametru jedné populace (o střední hodnotě, rozptylu, mediánu, parametru binomického rozdělení, …) Hypotézy o parametrech dvou populací (srovnávací testy) Hypotézy o parametrech více než dvou populací (ANOVA, Kruskalův-Wallisův test, …) Neparametrická statistická hypotéza – tvrzení o jiné vlastnosti rozdělení náhodné veličiny než o jejím parametru (např. hypotézy o typu rozdělení NV, hypotézy o závislosti NV, …)

11 Jak ověřit, zda je statistická hypotéza pravdivá?
Příklad: Domníváme se, že střední hodnota obsahu cholesterolu v krvi je u české populace 4,7 mmol/l. 𝐻 0 : 𝜇=4,7 𝐻 𝐴 : 𝜇≠4,7 Jak tento předpoklad ověřit? Zjistíme údaje o obsahu cholesterolu v krvi u 100 náhodně vybraných Čechů. Průměrný obsah cholesterolu v krvi probandů (tj. jedinců, kteří jsou předmětem zkoumání) byl 5,4 mmol/l. Jsou tyto výsledky v souladu s naší hypotézou? I kdyby byla testovaná hypotéza pravdivá, nelze očekávat, že průměrná hodnota pozorovaná ve výběru bude přesně 4,7 mmol/l. Nulovou hypotézu zamítneme, pokud získané uspořádání výběru bude za předpokladu platnosti nulové hypotézy velmi nepravděpodobné.

12 Jak ověřit, zda je statistická hypotéza pravdivá?
Pravdivost nulové hypotézy nelze na základě dat dokázat!!! Pravdivost nulové hypotézy lze na základě dat pouze vyvrátit. Nulová hypotéza (obžalovaný je nevinen) Alternativní hypotéza (obžalovaný je vinen) Data (výběrový soubor) (svědci) Testové kritérium (soudce) Princip presumpce neviny Neodsoudí-li soudce obžalovaného, nemusí to znamenat, že je obžalovaný nevinný. Může to znamenat, že neexistuje dostatek důkazů pro jeho odsouzení!

13 Terminologie v praxi (I)
Zadání problému: Ověřte, zda použití bezpečnostních pásů ovlivňuje úmrtnost při dopravních nehodách Populace 1 (základní soubor 1): účastníci dopravních nehod, kteří seděli na místech, na nichž je možno používat bezpečnostní pásy a byli připoutáni. Populace 2 (základní soubor 2): účastníci dopravních nehod, kteří seděli na místech, na nichž je možno používat bezpečnostní pásy a nebyli připoutáni. Sledovaný statistický znak (náhodná veličina): úmrtnost (relativní četnost zemřelých) Nulová hypotéza 𝑯𝟎: 𝜋 𝐴 = 𝜋 𝑁 , kde 𝜋 𝐴 , resp. 𝜋 𝑁 označuje úmrtnost účastníků dopravních nehod, kteří byli, resp. nebyli, připoutáni Alternativní hypotéza 𝑯𝑨: 𝜋 𝐴 ≠ 𝜋 𝑁 (zadání problému neobsahuje jednostrannou nerovnost.

14 Terminologie v praxi (II)
Zadání problému: Ověřte, zda průměrný plat v ČR je větší než ,- Kč Populace (základní soubor): všichni občané ČR pobírající mzdu Sledovaný statistický znak (náhodná veličina): mzda Nulová hypotéza 𝑯𝟎: 𝜇= Alternativní hypotéza 𝑯𝑨: 𝜇> (zadání obsahuje nerovnost v tomto tvaru) Poznámka: Průměrný plat zjištěný z výběrového souboru by měl být větší než ,- Kč. Pokud by tomu tak nebylo, měli bychom použít oboustrannou alternativní hypotézu.

15 Možné chyby při testování hypotéz
Při testování hypotéz mohou nastat čtyři situace: Jelikož výběr, na jehož základě rozhodujeme, je náhodný, chybám I. a II. druhu se nelze vyhnout. Chtěli bychom mít k dispozici testy s nízkou hladinou významnosti a vysokou sílou testu. (zvolená) hladina významnosti Rozhodnutí Nezamítáme H0 Zamítáme H0 Skutečnost Platí H0 Správné rozhodnutí Pravděpodobnost: 1 - α Chyba I. druhu Pravděpodobnost: α Platí HA Chyba II. druhu Pravděpodobnost: β Pravděpodobnost: 1 - β síla testu

16 Možné chyby při testování hypotéz
Závěry: Chtěli bychom mít k dispozici testy s nízkou hladinou významnosti a vysokou sílou testu - to jsou, bohužel, dva protichůdné požadavky. S klesající hladinou významnosti roste pravděpodobnost chyby II. druhu! Existuje jediný způsob jak snížit 𝛼 i 𝛽 – zvýšení rozsahu výběru. Hladinu významnosti 𝛼 volíme obvykle 0,05 (resp. 0,01). Sílu testu lze poté ovlivnit volbou testové statistiky (pro ověření určité hypotézy lze často použít několik různých testových statistik) a dostatečného počtu pozorování.

17 Jak postupovat při testování parametrických hypotéz? (klasický přístup)
Formulujeme nulovou a alternativní hypotézu. Zvolíme tzv. testovou statistiku, tj. výběr. charakteristiku, jejíž rozdělení závisí na test. parametru 𝜃. (Rozdělení test. statistiky za předpokladu platnosti 𝐻 0 nazýváme nulové rozdělení.) Ověříme předpoklady testu! Určíme kritický obor 𝑊 ∗ , tj. množinu, v níž se, za předpokladu platnosti 𝐻 0 , hodnoty testové statistiky vyskytují s velmi malou pravděpodobností. Doplňkem k 𝑊 ∗ je tzv. obor přijetí 𝑉 ∗ . Hranici mezi kritickým oborem a oborem přijetí označujeme jako kritická hodnota testu 𝑡 𝑘𝑟𝑖𝑡 . Na základě konkrétní realizace výběru určíme pozorovanou hodnotu 𝑥 𝑂𝐵𝑆 testové statistiky. Na základě vztahu mezi 𝑥 𝑂𝐵𝑆 a 𝑊 ∗ rozhodneme o výsledku testu („Zamítáme 𝐻 𝑂 .“ nebo „Nezamítáme 𝐻 𝑂 .“ )

18 Standardním výrobním způsobem lze vyrobit monitory se střední životnosti 1200 hodin. Novou technologií, kterou navrhuje vývojové centrum bylo zkušebně vyrobeno 100 obrazovek, jejichž průměrná životnost byla 1265 hodin a směrodatná odchylka 300 hodin. Jde o kvalitnější technologii, nejde pouze o náhodný rozdíl? Řešení: 𝐻 0 : 𝜇=1200, 𝐻 𝐴 : 𝜇>1200 𝑇 𝑿 = 𝑋 −𝜇 𝜎 𝑛 → 𝑡 𝑛−1 Ověření předpokladů testu: Zajištění náhodného výběru je důležité již ve fázi plánování experimentu! Normalitu výběru je nutno ověřit!!! (Nyní např. pomocí exploračních grafů, později pomocí statistického testu.) V tomto příkladu nemáme k dispozici reálná data. Pokračovat v řešení má smysl pouze tehdy, můžeme-li předpokládat normální rozdělení životnosti obrazovek. Toto platí pouze v případě, že X je náhodný výběr z populace mající normální rozdělení!!! testová statistika nulové rozdělení předpoklady testu

19 Standardním výrobním způsobem lze vyrobit monitory se střední životnosti 1200 hodin. Novou technologií, kterou navrhuje vývojové centrum bylo zkušebně vyrobeno 100 obrazovek, jejichž průměrná životnost byla 1265 hodin a směrodatná odchylka 300 hodin. Jde o kvalitnější technologii, nejde pouze o náhodný rozdíl? Řešení: Pro určení kritického oboru je nutné předem si stanovit, jak „nepravděpodobné“ hodnoty testové statistiky již budeme považovat za „velmi nepravděpodobné“. 𝑊 ∗ = 𝑥 𝑂𝐵𝑆 : 𝑥 𝑂𝐵𝑆 >1,64 𝑇(𝑿), jestliže platí 𝐻0 𝛼 – hladina významnosti testu =0,05 W* Zamítáme 𝐻0 Nezamítáme 𝐻0 𝑡0,95;99=1,66

20 Standardním výrobním způsobem lze vyrobit monitory se střední životnosti 1200 hodin. Novou technologií, kterou navrhuje vývojové centrum bylo zkušebně vyrobeno 100 obrazovek, jejichž průměrná životnost byla 1265 hodin a směrodatná odchylka 300 hodin. Jde o kvalitnější technologii, nejde pouze o náhodný rozdíl? Řešení: Pro určení kritického oboru je nutné předem si stanovit, jak „nepravděpodobné“ hodnoty testové statistiky již budeme považovat za „velmi nepravděpodobné“. 𝑥 𝑂𝐵𝑆 =𝑇 𝒙 | 𝐻 0 = 1265− =2,17 𝑥 𝑂𝐵𝑆 ∈ 𝑊 ∗ ⇒ Na hladině významnosti 0,05 zamítáme 𝐻 0 ve prospěch 𝐻 𝐴 . Pozorované zlepšení průměrné životnosti obrazovek je statisticky významné. 𝑊 ∗ = 𝑥 𝑂𝐵𝑆 : 𝑥 𝑂𝐵𝑆 >1,66 Jak se změní výsledek, budeme-li rozhodovat na hladině významnosti 0,01? 𝑊 ∗ = 𝑥 𝑂𝐵𝑆 : 𝑥 𝑂𝐵𝑆 >2,36 𝑥 𝑂𝐵𝑆 ∉ 𝑊 ∗ ⇒ Na hladině významnosti 0,01 nezamítáme nulovou hypotézu. Pozorované zlepšení průměrné životnosti obrazovek není statisticky významné.

21 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎=2𝑚𝑖𝑛 𝐹 0 𝑥 𝑂𝐵𝑆 ;1− 𝐹 0 𝑥 𝑂𝐵𝑆
Jak postupovat při testování parametrických hypotéz? (čistý test významnosti) Formulujeme nulovou a alternativní hypotézu. Zvolíme tzv. testovou statistiku, tj. výběr. charakteristiku, jejíž rozdělení závisí na test. parametru 𝜃. (Rozdělení test. statistiky za předpokladu platnosti 𝐻 0 nazýváme nulové rozdělení.) Ověříme předpoklady testu! Výpočet pozorované hodnoty 𝑥 𝑂𝐵𝑆 testové statistiky 𝑇 𝑿 . Výpočet 𝑝 − ℎ𝑜𝑑𝑛𝑜𝑡𝑦 (angl. „𝑝− 𝑣𝑎𝑙𝑢𝑒“). Rozhodnutí o výsledku testu: Tvar alternativní hypotézy 𝐻 𝐴 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎 𝜃< 𝜃 0 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎= 𝐹 0 𝑥 𝑂𝐵𝑆 𝜃> 𝜃 0 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎= 1−𝐹 0 𝑥 𝑂𝐵𝑆 𝜃≠ 𝜃 0 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎=2𝑚𝑖𝑛 𝐹 0 𝑥 𝑂𝐵𝑆 ;1− 𝐹 0 𝑥 𝑂𝐵𝑆 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎 Rozhodnutí 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎<𝛼 Na hladině významnosti 𝛼 zamítáme 𝐻0 ve prospěch 𝐻𝐴. 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎≥𝛼 Na hladině významnosti 𝛼 nelze 𝐻0 zamítnout.

22 Standardním výrobním způsobem lze vyrobit monitory se střední životnosti 1200 hodin. Novou technologií, kterou navrhuje vývojové centrum bylo zkušebně vyrobeno 100 obrazovek, jejichž průměrná životnost byla 1265 hodin a směrodatná odchylka 300 hodin. Jde o kvalitnější technologii, nejde pouze o náhodný rozdíl? Řešení: 𝐻 0 : 𝜇=1200, 𝐻 𝐴 : 𝜇>1200 𝑇 𝑿 = 𝑋 −𝜇 𝑆 𝑛 → 𝑡 𝑛−1 Ověření předpokladů testu: Zajištění náhodného výběru je důležité již ve fázi plánování experimentu! Normalitu výběru je nutno ověřit!!! (Nyní např. pomocí exploračních grafů, později pomocí statistického testu.) V tomto příkladu nemáme k dispozici reálná data. Pokračovat v řešení má smysl pouze tehdy, můžeme-li předpokládat normální rozdělení životnosti obrazovek. Toto platí pouze v případě, že X je náhodný výběr z populace mající normální rozdělení!!! testová statistika nulové rozdělení předpoklady testu

23 Výpočet pozorované hodnoty: 𝑥 𝑂𝐵𝑆 =𝑇 𝒙 | 𝐻 0 = 1265−1200 300 100 =2,17
Standardním výrobním způsobem lze vyrobit monitory se střední životnosti 1200 hodin. Novou technologií, kterou navrhuje vývojové centrum bylo zkušebně vyrobeno 100 obrazovek, jejichž průměrná životnost byla 1265 hodin a směrodatná odchylka 300 hodin. Jde o kvalitnější technologii, nejde pouze o náhodný rozdíl? Řešení: Výpočet pozorované hodnoty: 𝑥 𝑂𝐵𝑆 =𝑇 𝒙 | 𝐻 0 = 1265− =2,17 Výpočet p-hodnoty: 𝑇(𝑿), jestliže platí 𝐻0 𝛼 – hladina významnosti testu, 𝛼=0,05 W* Zamítáme 𝐻0 Nezamítáme 𝐻0 𝒙 𝑶𝑩𝑺 =𝟐,𝟏𝟕 𝑡0,95;99=1,66 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎=1−𝐹 2,17 =0,016

24 Standardním výrobním způsobem lze vyrobit monitory se střední životnosti 1200 hodin. Novou technologií, kterou navrhuje vývojové centrum bylo zkušebně vyrobeno 100 obrazovek, jejichž průměrná životnost byla 1265 hodin a směrodatná odchylka 300 hodin. Jde o kvalitnější technologii, nejde pouze o náhodný rozdíl? Řešení: Výpočet 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑦: 𝑥 𝑂𝐵𝑆 =2,17, 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎=1−𝐹 2,17 =0,016 Rozhodnutí: Na hladině významnosti 0,05 zamítáme 𝐻 0 . 𝑇(𝑿), jestliže platí 𝐻0 𝛼 – hladina významnosti testu, 𝛼=0,05 W* Zamítáme 𝐻0 Nezamítáme 𝐻0 𝒙 𝑶𝑩𝑺 =𝟐,𝟏𝟕 𝑡0,95;99=1,66 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎=1−𝐹 2,17 =0,016

25 null hypothesis must go!“
Standardním výrobním způsobem lze vyrobit monitory se střední životnosti 1200 hodin. Novou technologií, kterou navrhuje vývojové centrum bylo zkušebně vyrobeno 100 obrazovek, jejichž průměrná životnost byla 1265 hodin a směrodatná odchylka 300 hodin. Jde o kvalitnější technologii, nejde pouze o náhodný rozdíl? Řešení: Výpočet 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑦: 𝑥 𝑂𝐵𝑆 =2,17, 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑎=1−𝐹 2,17 =0,016 Rozhodnutí: Na hladině významnosti 0,01 nezamítáme 𝐻 0 . Jak si zapamatovat při jakém vztahu mezi 𝑝−ℎ𝑜𝑑𝑛𝑜𝑡𝑜𝑢 a zvolenou hladinou významnosti zamítáme nulovou hypotézu? „P-value is low, null hypothesis must go!“ Keith M. Bower

26 Jaké základní testy parametrických hypotéz používáme?
viz

27 DěkujEME za pozornost!