Prezentace se nahrává, počkejte prosím

Prezentace se nahrává, počkejte prosím

Pravděpodobnost a statistika opakování základních pojmů Václav Hlaváč katedra kybernetiky FEL ČVUT poděkování: Martinovi Urbanovi za.

Podobné prezentace


Prezentace na téma: "Pravděpodobnost a statistika opakování základních pojmů Václav Hlaváč katedra kybernetiky FEL ČVUT poděkování: Martinovi Urbanovi za."— Transkript prezentace:

1 Pravděpodobnost a statistika opakování základních pojmů Václav Hlaváč katedra kybernetiky FEL ČVUT poděkování: Martinovi Urbanovi za první verzi přednášky v říjnu 2005

2 2 Obsah 1.Pravěpodobnost - Definice, základní vztahy - Koncept náhodné veličiny 2.Statistika - Náhodný výběr - Odhad parametrů Literatura 1.J. Novovičová, Pravděpodobnost a Matematiská Statistika. ČVUT A. Papoulis, Probability, Random Variables and Stochatic Processes, McGraw Hill, Edition 4, http://mathworld.wolfram.com/

3 3 Úvod Pravděpodobnost - abstraktní matematický model neurčitosti - modeluje děje, v nichž hraje roli náhodnost Statistika - sběr a analýza dat - pracuje s omezenými / konečnými vzorky - odhad parametrů, testování hypotéz, atd.

4 4 Část 1 Pravděpodobnost

5 5 Pravděpodobnost: definice, základní vztahy Definice pravděpodobnosti: Klasická: Limitní (četnostní): Axiomatická (Andreje Kolmogorova)

6 6 Axiomatická (Kolmogorova) definice pravděpodobnosti

7 7 Odvozené vztahy

8 8 Příklad: Hod kostkou. Jaká je pravděpodobnost, že padne číslo větší než 3 za podmínky, že padlo liché číslo. Podmíněná pravděpodobnost

9 9 Nezávislé jevy: Příklad: Jsou jevy A a B nezavislé? Sdružená pravděpodobnost

10 10 Pojem náhodné veličiny  Náhodná veličina přiřazuje každému elementárnímu jevu reálné číslo  Proč se zavádí? Umožňuje zavést pojmy hustota pravděpodobnosti, distribuční funkce, střední hodnota atd.  Dva základní typy náhodných veličin Spojité (nabývá spočetně mnoha hodnot) Diskrétní (nabývá hodnoty z nějakého intervalu R)

11 11 Diskrétní náhodná veličina - nabývá konečně/spočetně mnoha hodnot - příklady: hod kostkou, počet projetých aut za 1 hod. - rozdělení se popisuje pravděpodobnostní funkcí: P(X=a i ) = p(a i ) ~ diskrétní rozdělení pravděpodobnosti Spojitá náhodná veličina - může nabývá nespočetně mnoha hodnot - příklad: výška osob - rozdělení se popisuje hustotou pravděpodobnosti - P(X=a)=0, a 2 R Koncept náhodné veličiny (2)

12 12 (Kumulativní) Distribuční funkce: Funkce náhodné veličiny definována vztahem Příklady: a) rovnoměrné rozdělení b) normální rozdělemí Distribuční funkce

13 13 nebo Příklady: a) rovnoměrné b) normální Hustota pravděpodobnosti

14 14 Příklad: Délka vlasů. Předpokládejme, že rozložení délky vlasů u dívek má normální (gaussovské) rozdělení N(15,25) a u chlapců N(6,4) a tedy, že rozdělení u všech dětí má charakter směsi dvou normálních rozdělení.  ={ děti } F(X)... d.f. délky vlasů všech dětí A ={ dívky } F(X|A)... d.f. délky vlasů u dívek B ={ chlapci } F(X|B)... d.f. délky vlasů u chlapců - náhodná veličina X... délka vlasů f děti = w d N(15,25) + w h N(6,4) = w d f(x|A) + w h f(x|B) Podmíněná distribuční funkce a hustota pravděpodobnosti

15 15 Střední hodnota (též očekávaná hodnota) K-tý obecný moment K-tý centrální moment Základní charakteristiky náhodné veličiny

16 16 Druhý centrální moment Rozptyl, též disperze

17 17 Kovariance dvou veličin X, Y Kovarianční matice n veličin veličin X 1,..., X n - symetrická, positivně definitní Kovariance

18 18 p -kvantil Q p medián je p -kvantil pro p =0.5 Kvantily, medián

19 19 Diskrétní rovnoměrné rozdělení DU(m) - příklady: hodnota první číslice na SPZ hod kostkou Rovnoměrné rozdělení, diskrétní

20 20 Binomické rozdělení B(n,p) n nezávislých pokusů, při nichž může nastat jev A s pravděp. p a nenastat s pravděp. ( 1 - p ) x udává počet, kolikrát nastal jev A při n pokusech Binomické rozdělení, diskrétní

21 21 Geometrické rozdělení G(p) - opakujeme nezávislé pokusy, při nichž může nastat jev A s pravděp. p - x udává počet neúspěšných pokusů, než poprvé nastane jev A Geometrické rozdělení, diskrétní

22 22 Rovnoměrné rozdělení U(a,b) Rovnoměrné rozdělení, spojité

23 23 Normální rozdělení N ( ,   ) Vícerozměrné normální rozdělení N ( ,  ) Normální rozdělení, spojité

24 24 Mějme n nezávislých náhodných veličin X i. Jejich součet S = X 1 +…+ X n je také náhodná veličina se střední hodnotou  =  1 + … +  n a rozptylem  2 =  … +  n 2. Centrální limitní věta: S rostoucím n se distribuce F(S) blíží normálnímu rozdělení N ( ,   ). Centrální limitní věta

25 25 Pravděpodobnost: Koncept náhodné veličiny

26 26 Předpokládejme, že hodnoty číslic na SPZ jsou náhodné veličiny X 1, X 2,..., X 6, nabývající hodnot {0,1,…,9}. Výskyt každé číslice má rovnoměrné rozložení. Součet všech číslic na SPZ S = X 1 +X X 6 je také náhodná veličina. Nabývá hodnot {0,1,…,54} a blíží se normálnímu rozložení x 1 x 2 x 3 x 4 x 5 x 6 S Centrální limitní věta, příklad

27 27 Část 2 Statistika

28 28 Náhodný výběr rozsahu n - n nezávislých opakování téhož pokusu - posloupnost n nezávislých náhodných veličin se stejným rozdělením X 1.,..., X n Výběrový průměr Výběrové momenty Výběrový rozptyl Poznámka Náhodný výběr

29 29 Formulace úlohy: - mějme n nezávislých měření { x 1,…, x n } - známe parametrický model hustoty f(X)= f(x|  ), případně diskrétní p(x i |  ), až na neznámou hodnotu parametru  Cíl: Na základě naměřených { x 1,…, x n } určit hodnotu  Příklad: Předpokládejme, že rozložení výšky lidí lze popsat normálním rozdělením s neznámou střední hodnotou  a rozptylem  . Na základě náhodného vzorku 100 lidí chceme odhadnout ,  2 f(x|  ) = N( ,  2 ),  = { ,  2 } Odhad parametrů

30 30 ML-odhad (Maximal Likelihood) : Hledáme takové  , které maximalizuje P( { x 1,…, x n } ) Přesněji pro spojitý případ: hledáme , které maximalizuje sdruženou hustotu L ( , x ) – věrohodnost: Odhad, metoda maxim. věrohodnosti

31 31 Hledá se : a) analyticky b) numericky - metody gradientního sestupu - EM algoritmus ML-odhad, možné postupy řešení


Stáhnout ppt "Pravděpodobnost a statistika opakování základních pojmů Václav Hlaváč katedra kybernetiky FEL ČVUT poděkování: Martinovi Urbanovi za."

Podobné prezentace


Reklamy Google