Regrese Aproximace metodou nejmenších čtverců

Prezentace na téma: "Regrese Aproximace metodou nejmenších čtverců"— Transkript prezentace:

1 Regrese Aproximace metodou nejmenších čtverců
xn y1 y2 yi yn vi Je dáno n bodů [xi, yi], i = 1, … , n , předpokládáme závislost y na x a chceme najít funkci, která vystihuje tento trend - Snažíme se proložit funkci tak, aby

2 Funkci obvykle hledáme ve tvaru lineární kombinace elementárních funkcí
Kde g1, g2, … ,gk , jsou vhodně zvolené (zadané) funkce a c1, c2, … ,ck jsou hledané konstanty. - kriteriální funkce

3 soustava normálních rovnic (soustava lineárních rovnic)

4 Pozn.: V praxi se úloha řeší tak,že pro zadaná data se sestrojí celá množina regresních funkcí a z ní se pak vybere nejlépe aproximující funkce. K výběru té nejlepší používáme buď kritéria součtu kvadrátů odchylek (hodnota kriteriální funkce) nebo indexu korelace (podíl směrodatných odchylek)

5 Př.: Odvození soustavy normálních rovnic pro regresní přímku
c1 = a, c2 = b, funkce g1(x)=1, g2(x)=x Je dáno n bodů [xi, yi], i = 1, … , n kriteriální funkce:

6 Př.: Odvození soustavy normálních rovnic pro regresní parabolu
c1 = a, c2 = b, c3=c funkce g1(x)=1, g2(x)=x, g3(x)=x2 Je dáno n bodů [xi, yi], i = 1, … , n kriteriální funkce:

7

8 Př.: Odvození soustavy normálních rovnic pro regresní hyperbolu
c1 = a, c2 = b, funkce g1(x)=1, g2(x)=1/x Je dáno n bodů [xi, yi], i = 1, … , n kriteriální funkce:

9 Pozn.: Je-li hledaná funkce ve tvaru lineární kombinace elementárních funkcí
jedná se o lineární regresi a její řešení vede na soustavu lineárních rovnic. Pokud je hledaná funkce v jiném tvaru, jedná se o nelineární regresi a její řešení vede na soustavu nelineárních rovnic. Řešení nelineární soustavy rovnic je problematické – nevíme, kolik řešení existuje a pokud nějaké řešení nalezneme tak nevíme, jestli je nejlepší možné. Soustavu nelineárních rovnic lze řešit numericky. Ve speciálních případech můžeme nelineární regresi „linearizovat“.

10 Linearizovatelná nelineární regrese
1. pro porovnání s jinými regresními funkcemi použijeme hodnotu

11 Linearizovatelná nelineární regrese
2. Koeficienty A, b najdeme stejně jako u regresní přímky, místo souřadnic yi se zadávají jejich logaritmy. pro porovnání s jinými regresními funkcemi použijeme hodnotu

12 Linearizovatelná nelineární regrese
3. Koeficienty A, b najdeme stejně jako u regresní přímky, místo souřadnic xi , yi se zadávají jejich logaritmy. pro porovnání s jinými regresními funkcemi použijeme hodnotu

13