Regrese Aproximace metodou nejmenších čtverců xn y1 y2 yi yn vi Je dáno n bodů [xi, yi], i = 1, … , n , předpokládáme závislost y na x a chceme najít funkci, která vystihuje tento trend - Snažíme se proložit funkci tak, aby

Funkci obvykle hledáme ve tvaru lineární kombinace elementárních funkcí Kde g1, g2, … ,gk , jsou vhodně zvolené (zadané) funkce a c1, c2, … ,ck jsou hledané konstanty. - kriteriální funkce

soustava normálních rovnic (soustava lineárních rovnic)

Pozn.: V praxi se úloha řeší tak,že pro zadaná data se sestrojí celá množina regresních funkcí a z ní se pak vybere nejlépe aproximující funkce. K výběru té nejlepší používáme buď kritéria součtu kvadrátů odchylek (hodnota kriteriální funkce) nebo indexu korelace (podíl směrodatných odchylek)

Př.: Odvození soustavy normálních rovnic pro regresní přímku c1 = a, c2 = b, funkce g1(x)=1, g2(x)=x Je dáno n bodů [xi, yi], i = 1, … , n kriteriální funkce:

Př.: Odvození soustavy normálních rovnic pro regresní parabolu c1 = a, c2 = b, c3=c funkce g1(x)=1, g2(x)=x, g3(x)=x2 Je dáno n bodů [xi, yi], i = 1, … , n kriteriální funkce:

Př.: Odvození soustavy normálních rovnic pro regresní hyperbolu c1 = a, c2 = b, funkce g1(x)=1, g2(x)=1/x Je dáno n bodů [xi, yi], i = 1, … , n kriteriální funkce:

Pozn.: Je-li hledaná funkce ve tvaru lineární kombinace elementárních funkcí jedná se o lineární regresi a její řešení vede na soustavu lineárních rovnic. Pokud je hledaná funkce v jiném tvaru, jedná se o nelineární regresi a její řešení vede na soustavu nelineárních rovnic. Řešení nelineární soustavy rovnic je problematické – nevíme, kolik řešení existuje a pokud nějaké řešení nalezneme tak nevíme, jestli je nejlepší možné. Soustavu nelineárních rovnic lze řešit numericky. Ve speciálních případech můžeme nelineární regresi „linearizovat“.

Linearizovatelná nelineární regrese 1. pro porovnání s jinými regresními funkcemi použijeme hodnotu

Linearizovatelná nelineární regrese 2. Koeficienty A, b najdeme stejně jako u regresní přímky, místo souřadnic yi se zadávají jejich logaritmy. pro porovnání s jinými regresními funkcemi použijeme hodnotu

Linearizovatelná nelineární regrese 3. Koeficienty A, b najdeme stejně jako u regresní přímky, místo souřadnic xi , yi se zadávají jejich logaritmy. pro porovnání s jinými regresními funkcemi použijeme hodnotu