Příklad 4.22 Tabulky Výsledek Poradit Řešení příkladu
Kalibrační soubor má následující hodnoty xi a yi:
0,1 - 0,38
0,2 - 0,74
0,3 - 1,13
0,4 - 1,76
0,5 - 1,88
0,6 - 2,24
Určete nejvhodnější lineární regresní rovnici, směrodatné odchylky sa a sb a korelační koeficient!

Řešení

nxyYy – Yx2y2xy
1
2
3
4
5
6 		0,1
0,2
0,3
0,4
0,5
0,6 		0,38
0,74
1,13
1,76
1,88
2,24 		0,4014
0,7828
1,1642
1,5456
1,9270
2,3084 		-0,0214
-0,0428
-0,0342
0,2144
-0,0470
-0,0684 		0,01
0,04
0,09
0,16
0,25
0,36 		0,1444
0,5476
1,2769
3,0976
3,5344
5,0176 		0,038
0,148
0,339
0,704
0,940
1,344
Σ2,18,130,9113,61853,513
(Σxi)2 = 4,41
(Σyi)2 = 66,0969

Výpočet koeficientů regresní rovnice y = a + bx podle vztahů (21) a (20):

    b = = 3,814

    a = 1/n (Σyi - b Σxi) = 1/6 · (8,13 - 3,814 · 2,1) = 0,020

Závislost mezi proměnnými vyjadřuje rovnice: Y = 0,020 + 3,814·x. Vypočtenými hodnotami Y doplníme tabulku. Z rozdílu naměřených (závisle proměnných) a vypočtených hodnot (y – Y) je zřejmé, že 4.bod leží výrazně mimo regresní přímku. Tento bod otestujeme Grubbsovým testem (kombinace vztahů (22) a (27)):

    sx,y = = 0,1186

Směrodatná odchylka sx,y charakterizuje rozptyl hodnot xi kolem regresní přímky.

    T4 = = 2,214 > Tα=0,05 = 1,996

Z Grubbsova testu je zřejmé, že bod 4 je třeba vyloučit a provést nový výpočet pouze s pěti dvojicemi proměnných.

nxyYy – Yx2y2xy
1
2
3
4
5 		0,1
0,2
0,3
0,5
0,6 		0,38
0,74
1,13
1,88
2,24 		0,3764
0,7504
1,1244
1,8724
2,2464 		0,0036
-0,0104
0,0056
0,0076
-0,0064 		0,01
0,04
0,09
0,25
0,36 		0,1444
0,5476
1,2769
3,5344
5,0176 		0,038
0,148
0,339
0,940
1,344
Σ1,76,370,7510,51992,809
(Σx)2 = 2,89
(Σy)2 = 40,5769
    b = = 3,740

    a = 1/n (Σyi - b Σxi) = 1/5 · (6,37 - 3,740 · 1,7) = 0,0024

Výpočet směrodatných odchylek koeficientů a,b regresní rovnice pomocí vztahů (22), (23) a (24):

    sx,y = = 9,150·10-3
    sa = sx,y = 9,150·10-3 · = 0,0085
    sb = = 0,022
Korelační koeficient se vypočítá pomocí vztahu (31):
    r = = = 0,9999

Zpět