Regressioanalyysi on tilastollinen menetelmä, jota käytetään mallintamaan riippuvan muuttujan ja yhden tai useamman riippumattoman muuttujan välistä suhdetta. Vähin neliöiden arvioija on yhteinen tekniikka lineaarisen regressiomallin parametrien arvioimiseksi. Tässä artikkelissa selitetään, miten vähiten neliöiden estimaatit saadaan johdettua ja sovellettua regressio-ongelmiin.

Vähiten neliöitä arvioivien laitosten derivaationa

Vähiten neliöitä koskevan arvion tavoitteena on löytää parametriarvot, jotka minimoivat havaittujen ja ennustettujen arvojen neliöiden välisten erojen summan. Kun otetaan huomioon aineisto, jossa on havaintoja ((x i, y i)), malli ilmaistaan seuraavasti:

(y i = beta 0 + beta 1 x i + varepsilon i)

jossa (beta 0) ja (beta 1) ovat arvioitavia parametreja ja (varepsilon i) on virhetermi. Neliöjäämien summa (RSS) on:

(RSS = sum {i=1}^n (y i - beta 0 - beta 1 x i)^2)

Minimointi RSS suhteen (beta 0) ja (beta 1) liittyy ottamalla johdannaisia ja asettamalla ne nollaan. Ratkaiseminen nämä yhtälöt tuottaa arvioijat:

(hat{beta} 1 = frac{sum {i=1}^n (x i - bar{x})(y i - bar{y})}{sum {i=1}^n (x i - bar{x}^2})

(hat{beta} 0 = bar{y} - hat{beta} 1 bar{x})

Käytetään vähiten neliöitä arvioijia

Kun estimaatit on laskettu, niitä voidaan käyttää uusien tietopisteiden ennustamiseen. Tietyn (x) ennustetun arvon (hat{y) arvo on:

(hattu{y} = hattu{beta} 0 + hattu{beta} 1 x)

Nämä arvioijat ovat hyödyllisiä eri aloilla, kuten taloustieteessä, insinööritieteiden ja yhteiskuntatieteiden alalla, suhteiden ja ennusteiden ymmärtämiseksi.

Yhteenveto keskeisistä kohdista

  • Vähiten neliöt menetelmä minimoi summa neliöidyt jäännöstä.
  • Arvioijat johdetaan ratkaisemalla normaalit yhtälöt.
  • Ennusteet tehdään käyttäen arvioituja parametreja.
  • Vähiten neliöt arvioijat ovat olennaisia lineaarisen regressioanalyysin.