회귀 분석은 의존 변수와 하나 이상의 독립적 인 변수 사이의 관계를 모델링하는 데 사용되는 통계 방법입니다. 적어도 평방 추정기는 선형 회귀 모델의 매개 변수를 추정하기위한 일반적인 기술입니다. 이 문서는 파생하는 방법을 설명하고 회귀 문제의 최소 사각형 추정기를 적용하는 방법을 설명합니다.

Least Squares Estimators의 파생

최소 평방 추정의 목표는 관찰 및 예측 값 사이의 사각형 차이를 최소화하는 매개 변수 값을 찾는 것입니다. 관찰 (x i, y i))를 가진 데이터 세트를 제공, 모델은 다음과 같이 표현됩니다:

( y i = beta 0 + beta 1 x i + varepsilon i)

(beta 0)와 (beta 1)는 견적의 매개 변수이며 (varepsilon i)는 오류 용어입니다. 사각형 잔여 (RSS)의 합은 다음과 같습니다.

( RSS = sum {i=1}^n (y i - beta 0 - beta 1 x i)^2 )

(beta 0)과 (beta 1)에 대한 RSS를 최소화하고 0으로 설정할 수 있습니다. 이 방정식이 추정되는 것은 추정기입니다.

( 모자 {beta} 1 = frac {sum {i=1}^n (x i - bar{x}) (y i - bar{y})} {sum {i=1}^n (x i - bar{x})^2})

( 모자{beta} 0 = bar{y} - 모자{beta} 1 bar{x} )

Least Squares의 적용

estimators가 계산되면 새로운 데이터 포인트에 대한 예측을 만들 수 있습니다. 주어진 값 (x)에 대한 예측 값 (hat{y})는 다음과 같습니다.

( 모자{y} = 모자{beta} 0 + 모자{beta} 1 x )

이 estimators는 경제, 공학, 사회 과학을 포함한 다양한 분야에서 유용하며 관계를 이해하고 결과를 예측합니다.

키 포인트의 개요

  • 최소 사각형 방법은 사각형 잔여의 합을 최소화합니다.
  • Estimators는 정상적인 방정식을 해결하여 파생됩니다.
  • 예측은 예상된 매개 변수를 사용하여 이루어집니다.
  • Least square estimators는 선형 회귀 분석에 기초합니다.