Η ανάλυση οπισθοδρόμησης είναι μια στατιστική μέθοδος που χρησιμοποιείται για το μοντέλο της σχέσης μεταξύ μιας εξαρτημένης μεταβλητής και μιας ή περισσότερων ανεξάρτητων μεταβλητών. Ο ελάχιστος εκτιμώμενος τετραγωνικών είναι μια κοινή τεχνική για την εκτίμηση των παραμέτρων ενός γραμμικού μοντέλου παλινδρόμησης. Αυτό το άρθρο εξηγεί πώς να αντληθούν και να εφαρμοστούν οι λιγότεροι εκτιμητές τετραγώνων σε προβλήματα παλινδρόμησης.

Υποβάθμιση των λιγότερο πλατειών

Ο στόχος της εκτίμησης των ελαχίστων τετραγωνικών είναι να βρεθούν οι τιμές παραμέτρων που ελαχιστοποιούν το άθροισμα των τετραγωνισμένων διαφορών μεταξύ των παρατηρούμενων και των προβλεπόμενων τιμών. Με δεδομένο ένα σύνολο δεδομένων με παρατηρήσεις ((x i, y i)), το μοντέλο εκφράζεται ως:

( y i = βήτα 0 + βήτα 1 x i + varepsilon i )

όπου (β-0) και (β-1) είναι οι παράμετροι για την εκτίμηση, και (varepsilon i) είναι ο όρος σφάλματος. Το άθροισμα των τετραγωνισμένων υπολειμμάτων (RSS) είναι:

( RSS = sum {i=1} ^n (y i - beta 0 - beta 1 x i) ^2 )

Ελαχιστοποίηση RSS όσον αφορά (beta 0) και (beta 1) περιλαμβάνει τη λήψη παραγώγων και τον καθορισμό τους στο μηδέν. Λύση αυτών των εξισώσεων αποδίδει τους εκτιμητές:

( hat{beta} 1 = frac{ sum {i=1} ^n (x i - bar{x})(y i - bar{y}}}{ sum {i=1} ^n (x i - bar{x})^2}

(καπελάκι {beta} 0 = μπαρ {y} - καπέλο{beta} 1 μπαρ {x})

Εφαρμογή των λιγότερο τετραγώνων

Μόλις υπολογιστούν οι εκτιμητές, μπορούν να χρησιμοποιηθούν για να κάνουν προβλέψεις για νέα σημεία δεδομένων. Η προβλεπόμενη τιμή (hat{y}) για ένα δεδομένο (x) είναι:

( καπέλο {y} = καπέλο{beta} 0 + καπέλο{beta} 1 x)

Οι εκτιμητές αυτοί είναι χρήσιμοι σε διάφορους τομείς, συμπεριλαμβανομένων των οικονομικών, της μηχανικής, και των κοινωνικών επιστημών, για την κατανόηση των σχέσεων και των αποτελεσμάτων πρόβλεψης.

Περίληψη των βασικών σημείων

  • Η μέθοδος των ελαχίστων τετραγωνικών ελαχιστοποιεί το άθροισμα των τετραγωνισμένων υπολειμμάτων.
  • Οι υπολογιστές προκύπτουν με την επίλυση των κανονικών εξισώσεων.
  • Οι προβλέψεις γίνονται με βάση τις εκτιμώμενες παραμέτρους.
  • Οι λιγότεροι εκτιμητές τετραγώνων είναι θεμελιώδεις στην ανάλυση γραμμικής παλινδρόμησης.