Bias și varianța sunt concepte importante în învățarea supravegheată care ajută la evaluarea performanței modelelor. Înțelegerea modului de calcul al acestor indicatori poate îmbunătăți selectarea și tuningul modelelor.

Înțelegerea Bias și Variance

Bias se referă la eroarea introdusă prin apropierea unei probleme din lumea reală cu un model simplificat. Varianța măsoară cât de mult variază predicțiile modelului pentru diferite seturi de date de formare. Ambele influențează acuratețea și capacitatea de generalizare a modelului.

Calcularea bias

Bias este calculat prin compararea predicției medii a modelului cu valoarea reală. Pașii includ:

  • Antrenează modelul de mai multe ori pe seturi de date de formare diferite.
  • Previzionează de fiecare dată rezultatul pentru un punct fix de încercare.
  • Calculează media acestor predicţii.
  • Calculează diferența dintre această medie și valoarea reală.
  • Piață această diferență pentru a obține părtinire pătrat.

Calcularea variabilei

Varianta măsoară variabilitatea predicţiilor modelului.

  • Utilizați predicțiile de la mai multe modele instruite pe seturi de date diferite.
  • Calculează predicţia medie la toate modelele.
  • Determină deviaţia pătrată a fiecărei predicţii de la această medie.
  • Media acestor abateri pătrate pentru a găsi variaţia.

Exemplu practic

Să presupunem că aveți un set de date și să instruiască un model de cinci ori pe diferite subseturi. Pentru un anumit punct de încercare, predicțiile sunt 3.2, 3.8, 3.5, 3.7 și 3.3. Adevărata valoare este 4.0.

Previziunile medii sunt 3.5. Prejudiciu pătrat (4.0 - 3.5)^2 = 0.25. Variația este calculată prin media abaterilor pătrate ale fiecărei predicții de la 3.5, ceea ce duce la 0.14.