Düzenlileştirme, modelin karmaşıklığına bir ceza ekleyerek aşırılık önlemeyi denetleyen bir tekniktir. Modelin genelleştirilmesine yardımcı olur ve tahmin edici performansı artırır.

Düzenlileşmeyi Anlamak

Düzenlileştirme, eğitim sırasında kaybın ceza terimi de dahil eder. Ortak türler L1 normalizasyon (Lasso) ve L2 düzenlileştirme (Ridge) içerir. Bu yöntemler model parametrelerinin boyutunu kontrol eder, daha basit modeller teşvik eder.

Hesaplamalar Düzenlilaştırmaya Dahil Edilmesi

Denetimli öğrenmede, düzenlileştirilmiş kayıp fonksiyonu şöyle ifade edilebilir:

[0]Loss = Orijinal Kayıp + ⁇ × Düzenlilaştırma Dönemi).

⁇ (lambda) normalleşme gücünü belirleyen düzenlileştirme parametresi nerededir. Örneğin, Ridge regresyon, normalleşme terimi kare katlarının toplamıdır:

[0] × ⁇ (koruşmalar) ^2).

Düzenlileşme için en iyi uygulamalar

  • Boş zamanlayıcı ile uygun bir düzenlileştirme parametresi seçin.
  • Küçük ⁇ değerleri ile başlayın ve yavaş yavaş modelleme performansı üzerindeki etkilerini gözlemleyin.
  • L1 normalizasyon özelliği seçimi arzulandığında kullanın.
  • Daha iyi sonuçlar için özellik ölçeklendirme ile düzenli bir hale getirin.
  • Taklit veya aşırı yüklemeden kaçınmak için eğitim ve doğrulama hataları izleyin.