Düzenlileştirme teknikleri, alt temel model yerine bir model gürültü öğrendiğinde, aşırı yüklemeyi önlemek için makine öğreniminde gereklidir. Etkili düzenlileştirme yöntemleri, model genelleştirme ve performans görünmez veriler üzerinde geliştirir.
L1 Düzenlileştirme (Lasso)
L1 düzenlileştirme, kat kat katsanın büyüklüğüne eşit bir ceza ekler.Bu, sparsity'yi etkili bir şekilde sıfıra indirir, bu da seçim ve basit modellere yol açabilir.
L2 Düzenlileştirme (Ridge)
L2 düzenlileştirme, katsayıların meydanına doğru bir ceza ekliyor. Büyük ağırlıkları, eğitim verilerindeki dalgalanmalara daha az duyarlı olan düzgün modeller için teşvik ediyor.
Dropout
Dropout, çoğunlukla rastgele seçilmiş nöronların eğitim sırasında görmezden geldiği bir tekniktir. Bu, nöronların ko-adaptingten çok fazla engel olmasını ve modellemeyi iyileştirmesini önler.
Erken Durma
Erken durak, modelin performansını eğitim sırasında geçerli bir şekilde izlemek içerir. Eğitim, performans geri çekilmeye başladığında, eğitim verilerini aşırılaştırmayı önlemeyi önler.
Uygulamada Düzenlileştirme
Düzenlileştirme tekniklerinin uygulanması, normalleşme gücü gibi hiperparametreleri ayarlamayı gerektirir. Cross-validation optimal değerleri, model karmaşıklığı ve performansı belirlemenize yardımcı olur.