Özel ölçeklendirme, eğitim sinir ağları için çok önemli bir işlem aşamasıdır. Model performansını ve yakın hız geliştirmek için giriş özelliklerini ayarlamayı içerir. Matematik temelleri farklı senaryolar için doğru ölçeklendirme tekniklerini uygulamada yardımcı olur.

Matematiksel Özellik Vakfı

Her özelliğin öğrenme sürecine eşit şekilde katkıda bulunması için verileri ölçeklendirme yöntemleri değiştirir. Common teknikleri min-max ölçekleme ve standardizasyon içerir. Min-max ölçekleme transformasyon özellikleri belirli bir aralığına, tipik olarak [0, 1], formülü kullanarak:

[0]x scaled = (x - min (x) / (max (x) - min (x)).

Standartizasyon, diğer yandan, merkezlerin etrafındaki birim değişkeni ile ilgili özellikleri:

[0]x standartize = (x - μ) / ⁇ ).

Neural Network Eğitimine Etkisi

Proper özellik ölçeklendirme eğitim sürecini önemli ölçüde artırabilir. Öğrenme güncellemelerini sonlandırmak için daha büyük aralıklarla özellikleri önlemek için daha hızlı bir yakınlaştırmaya yardımcı olur. Ek olarak, ölçeklenen özellikler daha istikrarlı gradientlere yol açar, vanishing veya patlama riskini azaltır.

sigmoid veya tanh gibi aktivasyon işlevleri ile ilgili neural ağlar özellikle ölçeklere sahip olmakta hassastır. Scaling, girişlerin aktif bölgelerde düşmesini sağlar, öğrenme verimliliğini artırmak.

Pratikler

Özellikleri ölçeklendirmeye başvururken, eğitim verileri üzerinde ölçekleyiciye uygun olmak ve sonra verileri doğrulama ve test etmek için aynı dönüşümü uygulamak önemlidir. Bu, veri sızıntısını önler ve veri setleri boyunca tutarlı ölçeklendirme sağlar.

  • Bağlanmış özellikler için min-max ölçeklendirme kullanın.
  • Normal olarak dağıtılan veriler için standartlaştırma uygulayın.
  • Her zaman eğitim verileri üzerinde ölçekleyiciler sadece.
  • Herhangi bir veri kesintisi sonrasında tekrar ölçek verileri.