Регулярність – це техніка, яка використовується в надвізному навчанні, щоб запобігти перенаряддя, додаючи штраф у складність моделі. Вона допомагає підвищити узагальнення моделі для невидимих даних і підвищує її передбачувану продуктивність.

Розуміння регулярності

Регулярне визначення змінює функцію втрати при навчанні, включаючи термін штрафу. Загальні види включають L1 регулярність (Лассо) і L2-інституційну (Рідж). Ці методи контролюють величину параметрів моделі, що заохочуються прості моделі.

Розрахунок за участю

У наглядовому навчанні, регулярні функції втрати можуть бути виражені як:

Де λ (лямбаб) є параметром маніпуляції, який визначає міцність транзакції. Наприклад, в регресії гомілки термін локалізації є сумам квадратових коефіцієнтів:

λ × Σ (коефіцієнти)^2]

Кращі практики для проведення регулярних робіт

  • Виберіть відповідний параметр регулярності (λ) через перехресну діагностику.
  • Почати з невеликими λ значеннями і поступово збільшити до спостереження ефектів на продуктивності моделі.
  • Використовуйте L1 для визначення функції.
  • У поєднанні з функцією масштабування для кращих результатів.
  • Контроль навчальних та перевірки помилок, щоб уникнути підходу або перенарядки.