정규화는 모델의 복잡성에 대한 벌금을 추가함으로써 과잉을 방지하기 위해 감독 학습에 사용되는 기술입니다. 그것은 모델의 일반화를 개선하고 예측 성능을 향상시킵니다.

자주 묻는 질문

정규화는 페널티드 기간을 포함하여 훈련 도중 손실을 통제합니다. 일반적인 유형은 L1 정규화 (Lasso)와 L2 정규화 (Ridge)를 포함합니다. 이 방법은 모형 모수의 크기, encouraging 심플한 모형을 통제합니다.

계산 일정화

감독 학습에서, 정규화된 손실 기능은 다음과 같이 표현될 수 있습니다:

Loss = Original Loss + λ × Regularization Term]

λ (lambda)는 정규화의 힘을 결정하는 정기화 매개 변수입니다. 예를 들어, Ridge 회귀에서 정기화 기간은 사각형 계수의 합입니다.

λ × Σ (효율)^2

정기화를위한 모범 사례

  • cross-validation을 통해 적절한 정규화 매개 변수 (λ)를 선택하십시오.
  • 작은 λ 값으로 시작하고 점차적으로 모델 성능에 영향을 관찰하기 위해 증가합니다.
  • L1 정규화 기능을 선택하면 됩니다.
  • 더 나은 결과를 위해 흩어져있는 특징을 가진 정규화 결합.
  • 모니터링 훈련 및 검증 오류는 underfitting 또는 과잉을 방지합니다.