정기화 기술은 과잉을 방지하기 위해 기계 학습에 필수적이며 모델이 언더링 패턴 대신 소음을 배울 때 발생합니다. 효과적인 정기화 방법을 구현하는 것은 모델 일반화 및 성능이 비소 데이터에 향상됩니다.

L1 정기화 (라소)

L1 정규화는 계수의 부피의 절대값과 동일하게 처벌을 추가합니다. 이것은 sparsity를 격려하고, 효과적으로 어떤 계수를 0으로 감소시킵니다. 이는 선택과 더 간단한 모델로 이어질 수 있습니다.

L2 정기화 (Ridge)

L2 정규화는 계수의 사각에 불평을 추가합니다. 그것은 훈련 자료에 있는 동요에 더 과민한 더 적은 모형에 지도하는 큰 무게를 신깁니다.

팟캐스트

Dropout은 무작위로 선택된 신경망에서 주로 사용되는 기술로 훈련 중에 무시됩니다. 이것은 매우 CO-adapting에서 신경을 방지하고, 과잉을 줄이고 모델의 견고성을 향상시킵니다.

초기 정지

초기 정지는 훈련 중에 검증 세트에 모델의 성능을 모니터링하는 것을 포함한다. 성능이 감소 될 때 훈련 중지, 교육 데이터를 과잉에서 모델을 방지.

업무의 정체

정기화 기법을 적용하면 정기화 강도와 같은 hyperparameters를 조정해야합니다. Cross-validation은 최적의 값, 모델 복잡성 및 성능을 균형 잡힌다.