Hyperparameter tuning는 기계 학습 모형을 위한 제일 모수를 선정하는 것을 포함하는 감독된 학습에 있는 중요한 단계입니다. Proper tuning는 모형 성과 및 정확도를 두드러지게 개량할 수 있습니다. 이 기사는 일반적인 방법을 탐구하고 과정을 더 잘 이해하기 위하여 예제를 제공합니다.

Hyperparameter Tuning은 무엇입니까?

Hyperparameters는 기계 학습 모형의 훈련 과정을 지배하는 조정입니다. 훈련 도중 배운 모형 모수와는 달리, hyperparameters는 훈련이 시작되기 전에 놓입니다. 이 모수를 조정하는 것은 새로운 자료에 종합하는 모형의 능력을 낙관하는 것을 돕습니다.

Hyperparameter Tuning의 일반적인 방법

  • Grid Search: 교육에 의해 하이퍼 파라미터의 지정된 하위 집합을 통해 체계적으로 검색하고 각 조합에 대한 모델을 평가.
  • Random Search: 정의된 범위 내에서 무작위 샘플 하이퍼 파라미터 조합, 종종 그리드 검색보다 좋은 매개 변수를 더 빠르게 찾는.
  • 베이시 최적화: 이전 결과에 근거한 유망한 하이퍼 파라미터를 선택하기 위한 유망한 모델을 사용해서, 최적의 설정이 효율적으로 되도록 돕습니다.

Hyperparameter Tuning의 예

지원 벡터 기계 (SVM)를 위해, 커널 유형과 정규화 모수 (C)와 같은 hyperparameters는 조정될 수 있습니다. 신경 네트워크에서, 학습 비율, 층의 수, 그리고 신경의 수는 낙관하기 위하여 일반적인 hyperparameters입니다.

그리드 검색을 사용하여 데이터 과학자는 커널 유형과 C 값의 다른 조합을 테스트하여 최고의 성능을 발휘합니다. 또는 임의 검색은 빠르게 더 적은 계산 비용으로 매개 변수의 넓은 범위를 탐구 할 수 있습니다.