데이터의 품질과 훈련 중에 사용되는 계산 방법의 효과에 대한 감독 학습 모델은 크게 향상됩니다. 고급 계산 기술은 데이터가 처리되는 방법을 최적화하여 모델 성능을 크게 향상시킬 수 있으며 모델이 어떻게 배울 수 있는지를 결정합니다.

최적화 알고리즘

최적화 알고리즘은 교육 중에 손실 기능을 최소화하기 위해 필수적입니다. Adam, RMSprop, AdaGrad 같은 고급 방법 학습 속도가 동적으로, 빠른 융합과 더 나은 정확도로 이끌어 낼 수 있습니다.

특징 확장 및 변형

Proper 기능 스케일링은 모든 입력 변수가 모델의 학습 프로세스와 똑같이 기여한다는 것을 보장합니다. 정상적인화 및 표준화와 같은 기술은 gradient descent와 같은 알고리즘의 안정성과 성능을 향상시킵니다.

정기적인 기술

L1 및 L2 정기화를 포함한 정기화 방법, 대형 계수를 뚫는 것을 방지하는 데 도움이됩니다. 이 기술은 모델의 일반화가 데이터를 멸균시키는 것을 향상시킵니다.

고급 손실 기능

focal 손실 또는 경첩 손실과 같은 전문화한 손실 기능을 사용하여, imbalanced 분류 또는 지원 벡터 기계 같이 특정한 일에 있는 모형 성과를 개량할 수 있습니다.

  • Gradient 클립
  • 일괄 정상적인화
  • 학습 속도 스케줄링
  • 초기 정지