Table of Contents
기계 학습 모델의 복잡성을 이해하는 것은 효과적인 알고리즘을 설계하는 데 필수적입니다. Vapnik-Chervonenkis (VC) 치수는 모델 클래스의 용량을 측정하는 데 사용되는 기본 개념입니다. 그것은 잘 모델이 데이터를 흔하지 않고 적절한 복잡성을 가진 모델의 개발을 가이드하는 데 도움이되는 데 도움이됩니다.
VC 차원은 무엇입니까?
VC 차원은 모든 가능한 방법으로 데이터 포인트를 분류하는 모델의 능력을 정량화합니다. 모델이 면도 할 수있는 가장 큰 세트의 크기로 정의되어, 그 포인트의 모든 가능한 라벨을 정확하게 분류 할 수 있습니다. 더 높은 VC 치수는 복잡한 패턴을 수용 할 수있는 더 복잡한 모델을 나타냅니다.
VC 차원을 계산
VC 차원을 계산하는 것은 모델의 유형에 따라 다릅니다. 예를 들어, d-차원 공간의 선형 클래스터에는 VC 차원의 d + 1. 더 복잡한 모델을 위해 신경 네트워크와 같은 VC 차원은 매개 변수와 레이어에 따라 추정 될 수 있습니다. 정확한 계산은 종종 이론 경계와 평형 방법을 포함합니다.
공학적
VC 차원 원조 엔지니어를 이해하는 것은 비스듬한 비스듬한 모형 및 variance를 균형을 잡는 모형을 선정하는. 너무 높은 VC 차원을 가진 모형은 빈번한 종합화에 지도하는 훈련 자료를, 초과할지도 모릅니다. 반전적으로, VC 차원이 걸쇠를 끄는 것은, 중요한 자료 본을 손상할지도 모릅니다. Properly estimating와 통제 VC 차원은 모형 성과를 낙관하는 것을 돕습니다.
Practical 신청
- 용량에 근거를 둔 모형 선택
- 복잡한 제어 기술
- 설계 neural 네트워크 아키텍처
- 위험 완화