심층적 네트워크의 용량을 이해하는 것은 데이터에서 학습하고 일반화하는 능력의 평가에 필수적입니다. 모델 용량은 네트워크의 복잡성을 나타냅니다. 이는 학습 능력과 과잉 위험에 영향을 미칩니다.

측정 모형 수용량

몇몇 미터는 신경 네트워크의 수용량을 quantify에 이용됩니다. 이들은 모수, VC 차원 및 Rademacher 복잡성을 포함합니다. 각은 적당한 자료에 가동 가능한 모형이 있는 방법 통찰력을 제공합니다.

공장 공급

모형 수용량은 층과 신경의 수와 같은 네트워크 건축술에 의해, 뿐 아니라 일정화 기술 영향을 받습니다. 더 많은 모수를 가진 더 큰 모형은 일반적으로 더 높은 수용량이 있고 그러나 overfitting를 피하기 위하여 더 많은 자료를 요구할지도 모릅니다.

일반화 및 도전

일반화는 모델의 능력이 보이지 않는 데이터에 잘 수행 할 수 있습니다. 대용량 모델은 교육 데이터를 기억 할 수 있으며, 가난한 일반화로 이어질 수 있습니다. 균형 잡힌 용량과 정기화는 좋은 성능을 달성하는 열쇠입니다.

  • 모델 복잡성
  • 교육 자료 크기
  • 정기화 기술
  • 최적화 알고리즘