심층 네트워크의 매개 변수의 수를 이해하는 것은 제한된 계산 자원과 환경에서 배포를 최적화하는 데 필수적입니다. 이 문서는 다양한 신경 네트워크 아키텍처의 총 매개 변수를 계산하는 방법을 설명합니다.

기본 계산 방법

신경 네트워크의 총 매개 변수는 레이어의 전체 무게와 비스듬한의 합이다. 완전히 연결된 레이어의 경우, 계산은 출력 단위의 수에 의해 입력 단위의 수를 곱하고 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 비스듬한 콤한 콤한 콤한 비스듬한 콤비를 갖는다.

예를 들어, 100 입력 단위와 50 출력 단위의 레이어가 있습니다.

  • 무게: 100 x 50 = 5,000
  • 비스듬한: 50
  • 총 매개 변수: 5,050

Convolutional 층

convolutional 층에서는, 모수는 여과기 크기, 여과기의 수 및 입력 수에 달려 있습니다. 공식은:

매개변수의 수 = (filter 고도 x 여과기 폭 x 입력 수로 x 여과기의 수) + biases

Deployment에 대한 영향

매개 변수의 수를 감소시키고 모델 효율성을 향상시키고 메모리 사용량을 줄일 수 있습니다. 모델의 pruning, quantization과 같은 기술이 크게 희생 정확도없이이 목표를 달성하는 데 도움이됩니다.