Cómo calcular el número de parámetros en un modelo de red neuronal

Entender cómo calcular el número de parámetros en una red neuronal es esencial para diseñar y analizar modelos.Los parámetros incluyen pesos y sesgos que la red aprende durante el entrenamiento. Esta guía explica los pasos básicos para determinar el número total de parámetros en un modelo de red neuronal.

Parámetros en capas totalmente conectadas

En una capa completamente conectada (denso), cada entrada se conecta a cada neurona con un peso, y cada neurona tiene un término de sesgo. El número total de parámetros en tal capa se calcula como:

Número de parámetros = (Número de insumos × Número de neuronas) + Número de neuronas

Calculando parámetros en capas convolutivas

Para capas convolutivas, los parámetros dependen del tamaño del filtro, el número de filtros y canales de entrada. La fórmula es:

Número de parámetros = (Altura de la vela × Ancho de filtro × Número de canales de entrada × Número de filtros) + Número de filtros

Parámetros totales en el modelo

Para encontrar el número total de parámetros en una red neuronal, resumir los parámetros de todas las capas individuales. Esto proporciona una medida general de la complejidad y capacidad del modelo.

Cálculo de ejemplo

Considere un modelo con una capa totalmente conectada que recibe 100 entradas y produce 50 salidas. El número de parámetros es:

Este cálculo ayuda a comprender el tamaño y los requisitos de formación del modelo.