As funções de ativação são componentes essenciais das redes neurais. Determinam a saída de um neurônio com base em sua entrada, permitindo que a rede aprenda padrões complexos. Este artigo explica como calcular as funções de ativação passo a passo.

Compreender as Funções de Ativação

As funções de ativação transformam os sinais de entrada em saídas que podem ser usadas por camadas subsequentes. As funções comuns incluem sigmoid, tanh e ReLU. Cada um tem propriedades únicas que afetam o processo de aprendizagem.

Calculando a Função Sigmóide

A função sigmóide é definida como f(x) = 1 / (1 + e-x[]]][. Para calcular:

  • Introduza o valor de x.
  • Calcular a exponencial de -x.
  • Adicione 1 a este exponencial.
  • Dividir 1 pelo resultado para obter a saída.

Calculando a função ReLU

A unidade linear retificada (ReLU) é simples: f(x) = max(0, x). Para calcular:

  • Introduza o valor de x.
  • Se x for maior que 0, saída x.
  • Se x for menor ou igual a 0, saída 0.

Calculando a Função de Tanh

A função tangente hiperbólica é f(x) = (ex - e-x[) / (ex + e-x[]]][]. Para calcular:

  • Calcular ex e e-x.
  • Subtrair e-x] de ex.
  • Adicionar ex e e-x.
  • Dividir a diferença pela soma para obter a saída.