Aktiveringsfunksjoner er viktige komponenter i nevrale nettverk. De bestemmer utgangen til en nevron basert på dens inngang, slik at nettverket kan lære komplekse mønstre. Denne artikkelen forklarer hvordan du beregner aktiveringsfunksjoner trinn for trinn.

Forstå aktiveringsfunksjoner

Aktiveringsfunksjoner forvandler inngangssignalene til utganger som kan brukes av påfølgende lag. Vanlige funksjoner inkluderer sigmoid, tanh og ReLU. Hver har unike egenskaper som påvirker læringsprosessen.

Beregner Sigmoid-funksjonen

Sigmoidfunksjonen er definert som ]f(x) = 1 / (1 + e]-x]]]]. For å beregne den:

  • Skriv inn verdien av x.
  • Beregn eksponentialen av -x.
  • Legg til 1 i denne eksponentielle.
  • Del 1 med resultatet for å få utgangen.

Beregne relu-funksjonen

Den rektifiserte lineære enheten (ReLU) er enkel: ] f(x) = max(0, x).

  • Skriv inn verdien av x.
  • Hvis x er større enn 0, utgang x.
  • Hvis x er mindre enn eller lik 0, utgang 0.

Beregner Tanh-funksjonen

Den hyperbolske tangentfunksjonen er f(x) = (e]x] - e]]-x] / (e]x] + e]-x])].

  • Beregn e]x og e]-x].
  • Trekk e-x] fra e]x].
  • Legg til e]x og e]-x].
  • Del forskjellen med summen for å få utgangen.