Syvien hermoverkkojen parametrien määrän ymmärtäminen on välttämätöntä niiden käyttöönoton optimoimiseksi erityisesti ympäristöissä, joissa on rajalliset laskentaresurssit. Tässä artikkelissa selitetään, miten lasketaan kokonaisparametrit eri hermoverkkoarkkitehtuurissa.

Peruslaskentamenetelmä

Neuroverkon parametrien kokonaismäärä on kaikkien painojen ja harhojen summa kerrosten välillä. Täysin kytkettyjen kerrosten osalta laskelmassa tuloyksiköiden lukumäärä kerrotaan tulostusyksiköiden lukumäärällä ja lisätään harhoja.

Esimerkiksi kerroksessa, jossa on 100 tuloyksikköä ja 50 tulostusyksikköä, on:

  • Painot: 100 x 50 = 5 000
  • Biaasit: 50
  • Parametrit yhteensä: 5.050

Konvolutionaaliset tasot

Konvolutionaalisissa kerroksissa parametrit riippuvat suodattimen koosta, suodattimien lukumäärästä ja syöttökanavista.

Parametrien lukumäärä = (suodattimen korkeus x suodattimen leveys x tulokanavat x suodattimien lukumäärä) + harhat

Vaikutus käyttöönottoon

Parametrien määrän vähentäminen voi parantaa mallin tehokkuutta ja vähentää muistin käyttöä. Mallin karsinta, kvantifiointi ja pienempien arkkitehtuurien käyttö auttavat saavuttamaan tämän tavoitteen uhraamatta merkittävästi tarkkuutta.