Fungsi aktivasi adalah komponen penting jaringan saraf. mereka menentukan apakah neuron harus diaktifkan atau tidak, mempengaruhi kemampuan jaringan untuk mempelajari pola kompleks. memahami bagaimana fungsi-fungsi ini bekerja dan bagaimana menghitungnya adalah fundamental dalam desain jaringan saraf.

Apa Fungsi Pengaktifan Itu?

Fungsi pengaktifan plin-anio memperkenalkan non-linearitas ke dalam jaringan. Tanpa mereka, jaringan saraf akan berperilaku seperti model linear, membatasi kapasitasnya untuk memecahkan masalah kompleks. mereka mengubah sinyal input menjadi sinyal output yang dapat dilewatkan ke lapisan selanjutnya.

Fungsi Pengaktifan Umum

  • [3]]Sigmoid: Output nilai antara 0 dan 1, berguna untuk estimasi probabilitas.
  • [[ZOGAL:0]]ReLU: Keluarkan masukan secara langsung jika positif; sebaliknya, nol. Ini efisien secara komparatif dan membantu pengosongan gradien.
  • [[ZANDAFLT:0]]Tanh: Output nilai antara -1 dan 1, berpusat di sekitar nol, yang dapat meningkatkan dinamika pelatihan.

Pengumpulan Fungsi Pengaktifan

Setiap fungsi aktivasi finol memiliki rumus matematika yang digunakan untuk menghitung keluarannya dari input. Sebagai contoh:

Sigmoid:
f(x) = 1 / (1 + e]-x])

ReLU:
f(x) = max(0, x)

tools Tanah:
f(x)= (e[x - e-x]] / (e]x] + e-x]]