Ang gradient desced ay isang optimisasyong algorithm na ginagamit upang bawasan ang isang tungkulin sa pamamagitan ng adaptasyong tumutungo sa pinakamababang punto. ito ay malawak na ginagamit sa pag-aaral ng makina upang maging perpekto ang mga modelo sa pamamagitan ng pag-aangkop ng mga parameter upang mabawasan ang pagkakamali. Ang artikulong ito ay nagpapaliwanag ng mga kalkulasyong hakbang-by-paa na kasangkot sa paglalagay ng downclead para sa mga gawaing pagkatuto ng makina.

Pag - unawa sa Lipas na Algorithm

Ang pinaka - ugat na ideya ng pagbaba ng mga gilid ay ang pag - update ng mga model para sa direksiyon ng negatibong pag - ikli ng kawalan.

Hakbang-by-Track Asspectation Proseso

Ipagpalagay nang mayroon tayong simpleng linear regression model na may lugi, gaya ng Mean Squared Error (MSE).

  • Unang ginawa ang mga parameter (hal.g., mga pabigat at pagkiling) na may maliit na mga pasumala na halaga.
  • Tuusin ang hinulaang output gamit ang kasalukuyang mga parameter.
  • Pag - usapan ang halaga ng pagkawala batay sa mga prediksiyon at aktuwal na impormasyon.
  • Suriin ang pag - urong ng kawalan kung tungkol sa bawat parameter.
  • I - iskedyul ang bawat parameter sa pamamagitan ng pagbabawas sa produkto ng bilis ng pagkatuto at ng katumbas na pag - akyat sa bundok.

Ang prosesong ito ay umuulit para sa isang takdang bilang ng mga serbisiyo o hanggang sa ang pagbabago sa kawalan ay maging bale wala.

Halimbawang Pagkalkula

Isaalang - alang ang isang punto ng datos na may input x = 2 at output y = 4. Panimulain ang timbang w = 0.5 at pagkiling [[FL][[[[[[[[[[[[[[]]b = 0. Gamitin ang bilis ng pagkatuto [[T][T][0][0][0][0][0][0][0][0][0][0][0][0][0][0][[[[[[[0]]]] [[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[[

Hula: ⁇ = wx + b = 0.5 * + 0 = 1]

Kasaping kamalian: [[[[[4:1] [ ⁇ ]]

Mga Hulog ng Kantiyaming:

Gardient w.r.t. timbang: ⁇ L/ ⁇ w = 2 * pagkakamali * x = 2 * (-3) * * * * 2 = -12

Kabihasnan w.r.t. pagkiling: [L/ifib = 2 * error = 2 * (-3) = -6]

Updated parameter:

Bagong bigat: w = 0.5 - 0.1 * (-12) = 0.5 + 1.2 = 1.7

Bagong pagkiling: b = 0 - 0.1 * (-6) = 0 + 0.6 = 0.6]