การปรับใช้ความเข้ม: การคํานวณการสอนของเครื่องจักรทีละขั้น

การไล่ระดับความไล่ระดับสีเทาเป็นอัลกอริทึมการปรับค่าความชื่นชอบ ที่ใช้ในการลดฟังก์ชันลงโดย การเคลื่อนไปยังจุดต่ําสุดอย่างต่ํา โดยมันถูกใช้อย่างแพร่หลายในการเรียนรู้ของเครื่อง เพื่อปรับแต่งรุ่น โดยปรับพารามิเตอร์เพื่อลดความผิดพลาด บทความนี้อธิบายการคํานวณทีละขั้นที่เกี่ยวกับการไล่ระดับเกรเดียนสําหรับงานการเรียนรู้ของเครื่อง

การ เข้าใจ แบบ ค่อย เป็น ค่อย ไป

แนวคิดหลักของเกรเดียนต์คือการปรับปรุงพารามิเตอร์แบบจําลอง ในทิศทางของค่าเกรเดียนต์ลบของฟังก์ชันการสูญเสีย กระบวนการนี้จะดําเนินต่อไปจนกระทั่งพารามิเตอร์เข้าหาจุดต่ําสุด โดยอุดมคติที่สุดคือ ค่าต่ําสุดของโลก

โพรเซสคํานวณอัตโนมัติทีละขั้น

สมมุติว่าเรามีแบบจําลองความถดถอยเชิงเส้นแบบง่าย ๆ ที่มีฟังก์ชันการสูญเสีย เช่น การวิเคราะห์ความผิดพลาดแบบ transled (MSE). ขั้นของการประมวลผลเกรเดียนคือ:

• เริ่มใช้พารามิเตอร์ (เช่น น้ําหนักและอคติ) โดยมีค่าสุ่มน้อย
• คํานวณผลลัพธ์ที่คาดการณ์ไว้โดยใช้พารามิเตอร์ปัจจุบัน
• คํานวณค่าฟังก์ชันข้อมูลสูญหาย โดยใช้พื้นฐานการคาดการณ์และข้อมูลจริง
• คํานวณเกรเดียนของฟังก์ชันการสูญเสีย เทียบกับแต่ละพารามิเตอร์
• ปรับปรุงพารามิเตอร์แต่ละตัวด้วยการลบผลคูณของอัตราการเรียนรู้และเกรเดียนที่ตรงกับ

กระบวนการนี้ซ้ําอีกครั้งสําหรับจํานวนครั้งที่เริ่มเล่น หรือจนกว่าการสูญเสียจะลดลง

การคํานวณตัวอย่าง

ลองพิจารณาจุดข้อมูลแบบเดียวที่มี [FLT: 0] x = 2[FLT: 1) และผลลัพธ์ ] hy = 4. เริ่มการชั่งน้ําหนัก[FLTT: 4]. w= 0.5[FTT: 5]. สัดส่วน [FLT: 6] b[FLT]. [FLT: 7]. ใช้อัตราการเรียน [FLTT: 8]. มาตรา ค.ศ.

คํานวณการคาดการณ์: = wx + b = 0.5 * 2 + 0 = 1

ความผิดพลาดของคอมโพท: [FLT: 0] การก่อการร้าย = ⁇ - y = 1 - 4 = -3

การไล่ระดับสี:

Pluple w.r.t. น้ําหนัก: [[FLT: 0] L/ ⁇ w = 2 * ความผิดพลาด * x = 2 * (-3) * 2 = -12

Pluple w.r.t. อคติ: L/ ⁇ b = 2 * ความผิดพลาด = 2 * (-3) = -6

พารามิเตอร์ปรับปรุง:

น้ําหนักใหม่: w = 0.5 - 0.1 * (-12) = 0.5 + 1.2 = 1.7

อคติใหม่: b = 0–0. * (-6) = 0+0.6 = 0.6