Table of Contents
ग्रेडिएंट वंश एक मूलभूत अनुकूलन एल्गोरिदम है जिसका उपयोग प्रशिक्षण पर्यवेक्षक मशीन लर्निंग मॉडल में किया जाता है। यह मॉडल मापदंडों को समायोजित करके त्रुटि फ़ंक्शन को कम करने में मदद करता है। यह समझना कि कैसे निष्क्रिय हो जाए और इस विधि को लागू करना प्रभावी मॉडल प्रशिक्षण के लिए आवश्यक है।
ग्रैडिएंट डेसेंट का डेरिवेशन
ढाल वंश के मुख्य विचार में मॉडल मापदंडों के संबंध में हानि समारोह के ढाल की गणना शामिल है। यह ढाल खड़ी वृद्धि की दिशा को इंगित करता है। नुकसान को कम करने के लिए, मापदंडों को ढाल की विपरीत दिशा में अद्यतन किया जाता है।
गणितीय रूप से, पैरामीटर अद्यतन नियम के रूप में व्यक्त किया जाता है:
] θ new]] = θ]old - ÉL(] θ]]]]
कहाँ मॉडल मापदंडों का प्रतिनिधित्व करता है, ] É सीखने की दर है, और UML(θ)] नुकसान समारोह का gradient है।
Gradient Descent को लागू करना
ढाल वंश लागू करने के लिए, निम्नलिखित चरणों का पालन आम तौर पर किया जाता है:
- यादृच्छिक रूप से या विशिष्ट मूल्यों के साथ मॉडल पैरामीटर शुरू करना।
- वर्तमान मापदंडों और प्रशिक्षण डेटा के आधार पर नुकसान समारोह की गणना करें।
- प्रत्येक पैरामीटर के संबंध में नुकसान के ढाल को पूरा करें।
- ढाली वंश नियम का उपयोग करके मापदंडों को अद्यतन करें।
- प्रक्रिया को तब तक दोहराएं जब तक कि नुकसान का नुकसान हो जाता है या पुनरावृत्ति की एक निर्धारित संख्या तक पहुंच जाती है।
लर्निंग रेट का चयन करना
सीखने की दर É प्रत्येक अद्यतन चरण के आकार को निर्धारित करता है। एक छोटी सी सीखने की दर धीमी गति से अभिसरण हो सकती है, जबकि एक बड़ा व्यक्ति न्यूनतम ओवरशूट हो सकता है। एक उचित सीखने की दर का चयन प्रभावी प्रशिक्षण के लिए महत्वपूर्ण है।