पर्यवेक्षण शिक्षा मशीन लर्निंग का एक मुख्य क्षेत्र है जिसमें लेबल डेटा का उपयोग करके प्रशिक्षण मॉडल शामिल हैं। गणितीय नींव को समझना नुकसान कार्यों और उनके ढाल को अलग करके प्रभावी एल्गोरिदम डिजाइन करने में मदद करता है, जो अनुकूलन प्रक्रिया का मार्गदर्शन करता है।

पर्यवेक्षण शिक्षा में हानि कार्य

हानि कार्यों को एक मॉडल और वास्तविक लेबल के अनुमानित आउटपुट के बीच असंतोष को मापता है। वे एक स्केलर मान प्रदान करके प्रशिक्षण मॉडल के लिए आवश्यक हैं जो इंगित करता है कि मॉडल कितनी अच्छी तरह से करता है।

आम नुकसान कार्यों में शामिल हैं: वर्ग त्रुटि (MSE) प्रतिगमन कार्यों के लिए और वर्गीकरण कार्यों के लिए क्रॉस-एंट्रोपी हानि। हानि समारोह की पसंद सीखने की प्रक्रिया और अभिसरण व्यवहार को प्रभावित करती है।

नुकसान कार्यों के लिए हानिकारक ग्रेडिएंट

ग्रेडिएंट मॉडल मापदंडों के संबंध में हानि समारोह के डेरिवेटिव हैं। वे प्रशिक्षण के दौरान नुकसान को कम करने के लिए आवश्यक समायोजन की दिशा और परिमाण को इंगित करते हैं।

उदाहरण के लिए, MSE के स्नातक एक भविष्यवाणी (hat{y}) के संबंध में (2(hat{y} - y)) है, जहां (y) सही लेबल है। यह व्युत्पन्न क्रमिक वंश एल्गोरिदम में अद्यतन नियम का मार्गदर्शन करता है।

अनुकूलन Gradients का उपयोग

ढाले वंश एल्गोरिदम क्रमिक रूप से मॉडल मापदंडों को अद्यतन करते हैं जो ढाल के विपरीत दिशा में आगे बढ़कर करते हैं। यह प्रक्रिया हानि समारोह को कम करती है, समय के साथ मॉडल सटीकता में सुधार करती है।

  • वर्तमान भविष्यवाणियों के लिए नुकसान की गणना करें।
  • मापदंड के संबंध में नुकसान के ढाल को पूरा करें।
  • एक स्केल्ड ढाल को घटाकर अद्यतन पैरामीटर।
  • जब तक अभिसरण या रोक मानदंड पूरा नहीं हो जाते तब तक दोहराएं।