बैकप्रोएगेशन एक मूलभूत एल्गोरिथ्म है जिसका उपयोग गहरे तंत्रिका नेटवर्क को प्रशिक्षित करने के लिए किया जाता है। इसमें नेटवर्क में प्रत्येक वजन के संबंध में नुकसान के कार्य के ग्रेडिएंट की गणना शामिल है, जिससे वजन अद्यतन करने की अनुमति मिलती है जो त्रुटियों को कम करती है। यह लेख बैकप्रोपेगेशन प्रक्रिया का चरण-दर-चरण अवलोकन प्रदान करता है, जो गहरे नेटवर्क को प्रशिक्षण देने में शामिल गणना पर ध्यान केंद्रित करता है।

फॉरवर्ड पास

प्रक्रिया एक आगे के पास से शुरू होती है, जहां नेटवर्क के माध्यम से इनपुट डेटा को प्रचारित किया जाता है। प्रत्येक न्यूरोन अपने इनपुट का भारित योग को संकलित करता है, एक पूर्वाग्रह जोड़ता है, और एक सक्रियण फ़ंक्शन लागू करता है। प्रत्येक परत का उत्पादन अगली परत के लिए इनपुट के रूप में कार्य करता है जब तक कि अंतिम भविष्यवाणी प्राप्त नहीं की जाती है।

हानि की गणना

एक बार नेटवर्क एक आउटपुट पैदा करता है, तो नुकसान समारोह भविष्यवाणी की गई उत्पादन और सही लेबल के बीच अंतर को मापता है। आम नुकसान कार्यों में मीन स्क्वायर त्रुटि और क्रॉस-एनट्रोपी शामिल हैं। लक्ष्य वजन समायोजन के माध्यम से इस नुकसान को कम करना है।

पिछड़ा पास: ढाल संगणन

बैकप्रोएशन के मूल में प्रत्येक वजन के संबंध में नुकसान के ढाल की गणना शामिल है। आउटपुट परत से शुरू होने पर, त्रुटि अवधि की गणना की जाती है और नेटवर्क के माध्यम से पिछड़े प्रचारित होती है। इसमें प्रत्येक परत पर डेरिवेटिव की गणना करने के लिए श्रृंखला नियम लागू करना शामिल है।

प्रत्येक न्यूरोन के लिए, त्रुटि शब्द को सक्रियण कार्य के व्युत्पन्न को गुणा करके निर्धारित किया जाता है जिसमें बाद की परत से त्रुटियों की भारित राशि होती है। इन त्रुटि शर्तों का उपयोग तब प्रत्येक वजन और पूर्वाग्रह के लिए ढाल की गणना के लिए किया जाता है।

वजन अद्यतन करना

गणना की गई ढाल का उपयोग करके, वजन आमतौर पर ढाली वंश के माध्यम से अद्यतन किया जाता है। अद्यतन नियम वर्तमान वजन से ढाल का एक अंश घटा देता है, जो सीखने की दर से नियंत्रित होता है। यह प्रक्रिया उत्तरोत्तर पुनरावृत्तियों पर नुकसान को कम करती है।

मुख्य चरणों का सारांश

  • भविष्यवाणियों की गणना करने के लिए आगे का कदम उठाएं।
  • भविष्यवाणियों और सच्चे लेबल के बीच नुकसान की गणना करें।
  • आउटपुट परत से शुरू होने वाली त्रुटि शर्तों को पीछे की ओर से जोड़ा गया।
  • प्रत्येक वजन और पूर्वाग्रह के लिए ढाल की गणना करें।
  • ढाल वंश का उपयोग करके वजन अद्यतन करें।