बेहतर मॉडल व्याख्याता के लिए निर्णय वृक्ष संरचनाओं को विज़ुअलाइज़ करना

आधुनिक मशीन लर्निंग में ट्री विजुअलाइजेशन का इम्पेरेटिव

निर्णय पेड़ दुभाषिया मशीन सीखने का एक कोने का पत्थर बने रहते हैं, जो उनकी सहज संरचना और स्पष्टीकरण में आसानी के लिए पुरस्कृत किया जाता है। फिर भी किसी भी डेटा वैज्ञानिक ने वास्तविक दुनिया के डेटा पर एक पेड़ को प्रशिक्षित किया है, जो एक पैराडॉक्स का जल्दी सामना करता है: जबकि एक एकल उथले पेड़ को तिरछे पठनीय रूप से पढ़ने योग्य है, एक गहरा, पूरी तरह से विकसित पेड़ अक्सर शाखाओं का एक अविनाशी उलझन बन जाता है। प्रभावी दृश्य के बिना, यहां तक कि सबसे पारदर्शी एल्गोरिदम एक ब्लैक बॉक्स बन सकता है। यह लेख विस्तार करता है कि निर्णय पेड़ संरचनाओं को देखने के लिए केवल एक अच्छा-टू-आवश्यक तरीका नहीं है - यह वैधता, डीबगिंग, शिक्षा और हितधारक संचार के लिए एक महत्वपूर्ण अभ्यास है।

क्यों निर्णय पेड़ों को दृश्यित? सरल व्याख्याशीलता से परे

मॉडल सत्यापन और डोमेन संरेखण

एक पेड़ को देखने से चिकित्सकों को यह सत्यापित करने की अनुमति मिलती है कि मॉडल के सीखा विभाजन ने डोमेन ज्ञान को दिया है। उदाहरण के लिए, एक क्रेडिट-जोखिम पेड़ जो "अनंतिम आय" पर विभाजित होता है, इससे पहले कि "डेबेट-टू-इंमोम अनुपात" उधार लेने के साथ गठबंधन हो सकता है - लेकिन एक ऐसा पेड़ जो "नाम लंबाई" पर विभाजित होता है, तुरंत लाल झंडे को बढ़ा देता है। प्रत्येक नोड पर सटीक थ्रेसहोल्ड और फीचर चयन को देखते हुए एक गट जांच प्रदान करता है कि कोई R2 या सटीकता मीट्रिक प्रतिस्थापित नहीं कर सकता है।

ओवरफिटिंग और डेटा रिसाव का निदान करना

कई पत्ती नोड्स के साथ गहरे पेड़ अक्सर शोर को याद करते हैं। एक दृश्य निरीक्षण संदिग्ध रूप से विशिष्ट विभाजन (जैसे, "age> 32.5 और आयु ≤ 33.0") को प्रकट कर सकता है जो अतिव्यापी संकेत देता है। इसी तरह, एक पेड़ जिसमें एक विभाजन स्पष्ट संकेत डेटा रिसाव में "ग्राहक आईडी" जैसी सुविधा शामिल है - एक समस्या आसानी से तब पकड़ी जाती है जब पेड़ को ग्राफिक रूप से साजिश में लाया जाता है।

गैर-तकनीकी दर्शकों के साथ बिल्डिंग ट्रस्ट

नियामक आवश्यकताओं (जैसे, GDPR की व्याख्या का अधिकार) और व्यावसायिक हितधारक मांगों को मॉडल व्याख्यात्मकता को गैर-परक्रामक बनाने की मांग की जाती है। एक अच्छी तरह से नामित वृक्ष आरेख को एक ऋण अधिकारी या चिकित्सक को यह समझाने के लिए दिखाया जा सकता है कि एक विशेष भविष्यवाणी क्यों की गई थी, अक्सर SHAP मूल्यों की सूची से अधिक प्रभावी ढंग से।

विज़ुअलाइज़िंग डिसीजन ट्री के तरीके: स्टेटिक से इंटरएक्टिव तक

Graphviz और scikit-learn के साथ स्टेटिक ट्री आरेख

क्लासिक दृष्टिकोण scikit-learn's समारोह के माध्यम से का उपयोग करता है। यह DOT प्रारूप में एक ग्राफ उत्पन्न करता है जिसे PNG, PDF या SVG के रूप में प्रस्तुत किया जा सकता है। आउटपुट प्रत्येक नोड को विभाजित स्थिति, गिनी अशुद्धता या एन्ट्रोपी, नमूना गणना और वर्ग वितरण के साथ दिखाता है। पेड़ों के लिए, से छोटे, कहते हैं, 10 स्तर, यह प्रभावी है। हालांकि, इससे परे आरेख असाध्य हो जाता है।

उदाहरण के लिए:

from sklearn.tree import export_graphviz
import graphviz
dot_data = export_graphviz(clf, out_file=None,
 feature_names=X.columns,
 class_names=iris.target_names,
 filled=True, rounded=True,
 special_characters=True)
graph = graphviz.Source(dot_data)
graph.render("iris_tree")

scikit-learn's export graphviz (] क्लास द्वारा नोड रंग सहित पूर्ण पैरामीटर विकल्प प्रदान करता है।

Dtreeviz साथ बढ़ी हुई दृश्यता

अमीर, प्रकाशन-रीडी पेड़ों के लिए, डेट्रेविज़ लाइब्रेरी (टेरेंस पारर द्वारा) डिफ़ॉल्ट स्किकिट-लर्न प्लॉट पर महत्वपूर्ण सुधार प्रदान करती है। यह प्रत्येक विभाजित नोड, रंगीन निर्णय सीमाओं और पत्ती वर्ग के टूटने पर डेटा वितरण के हिस्टोग्राम को दर्शाता है। यह व्याख्यात्मकता को केवल निर्णय नियम नहीं बल्कि इसके समर्थन के डेटा को दिखाकर भी मदद करता है।

GitHub पर Dtreeviz, में प्रतिगमन और वर्गीकरण पेड़ों के लिए उदाहरण शामिल हैं, ज़ूम करने के विकल्प के साथ, SVG के रूप में सहेजें, और रंग अनुकूलित करें।

Plotly और D3.js के साथ इंटरएक्टिव पेड़

अन्वेषण के लिए, इंटरैक्टिव पेड़ दृश्यता उपयोगकर्ताओं को शाखाओं को पतन करने / विस्तार करने की अनुमति देती है, विवरण के लिए होवर करती है, और नोड द्वारा फ़िल्टर करती है। प्लाटली का या ] आरेख पेड़ की हिर्ची को एनकोड कर सकते हैं, हालांकि उन्हें एक डेंडरोग्राम के सटीक लेआउट की कमी है। एक और विशेष दृष्टिकोण D3.js पुस्तकालयों जैसे ]]Plotly's ट्री प्लॉटिंग उपयोगिता या React आधारित डैशबोर्ड के लिए पैकेज का उपयोग करता है।

वैकल्पिक प्रतिनिधित्व: निर्णय पेड़ पथ नियम के रूप में

कभी-कभी एक पूर्ण आरेख आदर्श नहीं है। इसके बजाय, IF-THEN नियमों के एक सेट के रूप में निर्णय पथ का प्रतिनिधित्व अधिक पठनीय हो सकता है, विशेष रूप से उथले पेड़ों के लिए। पुस्तकालयों जैसे एक पाठ्य पेड़ का उत्पादन करते हैं जिसे आसानी से प्रलेखन में चिपकाया जा सकता है या समर्थन प्रदान किए बिना वातावरण में इस्तेमाल किया जा सकता है।

अभ्यास में प्रभावी दृश्यता के लाभ

निदान के लिए बेहतर व्याख्याता

पेड़ के एक स्पष्ट दृश्य मानचित्र सीधे दिखाता है कि कौन से सुविधाओं में प्रारंभिक विभाजन पर हावी है - उनके महत्व के संकेत - और निर्णय सीमा कैसे विकसित होती है। यह विशेष रूप से उपयोगी है जब यादृच्छिक जंगल या ढाल बढ़ाने वाले आधार शिक्षार्थियों की तुलना में: एक पहनावा से एक पेड़ को देखने से प्रतिनिधि पैटर्न को उजागर कर सकता है।

मॉडल डिबगिंग और बायस डिटेक्शन

दृश्यता पहले पूर्वाग्रह प्रकट कर सकती है। मान लीजिए कि जड़ के पास "zip code" पर एक पेड़ को विभाजित किया गया है, और प्रशिक्षण डेटा पूरे क्षेत्रों में असंतुलित है। परिणामस्वरूप पेड़ पूरे पड़ोस को उच्च जोखिम सौंप सकता है, भौगोलिक भेदभाव को खत्म कर सकता है। आरेख में इस तरह के विभाजन को देखते हुए डेटा वैज्ञानिक को सुविधा के निष्पक्षता प्रभाव की जांच के लिए प्रेरित करता है।

सभी स्तरों के लिए शैक्षिक मूल्य

शैक्षणिक सेटिंग्स में, पेड़ों को देखने से अमूर्त गणितीय अवधारणाओं को ठोस चित्रों में परिवर्तित किया जाता है। छात्र पेड़ के माध्यम से भविष्यवाणी का पता लगा सकते हैं, यह देख सकते हैं कि एन्ट्रापी कैसे घट जाती है, और फीचर थ्रेसहोल्ड के साथ विभाजन को तोड़ देती है। R2D3 के इंटरैक्टिव निर्णय पेड़ जैसे उपकरण लोकप्रिय शिक्षण सहायक बन गए हैं।

बड़े पेड़ों को देखने और उन्हें कैसे ओवरकॉम करें

आकार और स्केलेबिलिटी सीमा

गहराई वाले 20 और कई हजार नोड्स वाले पेड़ को एक पठनीय छवि के रूप में प्रस्तुत नहीं किया जा सकता है। आम वर्कअराउंड में शामिल हैं:

Pruning: का प्रयोग करें लागत-संयोजन pruning (ccp alpha) in scikit-learn to the पेड़ के आकार को कम करने से पहले विज़ुअलाइज़ेशन. एक pruned पेड़ अक्सर दृष्टि से वापस लेने योग्य होने के दौरान सबसे महत्वपूर्ण विभाजन को बरकरार रखता है।
]Subsampling: केवल एक subtree को जड़ से नीचे एक सीमित गहराई (जैसे, 4 स्तर) तक विज़ुअलाइज़ करें और ध्यान दें कि गहरे रास्ते मौजूद हैं।
]Aggregate Views: पूर्ण पेड़ की साजिश के बजाय, मॉडल के व्यवहार को व्यक्त करने के लिए फीचर महत्व बार चार्ट या आंशिक निर्भरता साजिशों का उपयोग करें।

सूचना अतिभार

यहां तक कि एक मामूली आकार का पेड़ में दर्जनों नोड्स हो सकते हैं। ध्यान से प्रदर्शित करने के लिए क्या चुनें। विकल्प:

केवल विभाजित मानदंडों और वर्ग बहुमत, नमूना गिनती और अशुद्धता मानों को छोड़ दें।
कक्षावार नामांकन के अनुसार निर्णय क्षेत्रों को शीघ्रता से देखने के लिए।
महत्वपूर्ण उप-लोकन पर जोर देने के लिए नमूने की संख्या के अनुपात में नोड आकार का उपयोग करें।

उत्पादन-रेडी ट्री विज़ुअलाइज़ेशन के लिए सर्वश्रेष्ठ प्रैक्टिस

]Always में फीचर नाम और क्लास लेबल शामिल हैं। रॉ न्यूमेरिक इंडेक्स अप्राप्य हैं।
Use ]]] और प्रत्येक नोड पर वर्ग वितरण को व्यक्त करने के लिए एक अनुक्रमिक रंगमैप का उपयोग करें।
Set ]]] in the विज़ुअलाइज़ेशन एक्सपोर्ट यहां तक कि अगर पेड़ गहरा है। 3-5 की गहराई आमतौर पर स्पष्टीकरण के लिए पर्याप्त है।
]]]]]]]]]]]]] रिपोर्ट में स्केलेबिलिटी के लिए।
]] मॉडल-एग्नोस्टिक स्पष्टीकरण के साथ संयोजन जैसे पूरे व्याख्याता के लिए SHAP सारांश भूखंडों. लेकिन याद रखें कि पेड़ की संरचना स्वाभाविक रूप से व्याख्या करने योग्य है- इसे प्रतिस्थापित नहीं करना, इसे बढ़ा देना।
]]Consider the दर्शकों. एक डेटा वैज्ञानिक पूर्ण अशुद्धता मान की सराहना कर सकते हैं; एक व्यापार हितधारक को केवल शीर्ष दो विभाजन की आवश्यकता हो सकती है।

उन्नत: दृश्य निर्णय पथ - सिर्फ पेड़ नहीं

व्यक्तिगत भविष्यवाणी स्पष्टीकरण के लिए, एक पेड़ के माध्यम से निर्णय पथ को ट्रेस करना पूरे पेड़ की संरचना की तुलना में अधिक जानकारीपूर्ण हो सकता है। एक पथ एक निश्चित सूची है जिसे निर्णयों (विशेषता > सीमा) ने पत्ती की ओर ले जाने के लिए किया। इसे क्षैतिज प्रवाह या बुलेट सूची के रूप में देखा जा सकता है। पुस्तकालयों जैसे (स्किट-लर्न के लिए) प्रत्येक विभाजन से योगदान में एक भविष्यवाणी को अस्वीकार करते हैं। सुविधा योगदान के साथ पथ दृश्यता का संयोजन किसी भी भविष्यवाणी के लिए एक शक्तिशाली "व्यक्तिगत व्याख्या" देता है।

उदाहरण: एक पेड़ मॉडल के लिए SHAP निर्णय प्लॉट

जबकि SHAP मान अज्ञोषिक हैं, पेड़ मॉडल के लिए सीधे पेड़ संरचना का उपयोग करता है। एक SHAP निर्णय साजिश से पता चलता है कि कैसे भविष्यवाणी की गई मान (या संभावना) पेड़ को नीचे ले जाने के रूप में जमा होती है, सुविधाओं के साथ एक-एक करके जोड़ा गया। यह साजिश पेड़ पथ का दृश्य है, पूर्ण पेड़ नहीं, बल्कि यह सटीक निर्णय अनुक्रम दिखाने की व्याख्यात्मकता लाभ को बरकरार रखता है।

निष्कर्ष

निर्णय वृक्ष संरचनाओं को दृश्य बनाना मॉडल जटिलता और मानव समझ के बीच अंतर को दूर करने के सबसे प्रभावी तरीके में से एक है। स्थैतिक graphviz आरेख से इंटरैक्टिव D3.js पेड़ों तक, आज उपलब्ध उपकरण दृश्य बनाने के लिए संभव बनाते हैं जो कई उद्देश्यों को पूरा करते हैं: डीबगिंग, वैधता, शिक्षा और संचार। कुंजी दर्शकों के लिए विस्तार के सही स्तर का चयन करना है और आवश्यक होने पर अन्य व्याख्यात्मक तकनीकों के साथ वृक्ष आरेख का पूरक बनाना है। स्पष्ट, विचारशील वृक्ष दृश्यीकरण में निवेश करके, डेटा वैज्ञानिक न केवल मॉडल ट्रस्ट में सुधार करते हैं बल्कि छिपे हुए दोषों की खोज भी करते हैं जो अन्यथा मीट्रिक की सूची में अदृश्य रहेंगे।