ויזואליזציה של מבנה עץ ההחלטות עבור מודל טוב יותר

ויזואליזציה של עץ במודרניזציה Machine Learning

עצי ההחלטות נשארים אבן הפינה של למידת מכונה מפרשית, המופרסים על המבנה האינטואיטיבי שלהם וקלות ההסבר. ובכל זאת כל מדען נתונים שאימן עץ על נתונים בעולם האמיתי נתקל במהירות בפרדוקס: בעוד עץ בודד הוא יקרא, עץ עמוק ובוגר באופן מלא הופך לעתים קרובות לסבך רצף ויזואלי של ענפים.ללא ויזואליזציה יעילה, אפילו האלגוריתם השקוף ביותר יכול להפוך לקופסא שחורה.

למה לדמיין עץ החלטות? Beyond Simple Interpretability

אימות מודל ו- Domain Alignment

ויזואליזציה של עץ מאפשרת למתרגלים לאמת כי הפיצולים של המודל הגיוניים בידע התחום.לדוגמה, עץ בסיכון אשראי המתפצל על "הכנסה קצבית" לפני "יחסי הכנסה" עשוי להתאים לאינטואיציה של הלוואות - אבל עץ שמתפצל על "אורך השם" יעלה מיד דגלים אדומים.

אבחון יתר והנתונים Leakage

עצים עמוקים עם עלות רבות לעתים קרובות מרעימים רעש.בדיקה חזותית יכול לחשוף פיצולים ספציפיים חשדנית (למשל, "גיל > 32.5 וגיל ⁇ 33.0) המציין overfitting. בדומה, עץ הכולל תכונה כמו "תעודת זהות אישית" בדלפה נתונים מפוצלת בבירור - בעיה שנתפסה בקלות כאשר העץ מוקרן באופן גרפי.

אמון עם קהלים לא טכניים

דרישות רגולטוריות (למשל, זכות ה-GDPR להסבר) ובעלי העניין העסקיים דורשים הפרשנות מודל לא ניתנת להשגה.אגרמת עץ מאובחנת היטב יכולה להיות מוצגת לקצין הלוואה או לרופא כדי להסביר מדוע חיזוי מסוים נעשה, לעתים קרובות יותר יעיל מרשימת ערכי SHAP.

שיטות לויזואליזציה של עץ החלטות: מ Static ועד אינטראקטיבי

Static Tree Diagrams with Graphviz ו- scikit-learn

הגישה הקלאסית משתמשת בתבנית DOT שניתן להפוך ל- PNG, PDF או SVG. התפוקה מראה כל צומת עם המצב המפוצל, Gini Impurity או entropy, מדגם והתפלגות מעמדית.

דוגמה לשימוש:

from sklearn.tree import export_graphviz
import graphviz
dot_data = export_graphviz(clf, out_file=None,
 feature_names=X.columns,
 class_names=iris.target_names,
 filled=True, rounded=True,
 special_characters=True)
graph = graphviz.Source(dot_data)
graph.render("iris_tree")

(FLT:0 scikit-learn's לייצא graphvizcio Document) ,1 מספק אפשרויות פרמטר מלאות כולל Node Coloring by Class.

ויזואליזציה משופרת עם dtreeviz

עבור עצים עשירים יותר, פרסום-ready, ספריית dtreeviz (על ידי Terence Parr) מציעה שיפורים משמעותיים על העלילה פיסול-לימוד ברירת המחדל.זה מראה את הפרסומות של הפצת נתונים בכל צומת מפוצל, גבולות בחירה צבעונית, ופרקי עלות מעמד.זה עוזר מאוד לפרשה על ידי הצגת לא רק את חוק ההחלטה אלא גם את הנתונים התומכים בה.

(FLT:0)dtreeviz על GitHubrovalLT:1) כולל דוגמאות לתוקפנות ולעצי סיווג, עם אפשרויות לגן עדן, לחסוך כמו SVG, ולהתאים אישית צבעים.

עצים אינטראקטיביים עם Plotly ו- D3.js

(ב) לבחינת, ויזואליזציה מעץ אינטראקטיבית מאפשרת למשתמשים לקריסה / ענפים, לרחף לפרטים, ולסינון על ידי Node.ly's FLT 3: or FLT:4s יכול לקודש את ההיררכיה של עץ, אם כי אין להם הפריסה המדויקת של דנדרגרם. גישה מיוחדת יותר משתמשת בספריות D3js כגון:0Plotlys tree, 000 מחסנים עץ לוח המחוונים של אדרבה או 1FLT5.

המונחים: Decision Tree Paths

לפעמים דיאגרמה מלאה אינה אידיאלית.במקום, המייצגת את נתיבי ההחלטות כמערך של כללי IF-theN ניתן לקרוא יותר, במיוחד עבור עצים רדודים. Libraries כמו FLT:6 לייצר עץ טקסטואלי שניתן לעבור בקלות לתיעוד או לשמש בסביבות מבלי לתת תמיכה.

היתרונות של ויזואליזציה יעילה בפרקטיקה

שיפור יכולת האינטרפוריות עבור אבחון

מפה חזותית ברורה של העץ מראה ישירות אשר תכונות שולטות בפיצולים מוקדמים - מעיד על חשיבותם - וכיצד הגבול של ההחלטה מתפתח.זה שימושי במיוחד כאשר השוואת יער אקראי או ⁇ שיפור לומדי בסיס: ויזואליזציה של עץ אחד מן האנסמבל יכול להדגיש דפוסים ייצוגיים.

דוגמנות וזיהוי

ויזואליזציה יכולה לחשוף הטיה מוקדם. נניח שעץ מתחלק ל"קוד הzip" ליד השורש, ונתוני האימון הם מאוד לא מאוזנים בכל האזורים.העץ המתקבל עלול לסכן גבוה לשכונות שלמות, תוך כוונון אפליה גיאוגרפית.

ערך חינוכי לכל הרמות

במסגרות אקדמיות, ויזואליזציה של העצים הופכת מושגים מתמטיים מופשטים לתמונות קונקרטיות.תלמידים יכולים לעקוב אחר חיזוי דרך העץ, להתבונן כיצד צמח הטרופי יורד, ולתאם פיצולים עם מחסומים אופייניים.

אתגרים בויזואליזציה של עצים גדולים וכיצד להתגבר עליהם

גודל ומגבלות סקלאלה

עץ בעל עומק 20 ואלף צמתים לא ניתן להפוך לדימוי אחד שניתן לקרוא.

(ב) ב-Sikit-learning: 1FLT (בקיצור:0) השתמש בעומס עלות (ccp alpha) ב- scikit-learning כדי להפחית את גודל העץ לפני הדמיון.עץ מחוספס לעתים קרובות שומר על הפיצולים החשובים ביותר בעת ויזואלית.
(ב) ⁇ :0) ⁇ : ⁇ ⁇ רק תת-קרקעית מהשורש עד לעומק מוגבל (למשל, 4 רמות) ושימו לב כי קיימים דרכים עמוקות יותר.
(ב) ⁇ 0) , במקום לחבוש את העץ המלא, השתמש ב ⁇ בר חשיבות או בתפיסות התלות החלקיות כדי להעביר את התנהגות המודל.

מידע Overload

אפילו עץ בינוני בגודל בינוני יכול להיות עשרות צמתים, לבחור מה להציג בזהירות.

להראות רק קריטריונים מפוצלים ורוב הכיתה, הקטנת ספירות דגימות וערכים של חוסר פשרות.
צמתים צבעוניים על ידי כיתת חזו לראות במהירות אזורי החלטה.
השתמש בגודל של node ביחס למספר הדגימות כדי להדגיש תת-פופוכות חשובות.

Best Practices for Production-Ready Tree Visualization

(ב) ,0) תמיד כוללים שמות ותיוגים של מעמדות: ⁇ 1 , ⁇ numeric Indices אינם קריאים.
(ב) ויקרא י"א: "וַיָּבְתָּעָה הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא הוּא .
(ב) ב[[1924]], [[1924]], [[1924]]]], [[1924]]]], [[1924]]]], [[1924]]]], [[1924]]]]]], [[1924]]]]]], [[1924]]]]]], [[1924]]]]]], [[1924]]]]]], [[1924]]]]
(ב) ⁇ (ב) ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
(ב) עם הסברים אבולוציוניים מודל-אגנוסטיים (FLT:1 ), כמו רצף SHAP עבור פרשת פרשנות מלאה.אבל זכרו כי מבנה העץ הוא בלתי ניתן לפירוש – אל תחליף אותו, להגדיל אותו.
(ב) ,0) חישוב הקהל (FLT:1 ), מדען נתונים עשוי להעריך ערכים חד-משמעיים מלאים; בעל עסק יכול רק צריך את שני הפיצולים המובילים.

אפשרויות לראייה: לא רק העץ

עבור הסברים לחיזוי פרטני, מעקב אחר נתיב ההחלטה דרך עץ יכול להיות יותר אינפורמטיבי מאשר כל מבנה העץ.דרך היא רשימה של החלטות שהתקבלו (הפסקה) המוביל אל עלה.זה יכול להיות ויזואלי כהגדרה אופקית או רשימת קליעים. Libraries כמו FLT:9 (עבור פיסול-learn) לנבא תחזית לכל דרך חלוקה מחדש של "תרומה אישית" מספק "מתכונת חזקה" עבור כל תכונה "משלב" (IQ" (עבור ויזואלית" (עבור סימולציה) , "משלבת" (For scikit-learning) , "משלבת) סימולציה) ," נותן כל דרך כל תכונה בעלת כל תכונה בעלת חיזוי חיזוי ויזואלית" מספק "משלב" תכונה בעלת עוצמה.

דוגמה: החלטת SHAP עבור מודל עץ

בעוד ערכי SHAP הם אגנוסטיים, עבור מודלים עץ ה-FLT:10 ישירות משתמש במבנה העץ.מזימה של החלטה SHAP מראה כיצד הערך הנבאי (או ההסתברות) מצטבר כאשר אנו נעים מטה את העץ, עם תכונות שנוספו אחד על ידי אחד.מזימה זו היא הדמיה של נתיב העץ, לא העץ המלא, אבל הוא שומר על היתרון הפרשנות של הצגת רצף ההחלטה המדויקת.

מסקנה

מבני עץ ההחלטות חזותיים נשאר אחד הדרכים היעילות ביותר לגשר על הפער בין מורכבות המודל לבין ההבנה האנושית.מאגרמות גרפיוץ סטטי לעצים D3.js אינטראקטיביים, הכלים הזמינים כיום מאפשרים ליצור ויזואליזציה המשרתת מטרות מרובות: bugging, אימות, חינוך ותקשורת.המפתח הוא לבחור את הרמה הנכונה של הפרט עבור הקהל ולהשלים את העץ עם דיאגרמות אחרות כאשר הם עדיין לא נראים, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, כדי לשפר נתונים לא נראים, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, אלא גם כן, אם כן, את רמת הדיוק, אלא תקשורת.