בניית עץי החלטות לערכת סיכונים אשראי בבנקאות

מבוא

הערכת הסיכון אשראי היא אבן הפינה של פעולות בנקאיות קול.לנדרים חייבים להבחין בין הלווים אשר ישחזרו על הזמן לבין אלה אשר צפויים להיות ברירת מחדל.היסטורית, בנקים נשענים על שיפוט אנושי ומודלים פשוטים של ניקוד, אבל המורכבות של תיקונים מודרניים דורש כלים יותר מתוחכם. עצי החלטות מציעים שיטות שקופות, אינטואיטיביות, ושיטת רבת לסווגן סיכון אשראי.

מה הם עצי ההחלטות?

עץ החלטות הוא אלגוריתם למידה מכונה בפיקוח המשתמש במבנה דמוי זרימה כדי לקבל תחזיות.זה מורכב מצומת שורש (התחזית כולה), צמתים פנימיים (נקודות סודיות המבוססות על תכונה), ענפים (ללא מבחן), ועלות על צמתים (תחזיות סופיות) לסיכון אשראי, המטרה היא לסווג את הלווה כ"הגנה" או "לא-default" לסיכון סיכון (או לסיכון).

המונחים:

(ב) ,0) ראווט נואל: 1:1 התפצלה הראשונית על המאפיין המודיעי ביותר.
(ב) ⁇ :0) ⁇ קריטריון: FLT:1 Measures like Gini Impurity or information gets להחליט כיצד לחלק נתונים כדי למקסם את ההומוגניות בכל צומת.
(ב) ,0) , ⁇ : ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇

עצי ההחלטות אינם דו-פרמטריים, ואינם מניחים הנחות על הפצת נתונים, ויכולים ללכוד מערכות יחסים לא לינאריות ללא הנדסה תכונה.הפרשיות שלהם היא יתרון מפתח בתעשיות מוסדרות: קצין סיכון של הבנק יכול להסביר לאדיטורים בדיוק מדוע בקשת הלוואה נדחתה.

צעדים לבניית עץ החלטה של סיכון אשראי

1. איסוף נתונים

נתונים היסטוריים איכותיים הם הבסיס.מקורות נתונים נפוצים כוללים:

(ב) ,0) ,העברה: 1FLT, אורך תעסוקה, גיל, חינוך.
(ב) ,0) ,17: היסטוריית אשראי: 1FLT 1 (הופנה מהדף ), חוב יוצא דופן, מספר של עבריינים בעבר.
(ב) עיין: ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇ ⁇
(ב) ,0) מקרו-כלכלה: שיעור הריבית של ה-FLT:1, שיעורי האבטלה (עבור מודלים ברמת תיקו).

נקודת נתונים טיפוסית מכילה 10-30 תכונות ועשרות אלפי רשומות הלוואה.משתנה היעד הוא דגל בינארי: 1 אם הלווי כברירת מחדל בחלון ביצועים מוגדר (למשל, 12 חודשים), עוד 0.

2.Data Preprocessing

מידע על Raw דורש ניקוי:

(ב) [ה]ההולדת ערכים חסרים: לא אימפולסיבית (לאורותי] או מצב (לקטגורית), או לטפל בחסר כקטגוריה נפרדת כדי ללכוד דפוסים אינפורמטיביים פוטנציאליים.
(ב) יחס של תפוצה:0) 1 (ב"ג) ,ב"ה, "התייחסות לערכים קיצוניים כדי להימנע מפיצול משוחד.
(FLT:0) קידוד משתנה קטגוריאליים: אנדרל 1 1 ⁇ 1-hot ⁇ או תווית קידוד עבור משתנים כמו סוג תעסוקה.
(ב) ⁇ :0) ⁇ : לא נדרש רק לעצי החלטות, אלא הבטחת עקביות בקנה מידה עוזר בעת שימוש בשיטות הרכב מאוחר יותר.

עיבוד נכון מפחית את ההטיה ומכינה נתונים לפיצול יעיל.

בחירת תכונות

לא כל התכונות לתרום באופן שווה. בחירת תכונות משפרת את ביצועי המודל ואת הפרשיות:

(ב) ,0) רווח של מידע הדדי: ההרחבה של 1 (FIRLT:1 ), תכונות של עד כמה הם מפחיתים את אי הוודאות לגבי המטרה.
(ב) ,0) ניתוח של קורלציה: 1.FLT:1 להסיר תכונות מתואמות מאוד כדי להפחית את הרקורד.
(ב) ,0) ,הסרה של המאפיין המאפיין המאפיין (RFE): אנדרט 1) השתמש בעץ החלטה כדי להסיר תכונות חלשות.

תכונות נפוצות עבור סיכון אשראי כוללים יחס חוב הכנסה, ניצול אשראי, מספר מסחר פתוח, ואורך ההיסטוריה אשראי.

4 עץ בניין

Algorithms שונים בפיצול קריטריונים ובקרת מורכבות.השימוש הנפוץ ביותר בבנקאות:

(ב) [15] ,0CART (Classification and Regression Treesrov): FLT:1 השתמש בהתנגדות של גיני לסיווג.הוא מייצר פיצולים בינאריים ומטפל בנתונים החסרים באמצעות פיצולים חלופיים.
(ב) .0C4.5/C5.0: FLT:1hil משתמש יחס של רווח מידע ומייצר פיצולים מרובי דרכים, אך יותר נוטה להפריז ללא דחיפות זהירה.
(ב) ,0)3:03: ⁇ 1 , קוד היסטורי, אשר נעשה שימוש לעתים נדירות בייצור.

Hyperparameter Tuning

פרמטרים מרכזיים שולטים במורכבות העץ:

(ב) § (ה) מגביל את הרמות המקסימליות למניעת התאמה (ערכים משותפים: 5-15).
(ב) מספר מינימלי של דגימות נדרש כדי לחלק את הצומת (למשל, 50).
(ב) ,2 (ב): דגימות מינימום עלה (למשל, 20).
(ב) מספר תכונות שנחשבות לכל פיצול (למשל, מ"ר של תכונות).

השתמש בכבדות על מנת לבחור פרמטרים.עץ רדום עשוי לחדור; רעש עץ עמוק ממלמל עץ.המטרה היא עץ שמשלב לווים בלתי נראים.

5.הריצה

שטף מפחית את העץ לאחר שהוא גדל לעומק מלא.

(הפסקה מוקדמת) (הפסקה מוקדמת): להפסיק לפצל כאשר צומת מכיל פחות ממספר סף של דגימות או כאשר הפיצול אינו משפר את ההפחתה של ההפחתה מעבר לרווח מינימום (למשל, 0.01).
(ב) ⁇ :0) לאחר ביצוע (התחילה עלות-המורכבות): "הגדל עץ מלא, ואז להסיר ענפים שמוסיפים ערך חיזוי מועט.בחר את תת-העץ עם השגיאה הקטנה ביותר שסולקה על-ידי Skit-learn-learn's FLT:4 תומך בכך באמצעות ה-FLT:5 פרמטר.

עצים מחוננים הם פשוטים יותר, פחות נוטים להפריז, וקלים יותר לפרוס בייצור.

היתרונות של שימוש בעץי החלטות בבנקאות

(ב) ניתן לדמיין עץ החלטה 1:1 וניתן להסביר לבעלי עניין לא טכניים: מנהל סיכון יכול לומר: "אם חוב להכנסה וגיל; 45% ומספר של הבדלים אחרונים וגילאיים; 2, דגל כסיכון גבוה".
(ב) אין צורך בדרגות: 1FLT:1, תכונות נומריות וקטגוריות מטופלים באופן מקומי, צמצום השלבים המוקדמים.
(FLT:0) היחסים הלא-לינאריים:FreaLT:1) אינטראקציות בין תכונות (למשל, הכנסה וסכום ההלוואה) נתפסות באופן אוטומטי באמצעות פיצולים.
(ב) [ה]השעה: [ה]: [ה], [ה], [ה],] היא מהירה, זמן תיאולוגי יחסית למעמקי העץ.
(העיקרון של תהילים:0) ,5 ;1 עצים מספקים מדדים בנויים (למשל, ירידה בנחיתות) כדי לדרג את הגורמים המשפיעים ביותר.

אתגרים ושיקולים

Overfitting

לעצים החלטות יש שינויים קטנים בנתוני אימון יכולים לייצר פיצולים שונים מאוד.אסטרטגיות מייגציה כוללות ריצה, הגדרת גודל עלים מינימלי, ושימוש בשיטות הרכב (ראה להלן).

מידע מאוזן

ברירת מחדל אשראי היא נדירה - לעתים קרובות פחות מ 5% של דגימות.עצים סטנדרטיים עשויים להיות מוטה כלפי הרוב (לא-default) בכיתה, המוביל לזיכרון נמוך עבור ברירת מחדל.

(ב) ,0) , ⁇ (ב) , ⁇ (ב) או חתומות לא-מחוק.
(ב) ויקרא י"א: "ה' י' י' י' י' י' י' , ויקרא י':
(ב) ,0) ,התמרו על ידי ההסתברות (העץ הנקה צופה 0/1; השתמשו בהסתברויות וקבוע סף גבוה יותר לסיכון לגישור).

חוסר יכולת

עץ יכול להיות רגיש לדגימה הספציפית של אימון.תרופה אחת היא להשתמש ב-FLT:0Random ForestsciosFLT:1 או FLT:2Gradient BoostingtureFLT 3, אשר ממוצע עצים רבים כדי להפחית את השחלות תוך שמירה על הפרשות (באמצעות חשיבות).

קבלת החלטות ב-Intology

עבור מודלים של אשראי ייצור, עצי החלטה בודדים משמשים לעתים רחוקות לבד.

יער אקראי

אוסף של מאות עצי החלטה, כל אחד מהם הוכשר על מדגם מפוספסת נעליים ושימוש במצעים אקראיים של תכונות.זה משפר את הדיוק והעוצמה, אבל בעלות של כמה הפרשנות.

Gradient Boosting Machines (GBM)

XGBoost, LightGBM ו CatBoost הם מועדף בתעשייה עבור סיכון אשראי.הם בונים עצים באופן שווה, למידה מטעויות קודמות.מודלים אלה לעתים קרובות להשיג ביצועים המדינה של האמנות, למרות שהם דורשים כוונון זהיר כדי להימנע מהתאמה יתר.

השוואה

Method	Accuracy	Interpretability	Training Speed
Single Decision Tree	Moderate	Very High	Fast
Random Forest	High	Moderate	Medium
Gradient Boosting	Very High	Low–Moderate	Slow (with tuning)

בנקים רבים מתחילים עם עץ אחד לניתוח חקירה והסבר רגולטורי, ואז לפרוס מודל מואץ עבור החלטות הלוואות בפועל.

אחריות ויחסים

הרגולטורים הפיננסיים (למשל, ועדת FLT:0Basel על הפיקוח על הבנקים 1 בינואר) דורשים שקיפות מודלים והגינות.

(ב) יש לתעד כל חוק מחולק וניתן להצדיקו.
(ב) ,0) ,Bias Testing: FLT:1 וודא שהעץ אינו מפלה כנגד קבוצות מוגן (למשל גיל, מין).
(ב) ,0) ,3 , לעומת תחזיות של כפל-היתר על-ידי תוצאות בפועל לאורך זמן.

(FLT:0) ,Scikit-learn's Resolution Tree WaveFLT:1) יישום משמש נרחב עבור ייצור, ספריות כמו XGBoost מציעים יכולות הסבר מודל בנוי.

מסקנה

בניית עצי החלטות להערכת הסיכון אשראי מספקת שיטה שקופה ויעילה להערכת הלווים.על ידי איסוף שיטתי של נתונים, עיבוד, בחירת תכונות, בנייה וריצה את העץ, והתמודדות עם אתגרים כמו overfitting וחוסר איזון, בנקים יכולים ליצור מודלים כי הם גם מדויקים וגם ביקורתיים. בעוד עצים בודדים הם מוגבלים במורכבות, הם מהווים את הבסיס למודלים חזקים כי הם כעת סטנדרטיים בתעשייה.

לקריאה נוספת, שקול את הספר המקורי CART על ידי Breiman et al. (1984) ואת ה-FLT:0.Risk.netve.netFLT:1 מאמרים על ניקוד אשראי.