Mga Simulain sa Elektronikong Inhinyeriya
Pagtatayo ng mga Puno ng Pasiya Para sa Credit Risk Assessment sa Pagbabangko
Table of Contents
Introduksiyon
Ang pagtaya ng panganib ay isang batong panulok ng mga operasyon ng mahusay na pagbabangko. dapat makilala ng mga taga-ambag ang mga nanghihiram na magbabayad ng oras at ang mga malamang na hindi makabayad.[at ⁇ ang mga bangko ay umaasa sa paghatol ng tao at simpleng mga modelong pang-edukasyon, ngunit ang kasalimuutan ng mga modernong institusyong pang-ekonomiya ay nangangailangan ng mas masalimuot na mga kasangkapan. Ang mga punong-panlilikha ay nag-aalok ng isang transpormasyon, kahin ang mga kahilingan, at makapangyarihang pamamaraan para sa pag-uuri ng panganib na kripwero ng mga gawaing credit-III, ang mga patakarang pang-ebolusadulasyon at pagsasaalang-alang-alang-alang ng mga gawaing pang-alang-alang-alang-alangan ng mga gawaingor ng mga pang-alang-alang-mundong pang-mundong pang-mundong pang-mundong pang-mundong pang-mundong pang-mundong pang-mundong pang-mundong pang-kalikas, at pang-kalikasan, pang-kalikasan, pang-kalikasan, pang-
Ano ang mga Punungkahoy na Nakapagpapasiya?
Ang isang puno ng desisyon ay isang pinangangasiwaang makina na nag-aaral ng algorithm na gumagamit ng isang streakchart-tulad ng istraktura upang gumawa ng mga prediksiyon. Ito ay binubuo ng isang root node (ang buong dataset), panloob na nodes (mga determinasyon batay sa isang tampok), mga sanga (outcomeds of a test), at mga dahong nodes (mga hula sa pundamental). Para sa panganib sa kredito, ang tunguhin ay uriin ang mga nanghihiram bilang ⁇ defaultrifultrientitriko o ⁇ -defultrifultrix (o ⁇ ).
Mga Komponente ng Kore
- Root node: Ang unang hati sa pinaka impormatibong katangian.
- [[Pangungunang batayan: Mga sukat tulad ng Gini institusyon o mga natamong impormasyon ay nagpapasiya kung paano maghati ng datos upang mapataas ang homosekswalidad sa bawat node.
- Pruning: Pagtanggal ng mga nasiksik na sanga upang mapabuti ang paglalahat.
Ang mga punong-panuto ay hindi-parametric, hindi gumagawa ng mga palagay tungkol sa pamamahagi ng datos, at maaaring bihagin ang mga ugnayang hindi-linear nang walang tampok na inhenyeriya. Ang kanilang pagpapakahulugan ay isang pangunahing kalamangan sa mga industriyang may regulasyon: ang isang opisyal ng panganib ng bangko ay maaaring magpaliwanag sa mga auditor kung bakit ang isang aplikasyon sa pautang ay tinanggihan.
Mga Hakbang sa Pagtatayo ng Isang Credit Desective Tree
1.
Ang mataas na-quality na historikal na datos ang pundasyon. Ang mga karaniwang mapagkukunan ng datos ay kinabibilangan ng:
- [[Kastila:] Income, empleyo, edad, edukasyon.
- Bureau data: Credit history, katangi-tanging utang, bilang ng nakaraang mga delinquencies.
- Belavioral data: Transaction pattern, account balances.
- Macroeconomic data:[T:1] Mga rate ng interes, bilang ng mga walang trabaho (para sa mga portfolio-level model).
Ang isang karaniwang dataset ay naglalaman ng 10–30 na tampok at sampu-sampung libong rekord ng utang. Ang target variable ay isang baryo flag: 1 kung ang nanghihiram ay hindi naka-signed sa loob ng isang itinakdang window ng pagganap (e.g., 12 buwan), pa 0.
2. Data Preprocessing
Ang data ng rap ay nangangailangan ng paglilinis:
- [[Kastila:] Impluwen kasama ng median (para sa numeriko) o mode (para sa kategorikal), o gamutin ang nawawala bilang isang hiwalay na kategorya upang makuha ang potensiyal na impormatibong mga dibuho.
- Palabas ng panggagamot na utlier: Pag-aalsa ng labis na mga pagpapahalaga upang maiwasan ang mga skeckwed splits.
- Encoding categorical variables: One-hot Deficiation o label composition para sa mga variables tulad ng joey type.
- Normalization: Hindi mahigpit na kailangan para sa mga punong desisyon, ngunit ang pagtiyak ng pagiging pabagu-bago ng sukat ay nakakatulong kapag gumagamit ng mga paraang ensembleko sa kalaunan.
Ang tamang preprocessing ay nakababawas ng pagkiling at naghahanda ng datos para sa epektibong paghahati.
3. Pagpili ng Katangian
Ang pagpili ng mga produkto ay nakatutulong para maging mahusay ang pag - eensayo at pagbibigay ng kahulugan:
- Information volution / mutual information: [ [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] [3] Kung hanggang pahina] kung hanggang saan nababawasan ng mga ito ang kawalang katiyakan tungkol sa target.
- [Correlation analysis: Tanggalin ang mga mataas na correlated na katangian upang mabawasan ang redundancy.
- Recurssive feed result (RFE): Gamitin ang isang desective tree sa induktibong pag-aalis ng mga mahihinang katangian.
Karaniwang pinipiling tampok para sa panganib ng kredito kabilang ang utang-to-income ratio, credit useration, bilang ng mga bukas na kalakalan, at haba ng kasaysayan ng kredito.
4. Gusali ng Puno
Ang mga algorithm ay nagkakaiba sa mga partikulong batayan at masalimuot na pagkontrol, at ang pinakamalawak na ginagamit sa pagbabangko:
- CART (Mga Puno ng Pag-aalsa at Regressiyon): Ginagamit ang Gini institusyon para sa klasipikasyon.Naglalabas ito ng mga baryong hati at humahawak ng nawawalang datos sa pamamagitan ng mga sekwensiya.
- C4.5 / C5.0: Ginagamit ang impormasyong nakakakuha ng ratio at gumagawa ng multi-way splits, ngunit mas malamang na labis na umangkop nang hindi maingat na pinupungusan.
- [ID3:[[Kaunahan] Ang history premicast, na bihirang gamitin sa produksiyon.
Pagtuto ng Hyperparameter
Ang mga pangunahing parameter ay kumokontrol sa kasalimuutan ng puno:
- : Nagtakda ng pinakamataas na antas upang maiwasan ang labis na pag-aangkop (karaniwang mga halaga: 5–15).
- : Minimum na bilang ng sampol na kailangan upang mahati ang isang node (e.g., 50).
- : Mga sampol ng Minilum kada dahon (hal., 20).
- : Bilang ng mga tampok na isinasaalang-alang sa bawat hati (hal., syrt of kabuuang tampok).
Gumamit ng cross-validation para pumili ng parameter. Maaaring kulang ang isang mababaw na puno; isang malalim na puno ang nagsasaulo ng ingay. Ang goal ay isang puno na nagiging pangkalahatang-publish sa mga hindi nakikitang nanghihiram.
5. Panunuring
Ang pagpiga ay nagbabawas ng puno pagkatapos na ito'y tumubo nang husto. Dalawang karaniwang paraan:
- [[Paunang paghinto):[ Ihinto ang paghahati kapag ang isang node ay naglalaman ng kaunti sa isang stage ng bilang ng sampol o kapag ang split ay hindi nakapagpabuti ng di-gaanong pagbabawas ng higit sa isang minimum na pakinabang (e.g., 0.01).
- AngPost-pruning ( / ⁇ t- ⁇ xity function): Mag-ebolb ng puno na puno, pagkatapos ay mag-aalis ng mga sanga na may kaunting premisement. Pumili ng subtree na may pinakamaliit na cross-valided error. Ang Scit-learning rectrixs ay sumusuporta rito sa pamamagitan ng parame.
Mas simple ang mga punong pino, hindi gaanong madaling hubugin, at mas madaling gamitin sa paggawa.
Mga Pakinabang ng Paggamit ng mga Puno ng Pasiya sa Pagbabangko
- [[[[T: Ang isang punong de-pasya ay maaaring ilarawan sa isip at ipaliwanag sa mga hindi-technical stainholders.[isang custolers: ⁇ Kung ang utang-to-income > 45% at bilang ng mga kamakailang delinquencies > 2, watawat bilang mataas na panganib.[IPACOF.
- [kailangan ng ⁇ : Ang mga katangiang Numeriko at kategorikal ay pinangangasiwaan sa katutubo, binabawasan ang mga hakbang na preprocessing.
- Ang pag-aalsa ng mga ugnayang non-linear: Interactions sa pagitan ng mga katangian (e.g., kita at halaga ng utang) ay awtomatikong nabibihag sa pamamagitan ng mga split.
- [ Minsang nasanay, ang prediksiyon ay mabilis na ⁇ log ⁇ arithmic time na may kaugnayan sa lalim ng puno.Ideal for real-time credit declacking.
- Mahalagang katangian: Ang mga puno ay nagbibigay ng mga eded-in metrics (e.g., nangangahulugan ng pagbaba ng karumihan) upang ihanay ang pinaka maimpluwensiyang mga salik.
Mga Hamon at Pag - aasikaso
Labis na Angkop
Ang mga maliliit na pagbabago sa pagsasanay ng datos ay maaaring lumikha ng iba't ibang mga hati. ang mga teknik sa Mitigation ay kinabibilangan ng pagtabas, pagtatakda ng minimum na sukat ng dahon, at paggamit ng mga paraang ensemble (tingnan ang ibaba).
Di - timbang na Data
Ang saklaw ng mga puno ng punsiyon ay bihirang feift na mas mababa sa 5% ng sampol. Ang mga puno ng pamantayan ay maaaring magkaroon ng pagkiling sa karamihan (non-default) class, na humahantong sa mababang pag-aalala para sa mga defaulters. Mga solusyon:
- [[Talaksan:] Oversample defaults (SMOTE) o undersample non-defaults.
- Mga klaseng Wighted: Nagtatalaga ng mas mataas na parusa sa maling pag-uuri ng mga hindi pagtupad sa mga aksesorya sa pamamagitan .
- Threshhold confision: Ibagay ang probabilidad na ma-cutoff (nabubulok na puno ay humuhula ng 0/1; gumamit ng mga probability at magtakda ng mas mataas na stage para sa di-umano'y panganib).
Kawalang - Kakayahan
Ang mga puno ay maaaring maging sensitibo sa espesipikong sampol ng pagsasanay. Ang isang lunas ay ang paggamit Random Forests o Gradient Boosting, na may katamtamang bilang ng mga puno upang mabawasan ang dibersidad habang pinananatili ang pagiging nabigyang kahulugan (via prospecty).
Pag - aayos sa mga Punungkahoy na Pasiya sa Gawain
Para sa mga modelong pang-salapi ng produksiyon, ang mga punong-pagdesisyon ay bihirang gamiting mag-isa. sa halip, ang mga ito ay nagsisilbing mga blokeng pang-edukasyon para sa mga paraang pang-ebolusyon:
Maulang Kagubatan
Isang ensembleang daang mga punong de-pase, bawat isa ay sinanay sa isang sampol na bootrap at gumagamit ng mga pasumala ng mga katangian.Ito ay nakapagpapabuti ng katumpakan at pagiging matipuno, ngunit sa halaga ng ilang mga pagpapakahulugan. Gayunpaman, ang mga tampok na kahalagahan at mga pagpapahalagang SHAP ay maaaring magpaliwanag ng mga prediksiyon.
Mga "GBM " na Glodient
Ang XGBoost, LightGBM, at CatBoost ay mga paborito ng industriya para sa panganib ng kredito.Nagtatayo sila ng mga puno sequentially, natututo mula sa mga nakaraang pagkakamali. Ang mga modelong ito ay kadalasang nakakamit ang state-of-the-art performance, bagaman nangangailangan ng maingat na pag-aayos upang maiwasan ang labis na pag-aangkop.
Paghahambing
| Method | Accuracy | Interpretability | Training Speed |
|---|---|---|---|
| Single Decision Tree | Moderate | Very High | Fast |
| Random Forest | High | Moderate | Medium |
| Gradient Boosting | Very High | Low–Moderate | Slow (with tuning) |
Maraming bangko ang nagsisimula sa iisang punungkahoy para sa pagsusuri at pag - aayos sa mga dumi, pagkatapos ay naglalagay ng isang mas malaking modelo para sa aktuwal na mga pasiya sa pagpapautang.
Mga Katangiang Regulatoryo at Pagkamaunawain
Ang mga tagaayos ng Pananalapi (e.g., Basel Committee on Banking Supervision) ay nangangailangan ng modelong transparensiya at patas.[pasiyang mga puno na naaayon sa mga prinsipyong ito dahil likas na maipapaliwanag ang mga ito. Ang mga kahilingan ng pag-aayos ng susi ay kinabibilangan ng:
- Model dokumentasyon: Ang bawat split rule ay dapat na dokumentado at bigyang-katwiran.
- [Bias testing: Ang puno ay hindi nagtatangi laban sa mga protektadong grupo (hal.g., edad, kasarian).
- Pagtatangkilik: Ihambing ang hinulaang default rate sa aktuwal na kalalabasan sa paglipas ng panahon.
[Scikit-learnites defiling tree Ang pagpapatupad ay malawakang ginagamit para sa prototyping. para sa produksiyon, mga aklatan tulad ng XGBoost ay nag-aalok ng mga kakayahan sa paggawa-sa-modelong pagpapaliwanag.
Pagsasaayos
Ang paggawa ng mga punong de - kalidad para sa pagsusuri sa panganib ng mga credit tree ay naglalaan ng malinaw at mabisang paraan para masuri ang mga bagay na tumpak at madaling makuha, samantalang ang mga punungkahoy na ito ay limitado ang pagkakaproseso, na siyang bumubuo at nagpuputol ng mga problema, at tumatalakay sa mga ito gaya ng mga modelong hindi na kaya at di - timbang, ay maaaring makagawa ng mga modelo na sa kasalukuyan ay patuloy na nagiging tumpak at madaling maunawaan, yamang tinitiyak ng mga punungkahoy na ang mga ito ay magiging saligan ng mga tagapamahala at mga tagapag - ayos ng mga kagamitan.
Para sa higit pang pagbasa, isaalang-alang ang orihinal na aklat ng CART na ginawa ni Breiman et al. (1984) at ang [ Mga artikulo tungkol sa credit advance. Upang masubukan ang pagpapatupad, ang scikit-twning dokumentation ay isang mahusay na mapagkukunan.