Imperatiivinen puu visualisoinnin modernin koneen oppimisessa

Päätöksen puut ovat edelleen tulkittavan koneoppimisen kulmakivi, jota arvostetaan niiden intuitiivisesta rakenteesta ja selityksen helppoudesta. Kuitenkin jokainen datatieteilijä, joka on kouluttanut puun reaalimaailman dataan, kohtaa nopeasti paradoksin: kun taas yksi matala puu on vähäpätöisen luettava, syvästä, täysin kasvaneesta puusta tulee usein käsittämätön haarojen sotku. Ilman tehokasta visualisointia, jopa avoimin algoritmi voi tulla musta laatikko. Tämä artikkeli laajentaa sitä, miksi visualisointia päätöksentekopuun rakenteet eivät ole vain mukava-to-have-se on kriittinen käytäntö validointiin, debugging, koulutus, ja sidosryhmien viestintää.

Miksi visualisoida päätöksen puut?

Mallin validointi ja verkkoalueen yhdenmukaistaminen

Visualisoimalla puu antaa toimijoille mahdollisuuden tarkistaa, että malli... oppineet split ovat järkeviä kun domain-tietämyksen. Esimerkiksi luottoriski puu, joka jakaa ...vuositulot ennen ...velka-tulosuhde...voi olla linjassa lainausintuition kanssa...mutta puu, joka jakoi ... ... ... ..ja nostaisi heti punaisia lippuja. Katsomalla tarkkoja kynnnyksiä ja ominaisuuksia kussakin solmussa, antaa suolentarkastuksen, että mikään R2 tai tarkkuusmittari voi korvata.

Diagnosointi Yliasennukset ja datavuoto

Syvät puut, joissa on monia lehtisolmuja, opettelevat usein melun ulkoa. Näkyvä tarkastus voi paljastaa epäilyttävän spesifiset jako (esim. ., ... ikä > 32,5 JA ikä ≤ 33.0.) ja jotka osoittavat ylivarustelua. Samoin puu, joka sisältää ominaisuuden, kuten ... asiakas ID.:n, split-muodossa selvästi signaalit tiedonvuodosta.

Rakennus Trust with non-technical Audiences

Sääntelyvaatimukset (esim. GDPR.:n oikeus selitykseen) ja yritysten sidosryhmien vaatimukset tekevät mallitulkinnasta ei- neuvoteltavissa. Hyvin selitettävissä oleva puukaavio voidaan näyttää lainavirkailijalle tai lääkärille selittää, miksi erityinen ennuste tehtiin, usein tehokkaammin kuin luettelo SHAP-arvoista.

Menetelmät visualisointi päätöksen puu: Staattisesta interaktiiviseen

Staattiset puukaaviot, joissa on Graphviz ja skit-oppii

Klassinen lähestymistapa käyttää kautta skit-oppii. Tämä tuottaa kaavio DOT muodossa, joka voidaan renderöidä PNG, PDF, tai SVG. Lähtö näyttää jokaisen solmun kanssa split kunnossa, Gini epäpuhtautta tai entropiaa, näytemäärä, ja luokkajakauma. Puille pienempi kuin, vaikkapa 10 tasoa, tämä on tehokas. Kuitenkin, että kaavio tulee mahdotonta.

Esimerkkikäyttö:

from sklearn.tree import export_graphviz
import graphviz
dot_data = export_graphviz(clf, out_file=None,
 feature_names=X.columns,
 class_names=iris.target_names,
 filled=True, rounded=True,
 special_characters=True)
graph = graphviz.Source(dot_data)
graph.render("iris_tree")

scikit-earn.s export graphviz documentation[ tarjoaa täydelliset parametrivalinnat, mukaan lukien solmun väritys luokittain.

Parannettu visualisointi dtreeviz

Rikastuville, julkaisuvalmiille puille dtreeviz-kirjasto (Terence Parr) tarjoaa merkittäviä parannuksia oletusscikit-oppimaan tontille. Se näyttää histogrammeja tiedonjaosta kussakin split-solmussa, värilliset päätösrajat ja lehtiluokan jaottelut. Tämä auttaa suuresti tulkitsevuutta osoittamalla paitsi päätössäännön myös sitä tukevat tiedot.

dtreeviz on GitHub sisältää esimerkkejä regressio- ja luokittelu puita, vaihtoehtoja zoomata, paitsi SVG, ja muokata värejä.

Vuorovaikutteisia puita, joissa on tontti ja D3.js

Etsinnän, interaktiiviset puuvisualisointi mahdollistaa käyttäjien romahtaa / laajentaa oksia, leijua yksityiskohtia, ja suodattaa solmu. Tontti. tai [ kaaviot voivat koodata puun hierarkiat, vaikka ne puuttuvat tarkka ulkoasu dendrogram. Erikoistunut lähestymistapa käyttää D3.js kirjastot kuten Plotly...

Vaihtoehtoiset edustustot: Päätöksen puupolut sääntöinä

Joskus täydellinen kaavio ei ole ihanteellinen. Sen sijaan, että edustat päätöksentekopolkuja joukkona IF-Then sääntöjä voi olla luettavampi, erityisesti matala puille. Kirjastot kuten [ tuottaa tekstillinen puu, joka voidaan helposti liittää dokumentaatioon tai käyttää ympäristöissä ilman tukea.

Tehokkaan visualisoinnin edut käytännössä

Diagnostiikan parempi tulkinta

Selkeä visuaalinen kartta näyttää suoraan, mitkä ominaisuudet hallitsevat varhaista splits...ovat merkkinä niiden merkityksestä ja miten päätösraja kehittyy. Tämä on erityisen hyödyllistä verrattaessa satunnaista metsää tai kaltevuutta tehostavia pohjaoppijoita: yksittäisen puun visualisoiminen kokonaisuus voi tuoda esiin edustavia kuvioita.

Malli vianetsintä ja Bias-tunnistus

Visualisointi voi paljastaa harhaa aikaisin. Oletetaan, että puu halkeaa .zip koodin . lähellä juuri, ja koulutustiedot on erittäin epätasapainoinen eri alueilla. Tuloksena puu voi asettaa suuri riski koko naapurustossa, jatkuva maantieteellinen syrjintä. Näkeminen tällainen split kaaviossa kehottaa data tiedemies tutkimaan ominaisuus.

Koulutusarvo kaikille tasoille

Akateeminen asetukset, visualisoimalla puiden muuntaa abstraktit matemaattisia käsitteitä konkreettisiksi kuviksi. Opiskelijat voivat jäljittää entropiaa puun läpi, tarkkailla kuinka entropia vähenee, ja korreloivat jakoa ominaisuus raja-arvot. Työkalut kuten R2D3.S interaktiivisen päätös puu[ on tullut suosittu opetusapu.

Haasteita visualisoimalla suuria puita ja miten voittaa ne

Koko ja skaalattavuusrajat

Puuta, jossa on syvyys 20 ja useita tuhansia solmuja, ei voida tehdä yhtenä luettavana kuvana.

  • Pruning:[ Käytä kustannus-kompleksisuus karsintaa (ccp alfa) skikit-oppia vähentämään puun kokoa ennen visualisointia. Karsittu puu usein säilyttää tärkeimmät split ollessaan silmämääräisesti levitettävissä.
  • Alanäytteenotto:[ Visualisoi vain alapuu juuresta alaspäin rajalliseen syvyyteen (esim. 4 tasoa) ja huomaa, että syvempiä polkuja on olemassa.
  • Aggregate Views: [ Sen sijaan, että piirtää koko puu, käytä ominaisuus merkitys pylväs kaavioita tai osittain riippuvuutta tontteja välittää mallin käyttäytymistä.

Tiedon ylikuormitus

Jopa kohtalaisen kokoinen puu voi olla kymmeniä solmuja. Valitse mitä näyttää huolellisesti. Valinnat:

  • Näytetään vain jaetut kriteerit ja luokkaenemmistö, jolloin näytemäärät ja epäpuhtausarvot jäävät pois.
  • Väri solmut ennustettu luokka nopeasti nähdä päätöksenteko alueita.
  • Käytä solmun kokoa suhteessa näytteiden määrään korostaa tärkeitä alapopulaatioita.

Parhaat käytännöt tuotannon ja puun visualisoinnissa

  1. Aina on olemassa ominaisuusnimet ja luokkamerkinnät.[ Raakalukuindeksit ovat lukukelvottomia.
  2. Käytä ja peräkkäistä värikartta välittää luokkajakelua kussakin solmussa.
  3. Set in the visualisation export vaikka puu on syvempi. Syvyys 3.
  4. Tallenna vektorimuotona (SVG/PDF)[ skaalautuvuutta raporteissa.
  5. Yhdistä malli-agnostiset selitykset[ kuten SHAP yhteenveto tontteja täydellisen tulkinnan. Mutta muista, että puurakenne on luonnostaan tulkittavissa.
  6. Kaikkien ihmisten keskuudessa.[[] Tietotieteilijä voi arvostaa täydellisiä epäpuhtauden arvoja; liike-elämän sidosryhmä voi tarvita vain kaksi parasta jakoa.

Edistynyt: Visualisoimalla päätöksen polut ... ei vain puu

Yksittäisten ennusteiden selitykset, jäljittäminen päätöspolkua puun voi olla informatiivinen kuin koko puun rakenne. Polku on suppea luettelo tehdyistä päätöksistä (ominaisuus > kynnys) johtaa lehteen. Tämä voidaan visualisoida vaakasuorana vuokaaviona tai luotilistana. Kirjastot kuten [.1] (skit-oppia varten) hajottaa ennusteen osuuksiin kunkin split. Yhdistämällä polun visualisointi ominaisuuspanokset antaa tehokkaan . persoonallinen selitys ennustukseen.

Esimerkki: SHAP Decision Plot for a Tree Model

Vaikka SHAP-arvot ovat agnostisia, puumalleille [] käyttää suoraan puun rakennetta. SHAP-päätöspalsta osoittaa, miten ennustettu arvo (tai todennäköisyys) kertyy, kun siirrymme alas puuhun, jossa ominaisuudet lisätään yksi kerrallaan. Tämä tontti on visualisointi puun polku, ei koko puu, mutta se säilyttää tulkittavuus etu osoittaa tarkka päätösjärjestys.

Päätelmät

Visualisoimalla päätös puurakenteet ovat edelleen yksi tehokkaimmista tavoista kuroa umpeen kuilu mallin monimutkaisuus ja ihmisen ymmärtäminen. Staattisista kaavioista interaktiivisiin D3.js puihin, työkalut, jotka ovat käytettävissä nykyään mahdollistaa luoda visualisointia, joka palvelee useita tarkoituksia: vianetsintä, validointi, koulutus, ja viestintä. Avain on valita oikea yksityiskohta yleisölle ja täydentää puukaaviota muilla tulkinnallisuus tekniikoita tarvittaessa. Investoimalla selkeä, huomaavainen puu visualisoinnit, data tutkijat ei vain parantaa mallin luottamusta, vaan myös löytää piilossa vikoja, jotka muuten jäävät näkymättömiksi luettelo metrit.