Ce sont des arbres de décision et pourquoi ils travaillent pour l'analyse des RH

Le remplacement d'un seul employé peut coûter entre 50 % et 200 % de son salaire annuel lorsque vous prenez en compte le recrutement, l'embarquement et la perte de productivité. L'analyse prédictive des RH vise à identifier rapidement les employés à risque afin que les stratégies de rétention puissent être appliquées avant qu'une lettre de démission ne soit déposée sur le bureau du gestionnaire. Parmi les nombreux modèles d'apprentissage automatique disponibles, les arbres de décision se distinguent par leur simplicité, leur transparence et leur capacité à gérer les données mesquines et mixtes typiques des ressources humaines.

Chaque noeud interne représente un test sur une caractéristique (p. ex., -Est-ce que la satisfaction au travail est inférieure à 3 sur une échelle de 5 points?-), chaque branche correspond au résultat de ce test, et chaque noeud de feuille détient une classe prévue — dans ce cas, -stay ou -leave.-----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

Pour l'analyse des RH, les arbres décisionnels offrent un ajustement naturel car les résultats sont faciles à communiquer aux intervenants non techniques. Un gestionnaire des RH peut regarder un diagramme d'arbre simple et voir immédiatement que les employés ayant de faibles scores d'engagement et une courte durée sont les risques de vol les plus élevés — aucun mystère de boîte noire n'est requis.

Pourquoi les arbres de décision sont particulièrement utiles pour la prévision de l'attrition des employés

La prédiction de l'attrition est un problème de classification, mais elle est accompagnée de caractéristiques uniques qui favorisent les arbres de décision par rapport à de nombreux autres modèles :

  • Interprétabilité: Contrairement aux réseaux neuronaux ou aux machines vectorielles de soutien, les arbres de décision produisent un ensemble de règles explicites. Vous pouvez retracer chaque prédiction aux conditions exactes qui l'ont conduit. Ceci est essentiel pour les équipes RH qui doivent justifier des interventions pour diriger ou respecter les règlements sur l'emploi équitable.
  • Manipulation de données mixte[: Les ensembles de données HR contiennent des caractéristiques numériques (salaires, années d'entreprise, âge) et des caractéristiques catégoriques (ministère, niveau d'éducation, sexe).Les arbres de décision peuvent gérer les deux sans exiger un codage à chaud de chaque catégorie.
  • Tolérance des données en cas de perte[: Les données des RH dans le monde réel sont souvent incomplètes — les employés ne posent pas de questions, les champs restent vides.
  • Importance de la caractéristique[: L'algorithme classe automatiquement la puissance prédictive de chaque variable. Cela aide les RH à identifier les principaux moteurs de l'attrition — qu'il s'agisse de la distance de déplacement, de la fréquence des heures supplémentaires ou d'un manque de possibilités de promotion.
  • Aucune échelle de fonctions n'est nécessaire: Les arbres de décision se divisent sur les seuils, pas les distances, donc vous n'avez pas besoin de normaliser ou de normaliser les fonctionnalités d'entrée.

Étape par étape : Construire un modèle d'arbre de décision pour l'attrition

1. Collecter et préparer les bonnes données

Pour la prévision de l'attrition, recueillir des dossiers historiques des employés qui comprennent à la fois ceux qui sont partis et ceux qui sont restés. Visez pendant au moins six à douze mois de données historiques pour saisir des modèles significatifs. Les principales catégories de caractéristiques comprennent:

  • Démographie: âge, sexe, état matrimonial, distance entre le domicile et le travail
  • Facteurs liés à l'emploi[ : ministère, rôle de l'emploi, salaire, indicateur des heures supplémentaires, nombre d'années dans le rôle actuel, nombre d'années avec le gestionnaire
  • Performance et engagement: évaluation du rendement, nombre d'heures de formation l'an dernier, scores du sondage d'engagement (si disponible)
  • Signaux comportementaux[: jours d'absence, griefs déposés, nombre de projets, date de la dernière promotion
  • Équilibre entre le travail et la vie personnelle[: pourcentage de voyages, type d'horaire de travail, heures supplémentaires

Soyez attentif aux attributs protégés (race, sexe, âge) qui peuvent fausser les prédictions par inadvertance. Bien qu'ils puissent améliorer l'exactitude légalement, vous devez tester l'impact disparate et considérer les implications de l'équité — un sujet que nous reviendrons plus tard.

2. Préprocéder à l'ensemble des données

Même si les arbres décisionnels sont moins sensibles à la préparation des données que les autres algorithmes, certaines étapes restent essentielles :

  • Valeurs manquantes à la poignée: Pour les modèles basés sur des arbres, vous pouvez soit déposer des lignes avec des données manquantes, imputer la médiane/mode, ou utiliser des fractions de substitution.
  • Encoder les variables catégorisées: La plupart des implémentations d'arborescences de décision (p. ex., scikit-learn=2 ) nécessitent une entrée numérique. Utilisez l'encodage d'étiquettes pour les catégories ordinales (p. ex., niveau d'éducation: école secondaire=0, baccalauréat=1, master=2) et l'encodage à chaud pour les catégories nominales (p. ex., département) si le nombre de catégories est petit.
  • Supprimer les duplicata et les aberrations: Les duplicata enregistrent artificiellement certains motifs. Les aberrations avec des valeurs extrêmes (p. ex., un employé ayant 50 ans d'ancienneté dans une entreprise de 30 ans) peuvent fausser les scissions, donc envisager de les plafonner ou de les supprimer.
  • Déséquilibre de classe: Dans la plupart des organisations, l'attrition est rare — souvent de 5 à 15 % de l'ensemble de données. Cela peut faire prédire l'arbre à -stay , pour tout le monde et atteindre encore une haute précision.

3. Séparer l'entraînement et les jeux d'essai

Pour les données ordonnées chronologiquement — un cas commun en RH — divisée par le temps: train sur des données plus anciennes, test sur des données plus récentes. Cela simule des prévisions prospectives. La division stratifiée garantit que les deux ensembles conservent la même proportion de sortants que l'ensemble de données d'origine, qui est critique pour les problèmes désordonnés.

4. Former le classificateur de l'arbre de décision

En utilisant une bibliothèque comme scikit-learn, la formation d'un arbre de base est simple:

from sklearn.tree import DecisionTreeClassifier
model = DecisionTreeClassifier(random_state=42)
model.fit(X_train, y_train)

Cela correspond à un arbre avec des hyperparamètres par défaut — mais ces paramètres par défaut sont rarement optimaux pour un ensemble de données HR réel. L'arbre peut grandir profondément et sur-adapter, se produisant bien sur les données de formation mais mal sur les employés invisibles.

5. Hyperparamètres de tune pour éviter les surajustements

Les hyperparamètres les plus importants à ajuster dans un arbre de décision sont:

  • max profondeur: Limite le nombre de fractions consécutives que l'arbre peut faire. Une profondeur de 5 à 10 est souvent suffisante pour les ensembles de données d'attrition avec un nombre modéré de caractéristiques.
  • min samples split: Le nombre minimum d'échantillons requis pour diviser un noeud interne. L'augmentation de cette valeur (p. ex. à 20–50) oblige l'arbre à ne considérer que les fractions qui se produisent sur un sous-ensemble suffisamment important, réduisant le bruit.
  • min samples leaf: Le nombre minimum d'échantillons qui doivent rester dans un noeud foliaire. Une valeur de 10 à 30 garantit que les prédictions foliaires sont basées sur un échantillon statistiquement significatif.
  • critère[: -gini ou -entropie. - Les deux donnent souvent des résultats similaires; essayez les deux en validation croisée.
  • class weight: Réglez automatiquement les poids en fonction des fréquences de classe. C'est un outil puissant pour gérer le déséquilibre des classes.

Utilisez la recherche par grille ou la recherche randomisée avec une validation croisée de 5 fois pour identifier la combinaison qui donne le meilleur rappel (ou la mesure qui s'harmonise avec votre objectif d'affaires).

6. Évaluer le modèle avec des mesures appropriées

L'exactitude seule est trompeuse pour les données d'attrition déséquilibrées. Un modèle qui prédit toujours -stay-y peut atteindre 90%+ précision si seulement 10% des employés quittent.

  • Précision: De tous les employés qui prévoient partir, quelle fraction est réellement partie? La haute précision signifie moins de fausses alarmes.
  • Reappel (sensibilité)[: Quelle fraction des sortants réels a-t-il attrapé le modèle? Un rappel élevé signifie que vous manquez moins de personnes, ce qui est souvent la priorité en matière de rétention — il vaut mieux intervenir inutilement que perdre un employé clé.
  • F1-score: La moyenne harmonique de précision et de rappel. Un bon F1 sur la classe minoritaire indique un modèle équilibré.
  • AUC-ROC: Mesure la capacité du modèle à faire une distinction entre les classes entre les seuils. Les valeurs supérieures à 0,8 sont considérées comme bonnes pour la prédiction de l'attrition.
  • Matrice de confusion: Décomposer les vrais positifs, les vrais négatifs, les faux positifs, les faux négatifs. Cela donne une idée concrète du nombre de --misses.

Pour l'ensemble d'essais, s'attendre à ce qu'un arbre de décision à réglage fixe atteigne un CRO-AUC entre 0,75 et 0,90 selon la qualité des données.

Interprétation de l'arbre de décision : des règles à l'action

Une fois le modèle formé, vous pouvez visualiser l'arbre en utilisant ou l'exporter comme un graphique. L'arbre révélera les scissions les plus influentes. Par exemple, le nœud supérieur peut se diviser sur -Satisfaction d'emploi < 3.” If yes, the next split may be on “overtime > 10 heures par semaine. - Les employés qui satisfont aux deux conditions peuvent avoir une probabilité de 80 % de partir.

Vous pouvez également extraire des éléments importants. Ces chiffres s'élèvent à 1.0 et montrent combien chaque élément a contribué à réduire l'impureté. Dans un ensemble de données d'attrition typique, les éléments supérieurs sont souvent:

  • Satisfaction au travail / score d'engagement
  • Années depuis la dernière promotion
  • Indicateur des heures supplémentaires
  • Recettes mensuelles
  • Nombre d'entreprises travaillant à

Ces connaissances permettent aux RH de concevoir des interventions ciblées : par exemple, une prime de maintien en poste pour les personnes ayant des compétences élevées qui n'ont pas été promues en trois ans, ou une option de travail à domicile pour les employés ayant de longues déplacements.

Défis et comment les surmonter

Surajustement

Les arbres qui prennent des décisions peuvent devenir trop complexes, mémorisant le bruit dans les données d'entraînement. Un arbre sans limite de profondeur peut atteindre des profondeurs extrêmes, apprenant essentiellement l'entraînement par cœur. Les signes de surajustement comprennent une très haute précision d'entraînement (90%+ avec un rappel parfait) mais une précision d'essai beaucoup plus faible. Les solutions comprennent la taille (décollage post-hoc des branches avec une faible importance), la limitation et , ou le passage à une méthode d'ensemble comme Random Forest.

Solde de la catégorie

Avec des taux d'attrition souvent inférieurs à 15%, l'arbre favorisera naturellement la classe majoritaire. Pour contrer cela, utilisez dans scikit-learn, qui attribue des coûts de classification erronés plus élevés à la classe minoritaire. Sinon, rééchantillonnez les données de formation via SMOTE (Synthetic Minority Oversampleling Technique) pour créer des exemples synthétiques de sortants.

Instabilité

Les arbres de décision sont sensibles aux petits changements dans les données de formation. Une division différente des essais de train ou une légère variation des valeurs de caractéristiques peut donner une structure très différente. Cette instabilité peut éroder la confiance dans les règles du modèle. Un remède est d'utiliser un ensemble d'arbres (Random Forest ou Gradient Boosting), qui se fait en moyenne sur de nombreux arbres et produit des prévisions stables et souvent plus précises, mais au prix d'une certaine interprétabilité.

Bénéfices et équité

Si les données de formation contiennent des biais historiques — par exemple, les modèles d'attrition passés qui sont en corrélation avec la race ou le sexe — l'arbre peut apprendre ces modèles et produire des recommandations discriminatoires.Vérifiez toujours le modèle pour déterminer l'impact disparate: vérifiez si les taux de prédiction diffèrent considérablement d'un groupe protégé. Si oui, envisagez de supprimer les caractéristiques sensibles ou d'utiliser des algorithmes de sensibilisation à l'équité.

Au-delà d'un arbre unique: Ensemble Méthodes pour une plus grande précision

Pour de nombreux ensembles de données HR, un seul arbre de décision avec réglage hyperparamétrique est une base de référence solide, mais il atteint rarement la plus haute performance possible.

  • La forêt de random construit de nombreux arbres de décision sur des sous-ensembles de données piégés et en moyenne leurs prédictions. La réduction de la variance donne souvent une meilleure généralisation qu'un seul arbre. L'importance de la caractéristique peut encore être extraite dans toute la forêt, en conservant une certaine interprétabilité.
  • Gradient Boosting (p. ex. XGBoost, LightGBM) construit des arbres séquentiellement, chaque nouvel arbre corrige les erreurs du précédent. Ces modèles atteignent souvent une précision de pointe, mais sont moins interprétables et nécessitent un réglage plus précis pour éviter les surajustements.Pour les RH, les arbres boostés sont utiles lorsque la précision prédictive est primordiale — par exemple, lorsqu'il s'agit de construire un système d'alerte rapide à l'échelle de l'entreprise.
  • Les machines de boosting explicables (EBM) sont un compromis : ce sont des modèles additifs qui peuvent capter les interactions et qui sont entièrement interprétables.

Un flux de travail commun est de commencer par un seul arbre de décision pour l'interprétation et l'adhésion des parties prenantes, puis de passer à une forêt aléatoire pour le déploiement de la production. Vous pouvez toujours expliquer les prédictions de l'ensemble en utilisant les valeurs SHAPley Additive exPlanations, qui montrent comment chaque fonction a contribué à un employé spécifique score de risque.

Mise en oeuvre d'un système de prévision d'attrition dans votre organisation

Déployer un modèle d'arbre de décision dans un contexte HR implique plus que de construire le classificateur dans un cahier Jupyter. Voici les étapes pratiques pour passer du prototype à la production:

  1. Intégrer avec votre HRIS: Tirer les données régulièrement (hebdomadairement ou mensuellement) de votre système d'information sur les ressources humaines. Automatiser le pipeline d'extraction et de prétraitement de sorte que le modèle reçoive des données fraîches sans intervention manuelle.
  2. Définir un seuil de risque : Décider d'une limite de probabilité pour les employés qui font du flattage. Établir un seuil élevé (p. ex. 0,7) réduit les faux positifs, mais peut manquer les employés à risque; un seuil plus bas (p. ex. 0,3) permet de capturer plus de personnes, mais exige davantage d'attention des gestionnaires.
  3. Construisez un tableau de bord: Visualisez les scores de risque prévus aux côtés des caractéristiques clés. Montrez quels départements ont la plus forte concentration de -haut risque -employés. Utilisez les couleurs de feu de circulation (vert, jaune, rouge) pour le rendre actionnable.
  4. Créer une boucle de rétroaction: Après une intervention (p. ex., une entrevue de séjour, une promotion, un rajustement salarial), enregistrer le résultat. L'employé a-t-il séjourné au moins six mois de plus? Utilisez ces nouvelles données pour recycler périodiquement le modèle — chaque trimestre est commun.
  5. Assurer la conformité et l'éthique[: Documenter les caractéristiques, les règles de décision et le rendement de votre modèle. Exécuter des vérifications de l'équité à chaque recyclage.

Conclusion : Les arbres décisionnels comme fondement pour une conservation plus intelligente

Les arbres de décision offrent un point de départ pratique et interprétable pour les équipes de RH qui cherchent à prédire quels employés sont susceptibles de quitter. Leurs règles claires aident à combler l'écart entre la science des données et l'action opérationnelle, permettant aux professionnels des RH de concevoir des interventions ciblées plutôt que de se fier à des hypothèses.

Lorsque vous pouvez identifier que les employés ayant de faibles scores d'engagement et de mauvais résultats de promotion sont 4× plus susceptibles de quitter, vous pouvez mettre en œuvre des programmes de maintien en poste ciblés : plans de perfectionnement professionnel pour ce segment, formation des gestionnaires ou ajustements de rémunération. Au fil du temps, ces interventions axées sur les données réduisent le roulement, réduisent les coûts d'embauche et créent une main-d'oeuvre plus stable et productive.

Pour plus de détails, voir la documentation scikit-learn sur les arbres de décision, un tutoriel pratique Kaggle[, et cette Aperçu de Cursera sur l'analyse des RH. Pour une plongée plus profonde dans la gestion du déséquilibre des classes, la documentation imbaled-learn de la bibliothèque est une ressource précieuse.