Analyser les données chiffrées dans les projets d'ingénierie inversée : méthodes et outils

Introduction à l'analyse des données chiffrées dans l'ingénierie inverse

Lorsque ce système repose sur le chiffrement, qu'il s'agisse de protéger les données, d'objecter la logique ou de sécuriser les communications, l'ingénieur inverse fait face à une barrière redoutable. Les données chiffrées, si elles ne sont pas examinées, peuvent cacher des fonctionnalités malveillantes, des algorithmes propriétaires ou des paramètres de configuration critiques. L'analyse des données chiffrées est donc une compétence essentielle dans l'analyse des logiciels malveillants, la recherche sur la vulnérabilité, les litiges de propriété intellectuelle et l'audit de sécurité.

Comprendre pourquoi le chiffrement apparaît dans les cibles d'ingénierie inversée

Le chiffrement n'est pas seulement une fonction de sécurité, mais un choix délibéré de conception fait par les développeurs. Dans les contextes d'ingénierie inverse, le chiffrement apparaît pour plusieurs raisons:

Protection des données sensibles – Les clés de licence, les jetons d'authentification, les identifiants d'utilisateur et les informations financières sont fréquemment chiffrés lorsqu'ils sont stockés ou transmis.
Ingénierie anti-rétroactive – Les routines de cryptage personnalisées sont utilisées pour masquer le code, cacher les chaînes et compliquer l'analyse statique.
Réseau et protocoles[ – De nombreuses applications chiffrent le trafic réseau en utilisant TLS, des couches de chiffrement personnalisées ou des schémas d'obfuscation.
Protection des médias et du contenu[ – Les systèmes de gestion des droits numériques (DRM) chiffrent les fichiers multimédias, nécessitant un décryptage avant la lecture.
– Les canaux de commande et de contrôle (C2) utilisent souvent le chiffrement pour échapper à la détection et cacher leur activité.

Reconnaître l'intention derrière le chiffrement aide l'ingénieur inverse à choisir le bon chemin analytique. Que le chiffrement soit basé sur des algorithmes bien connus (AES, RSA, ChaCha20) ou des chiffrements sur mesure, le but reste le même : découvrir où et comment les données sont transformées, puis récupérer le texte clair.

Reconnaissance initiale : Identification du chiffrement dans le binaire

Avant de plonger dans le déchiffrement, l'analyste doit confirmer que le chiffrement est effectivement présent et en déterminer la nature. La phase de reconnaissance initiale repose sur une heuristique statique et simple :

Analyse des chaînes et numérisation des signatures

Les démonteurs tels que IDA Pro et Ghidra peuvent être utilisés pour analyser le binaire pour les chaînes qui référencent les bibliothèques cryptographiques ou les messages d'erreur comme -Déchiffrement échoué, -Digitation trop courte, ou -Digitation vectorielle.-Digérer des outils comme Détecter It Easy (DIE) et -PeiD[ peut identifier les signatures de bibliothèques cryptographiques communes (Crypto++, OpenSSL, Windows CryptoAPI).

Analyse de l'entropie

Les données chiffrées affichent une entropie élevée (valeurs proches de 7,8 bits par octet) par rapport au texte clair ou au code machine. Utilisez des outils comme Binwalk ou 010 Editor[ (avec sa vue entropie) pour localiser des sections à entropie élevée dans les décharges binaires ou dans les mémoire.

Bytes magiques et en-têtes de fichiers

De nombreux schémas de cryptage laissent des octets magiques ou des en-têtes de fichiers reconnaissables. Par exemple, un fichier zip crypté commence par , le trafic TLS commence par (handshake), et les volumes chiffrés de BitLocker ont une signature . Même les routines de cryptage personnalisées peuvent intégrer des champs de longueur, des vecteurs d'initialisation ou des comptes de contrôle qui peuvent être identifiés par inspection hexagonale.

Après l'identification initiale, l'analyste procède à une analyse statique et dynamique plus détaillée.

Analyse statique: Décoder l'algorithme de chiffrement sans exécution

L'analyse statique vise à comprendre l'algorithme de chiffrement en examinant le code qui l'implémente. Cette approche est plus sûre parce qu'elle évite de déclencher une logique anti-débogue ou anti-analyse.

Disséquer les routines cryptographiques dans un démonteur

Grâce à IDA Pro ou Ghidra, l'ingénieur inverse localise les fonctions cryptographiques. Les indicateurs clés sont les suivants :

Les tableaux constants – De nombreux algorithmes (par exemple, les boîtes AES S‐boxes, les boîtes DES substitution, les tables CRC) se basent sur des tables de recherche fixes.
Opérations de déplacement et de XOR – Les chiffres de blocs utilisent généralement une série de déplacements, de XOR et de substitutions. Cherchez des boucles qui itéreront sur des blocs fixes (16 octets pour AES, 8 octets pour DES).
Opérations non linéaires – Les boîtes S et la multiplication dans les champs Galois sont utilisées dans le SAE. L'identification de ces derniers peut aider à confirmer l'algorithme.
Horloge des clés – Extension de clé AES, génération de clé RSA et fonctions de dérivé de clé (PBKDF2, bcrypt) créent des clés dérivées.

Lorsque l'algorithme est standard, l'analyste peut souvent l'identifier en apparaissant les constantes et les séquences d'opération avec des implémentations connues (par exemple, en comparant avec OpenSSL ou TinyAES).

Extraction des clés codées en dur et des vecteurs d'initialisation

L'analyse statique révèle parfois la clé de chiffrement stockée directement dans le binaire. Les clés peuvent être intégrées en tant que tableaux constants, valeurs encodées par XOR ou générées à partir d'un algorithme simple. Utilisez une recherche hexagonale pour trouver des blocs à entropie élevée de la longueur de clé attendue (16, 24 ou 32 octets pour AES).

Limitations de l'analyse statique pure

Une forte obfuscation, un code emballé et une génération de clés dépendante de l'environnement peuvent rendre l'analyse statique pure insuffisante.

Analyse dynamique : Observer le chiffrement à Runtime

L'analyse dynamique exécute la cible dans un environnement contrôlé, permettant à l'ingénieur inverse d'observer les routines de chiffrement en action. Cette approche est particulièrement puissante pour extraire les clés d'exécution, les variantes d'algorithmes et les états plaintext intermédiaires.

Utilisation de débogueurs pour crocheter les fonctions de chiffrement

Des débogueurs comme x64dbg (Windows) et GDB[ (Linux) permettent à l'analyste de définir des points d'arrêt sur les appels d'API cryptographiques couramment utilisés (p. ex., , , ). En casant avant et après l'appel, l'analyste peut inspecter les tampons d'entrée (plaintext) et de sortie (ciphertext), ainsi que les clés et les IV stockées en mémoire.

Analyse de la mémoire

Après l'exécution de la fonction de chiffrement, le texte simple ou la clé de chiffrement peut toujours résider en mémoire. Des outils comme Volatilité[ (pour la mémoire médico-légale), ReClass.NET[, et Cheat Engine[ peuvent scanner la mémoire du processus pour des motifs spécifiques (par exemple, une chaîne de texte simple connue ou la longueur de la clé).

Analyse dynamique et instrumentation des taints

Des outils avancés comme Frida permettent une instrumentation dynamique.L'analyste peut écrire des crochets JavaScript qui tracent le flux de données par des fonctions de chiffrement. Par exemple, crochet ou pour enregistrer toutes les données qui sont ensuite XOR avec une valeur constante – un signe commun d'un chiffrement personnalisé. Pin (d'Intel) et Dynamorio peuvent également être utilisés pour le suivi de taints par exécution.

Attaques latérales (Timing, Power, et Cache)

Bien que moins fréquent dans l'ingénierie inverse des logiciels typiques, les attaques sur canaux latéraux peuvent révéler des clés de chiffrement en mesurant le temps d'exécution ou les schémas d'accès à la mémoire. Par exemple, une attaque de timing sur AES peut être effectuée en conduisant la cible avec des entrées connues et en mesurant le temps de décryptage.

Outils essentiels pour l'analyse des données chiffrées

Le tableau suivant est organisé par catégorie, en mettant en évidence leurs points forts spécifiques pour l'analyse des données chiffrées :

Analyse du trafic réseau

Wireshark – capture et inspecte les paquets réseau; peut déchiffrer TLS si les clés de session sont fournies (via SSLKEYLOGFILE). Utile pour identifier le chiffrement personnalisé sur TCP/UDP.
tcpdump + Wireshark CLI – pour la capture de paquets en ligne de commande dans des environnements distants.

Analyse statique et démontage

IDA Pro – désassembleur standard de l'industrie avec un large support plugin (FindCrypt, CryptoScanner, Signatures).
Ghidra – démonteur libre et open-source de la NSA; comprend un décompilateur puissant et une analyse scriptable.
GNU Binutils (objdump, readelf) – pour une inspection rapide des binaires ELF.

Analyse dynamique et débogage

x64dbg – débogueur riche en fonctionnalités pour Windows, avec base de données intégrée pour les crochets d'API crypto.
Frida – boîte à outils d'instrumentation dynamique; idéal pour accrocher du code de chiffrement personnalisé dans les applications natives et Android.
Unicorn Engine – Émulateur CPU qui peut exécuter des parties du binaire isolément; utile pour extraire des routines de déchiffrement sans exécuter le programme complet.
QEMU – émulation système complet; utile pour exécuter un micrologiciel ou un logiciel malveillant dans un environnement sablé.

Scannage et édition de la mémoire

Cheat Engine – scanner de mémoire avec des fonctions de recherche par valeur, de balayage de motifs et de hacking de vitesse; souvent utilisé pour trouver des clés ou des tampons de texte simple.
ReClass.NET – aide les protocoles réseau et les structures de mémoire inverses; peut visualiser les champs chiffrés.
WinDbg – débogueur en mode noyau qui peut vider la mémoire physique.

Analyse cryptographique et apprentissage

CrypTool 2 – outil graphique pour l'expérimentation d'algorithmes cryptographiques; utile pour comprendre les chiffrements standard.
HashMyFiles – petit utilitaire pour calculer les haches à partir de chaînes d'hexagones; utile pour vérifier l'intégrité de la clé.
010 Editor – éditeur d'hexagones avec script, visualisation entropie et analyse par gabarit des structures de fichiers.

Stratégies avancées : Emulation, exécution symbolique et fuzzing

Lorsque l'analyse statique et dynamique conventionnelle ne parvient pas à découvrir l'algorithme de chiffrement ou la clé, des techniques plus sophistiquées entrent en jeu.

Extraction par émulation

En utilisant le moteur Unicorne, un analyste peut extraire les instructions brutes d'une fonction de déchiffrement suspectée et les exécuter dans un environnement contrôlé avec une entrée connue. En fournissant un chiffrement connu et en observant la sortie, l'algorithme peut être inversé étape par étape. Cette technique est particulièrement utile pour les protections virtuelles obfusées (p. ex. VMProtect, Themida).

Exécution symbolique avec Angr

Angr est un cadre d'analyse binaire qui utilise l'exécution symbolique pour explorer plusieurs chemins. Il peut être utilisé pour explorer automatiquement l'espace d'état d'une fonction de chiffrement, suivre l'impact de la clé sur la sortie. Par exemple, si le chiffrement utilise un XOR simple avec une clé, Angr peut extraire la clé en la résolvant symboliquement. Angr prend également en charge l'exécution concolique (exécution + symbolique) pour gérer des conditions complexes.

Décryptage des voies de chiffrement

Des outils de flou comme American Fuzzy Lop (AFL) ou [LibFuzzer peuvent être adaptés pour alimenter des entrées conçues en binaire, en vue de déclencher des routines de chiffrement qui ne sont normalement appelées que dans des conditions spécifiques. En surveillant la couverture, l'analyste peut identifier les entrées qui mènent à la fonction de chiffrement et ensuite utiliser un débogueur pour capturer l'état. Cette approche est commune dans la recherche sur la vulnérabilité mais aussi efficace pour l'ingénierie inverse.

Meilleures pratiques pour un flux de travail méthodique

Un workflow structuré assure la rigueur et réduit les risques de manque d'information critique :

Documenter l'environnement – notez le système d'exploitation, le matériel et toutes les protections anti-débogue. Utilisez toujours une machine virtuelle contrôlée ou une boîte à sable.
Démarrer par la reconnaissance statique – Scanner les chaînes, l'entropie et les signatures de fichiers.
Utiliser l'analyse dynamique tôt – si l'analyse statique s'arrête, exécuter le binaire et utiliser des débogueurs/instrumentation pour saisir le comportement d'exécution.
Automatiser lorsque c'est possible – écrire des scripts pour Frida, IDAPython ou Ghidra pour crocheter et enregistrer des fonctions de chiffrement. Cela permet d'économiser du temps lors de tests de plusieurs entrées.
Déchiffrement de la valeur – une fois qu'une clé et un algorithme sont hypothéqués, écrivez une petite routine de déchiffrement (p. ex., dans Python à l'aide de la bibliothèque ) et testez-la contre le texte codé capturé.
Gardez un carnet de laboratoire – enregistrez chaque version d'outil, commande, offset et observation. L'ingénierie inverse est autant au sujet de la gestion des données qu'au sujet des compétences techniques.
Restez éthique – seulement un logiciel d'ingénierie inverse que vous avez la permission d'analyser. Documentez vos constatations de façon responsable.

Considérations éthiques et juridiques

Dans la plupart des pays, l'ingénierie inverse pour l'interopérabilité, la recherche en matière de sécurité ou les fins éducatives est protégée par des exceptions ou des utilisations équitables. Toutefois, le contournement du chiffrement spécifiquement pour briser la protection du droit d'auteur (p. ex., DRM) peut violer des lois comme la Digital Millennium Copyright Act (DMCA) aux États-Unis ou la Directive sur le droit d'auteur de l'UE.

Étude de cas : Extraire un chiffre personnalisé basé sur les XOR d'une application héritée

Imaginez une application Windows qui crypte son fichier de configuration en utilisant un algorithme personnalisé. Le fichier commence par un champ de longueur de 4 octets, suivi par du chiffrement. L'analyse statique dans IDA Pro révèle une fonction que XORs chaque octet avec un seul octet de clé dérivé de la taille du fichier. En définissant un point d'arrêt dans x64dbg après la boucle XOR, l'analyste sauvegarde le tampon de texte. La clé s'avère être . Après avoir écrit un petit script Python à XOR le fichier entier avec cette clé, les données de configuration sont entièrement lisibles. Cet exemple simple illustre la puissance de combiner l'identification statique avec la vérification dynamique.

Conclusion

L'analyse des données chiffrées dans les projets d'ingénierie inverse exige une série de compétences : connaissance des algorithmes cryptographiques, maîtrise des outils d'analyse statique et dynamique et approche systématique. En comprenant le but du chiffrement, en identifiant sa présence par l'entropie et les signatures, en inspectant le code de façon statique, puis en observant ou en extrayant les clés au moment de l'exécution, l'ingénieur inverse peut récupérer de façon fiable le texte clair à partir de cibles même durcies.