L'IA au secours d'elfes, de nains et d'hobbits à l'assaut des failles dans le code

Face à des vulnérabilités enfouies depuis des décennies que l'intelligence artificielle sait désormais exploiter en quelques secondes, la traque aux failles change d'échelle. Entre fuzzing, exécution symbolique, vérification formelle et LLM, plongée au cœur de la nouvelle bataille des tests logiciels automatisés.

Par

  • 6 min

trois

European Cyber Week (Rennes) - Une faille critique sommeillant dans le code source de PHP depuis 2004, découverte à plusieurs reprises par des chercheurs, mais laissée sans correctif pendant 22 ans faute d'exploit fonctionnel connu. Puis, l'irruption de modèles d'IA capables de transformer ces bugs théoriques en vecteurs d'exécution de code à distance sans authentification, menaçant d'un coup plus de 70 % des sites web mondiaux.

C'est sur ce rappel que Delphine Longuet, chercheuse chez Thales CortAIx Labs, a planté le décor lors d'une brillante présentation lors de l'ECW d'une transformation industrielle très urgente. Celle de la sécurisation du code critique.

« Avant l'IA, nous pouvions vivre avec ce genre de bugs pendant 22 ans. Mais aujourd'hui nous ne pouvons plus les ignorer. Nous devons renforcer nos logiciels, et cela commence par des tests rigoureux » dit-elle.

Et pour prémunir les systèmes contre les attaques, l'industrie logicielle ne peut plus se contenter de tests en boîte noire, où l'on vérifie simplement si le système répond aux exigences spécifiées. C'est au cœur de la boîte blanche, c'est à dire l'analyse exhaustive du code source, de ses branches et de ses conditions logiques, que la traque doit s'opérer. Une mission comparable à l'exploration méthodique d'un immense donjon truffé de pièges.

© Thales

Nains, hobbit et elfe au banc d'essai

Pour vulgariser les mécanismes de couverture structurelle de code (lignes, branches, décisions, multi-conditions), Delphine Longuet recourt en effet à une analogie médiévale-fantastique. Le programme informatique y devient un donjon fortifié (voir illustration ce-dessus), avec ses entrées, ses sorties, ses couloirs ramifiés et ses portes blindées à sens unique.

Les objectifs de couverture, ce sont les coffres au trésor disséminés dans les salles (couverture des lignes) ou placés dans chaque couloir après un embranchement (couverture des branches).

Et les incidents critiques, ce sont des pièges mortels qui font planter le programme, ou bien des sortilège plus pernicieux, qui corrompent discrètement l'état mémoire sans arrêter immédiatement le système (par exemple un dépassement de tampon ou buffer overflow).

Et pour rafler l'or et sécuriser le donjon, les équipes de développement s'appuyaient traditionnellement sur trois profils d'explorateurs aux philosophies opposées :

Profil d'explorateur Technique logicielle associée Forces Limites
Les nains Fuzzing guidé par la couverture (ex. libfuzzer, AFL++) Extrêmement rapides, infatigables, découvrent vite les failles évidentes Butent sur des portes aux serrures complexes
Le hobbit Exécution symbolique (ex. Klee) Méthodique, explore sans doublon Vitesse réduite, s'essouffle face à la saturation des solveurs
L'elfe Model-checking (ex. CBMC) Vision globale de la carte, apporte la preuve formelle d'inatteignabilité Explosion de la mémoire sur les grands donjons

© Thales

SeaCoral : quand la Communauté de l'Anneau unifie le test

Pendant des années, l'industrie a cloisonné ces approches, évoque la chercheuse. Google avec OSS-Fuzz et Microsoft avec OneFuzz ont facilité l'orchestration de multiples fuzzers, tandis que d'autres travaux ont tenté de fusionner les algorithmes.

Inspiré notamment par des expérimentations de Mitsubishi Electric R&D visant la collaboration d'outils hétérogènes, le consortium regroupant Thales et Titagone a conçu SeaCoral.

Son crédo ? « Un outil pour les gouverner tous ». Plutôt que de développer un énième solveur, SeaCoral fédère les meilleurs spécialistes open source sous une bannière unique :

  1. L'annotation avec Frama-C : La plateforme instrumente le code C en y insérant des labels. Chaque label représente un objectif unitaire de couverture (une ligne, une décision, ou l'une des combinaisons booléennes du critère multi-conditions).
  2. Le partage d'objectifs : Ces labels sont traduits automatiquement en branches virtuelles pour libfuzzer, et en assertions formelles pour Klee et CBMC.
  3. La collaboration dynamique : Les outils s'échangent leurs découvertes en cours d'exécution. Si libFuzzer et Klee découvrent un chemin, les labels satisfaits sont immédiatement retirés de la liste de travail de CBMC, qui n'intervient plus qu'en clôture pour résoudre les points les plus ardus.

Mur de la complexité et irruption de l'IA

Pourtant, pour aborder des composants industriels denses, les méthodes formelles rencontrent un plafond de verre. Sur un parseur de certificats et signatures X.509 de 9 000 lignes, l'alliance des trois outils se révèle impuissante.

C'est ici qu'entre en scène le magicien : le LLM. Les équipes de Thales ont soumis ce même parseur récalcitrant à un modèle d'IA (deepseek-4.1-flash piloté via OpenCode), avec un prompt d'une désarmante simplicité : « Peux-tu générer des tests pour cette fonction dans ce fichier afin d'atteindre une couverture maximale des lignes ? »

Et le résultat est assez spectaculaire. En seulement 24 minutes, le LLM parvient à couvrir l'ensemble du parseur.

Mais surtout, face à des lignes non couvertes, le modèle formule des hypothèses d'inatteignabilité en langage naturel. Invité ensuite à piloter CBMC pour valider ses dires, il élabore de lui-même une stratégie. Et en 40 minutes, la preuve formelle d'inatteignabilité est bouclée.

« Lors du premier essai avec CBMC, le modèle a échoué par manque de mémoire. Au second essai, il a réfléchi et a mis en place une vraie stratégie : il a divisé la preuve en plusieurs sous-preuves plus petites » détaille Delphine Longuet.

SeaCoral vs LLM : le choc des cultures

Faut-il pour autant remiser les outils traditionnels au musée ? Les données de banc d'essai présentées par Delphine Longuet révèlent une réalité bien plus nuancée :

Cas d'usage industriel Approche SeaCoral (libFuzzer + Klee + CBMC) Approche LLM (DeepSeek via OpenCode)
Parseur X.509 (9 000 lignes) Échec d'analyse (Out of Memory / Délais dépassés) Succès en 24 min (génération et couverture)
— Preuve d'inatteignabilité Impossible à établir Succès en 40 min (en pilotant CBMC)
Machine à états (600 lignes) Résolu à 100 % en 2 minutes 35 min (génération et minimisation des tests)
— Preuve d'inatteignabilité Quelques secondes 20 min supplémentaires (configuration CBMC)
Bilan global ~ 2 minutes ~ 55 minutes

Sur une machine à états de 600 lignes de code, la supériorité de SeaCoral est très nette. L'outil règle l'affaire en deux minutes montre en main. Le LLM, lui, met 35 minutes à travailler et 20 minutes supplémentaires à formaliser ses preuves avec CBMC.

« Les LLM sont nettement en avance sur les programmes de très grande taille, mais ils manquent cruellement de garanties : celles-ci ne viennent que des outils tiers auxquels ils ont accès » explique Delphine Longuet.

Par ailleurs, l'expérimentation soulève des questions de fond quant aux biais des modèles. Sur le parseur X.509, DeepSeek disposait manifestement dans ses données d'entraînement d'une excellente connaissance métier de la structure des certificats. De quoi lui permettre d'inférer intuitivement les entrées valides et invalides sans avoir à déduire toute la logique interne du code.

« En observant les réflexions du modèle pendant son exploration, il est clair qu'il a utilisé ses connaissances préalables. Il nous reste à tester ces modèles sur des codes métiers propriétaires qu'ils ne connaissent pas » prolonge Delphine Longuet.

Souveraineté, défense et protocoles MCP : vers l'hybridation

Pour les environnements hautement sensibles, à l'instar des systèmes de défense ou des logiciels avioniques développés chez Thales, la délégation aux modèles d'IA se heurte donc à quelques problèmes :

La confidentialité industrielle

Pas question d'envoyer du code critique sur des API de modèles frontières hébergées à l'étranger.

L'exécution doit donc se faire sur des modèles ouverts (open-weight) hébergés localement, qui accusent souvent plusieurs mois de retard de maturité.

La frugalité

Dans des centres de calcul aux ressources matérielles contraintes, faire tourner des inférences de modèles géants pendant des heures quand un solveur comme SeaCoral résout le problème en deux minutes est un non-sens.

Le besoin de garanties formelles

Un LLM produit du texte plausible. Pas de la vérité mathématique. Il ne peut donc certifier l'absence de faille que s'il s'appuie sur des outils de vérification tiers.

Symbiose

Et c'est précisément dans cette symbiose entre outils de testing et IA que se dessine l'avenir du génie logiciel assure la chercheuse de Thalès.

Les travaux prospectifs autour de SeaCoral s'orientent donc vers l'intégration de protocoles de contexte standardisés, tels que les serveurs MCP (Model Context Protocol).

Et dans cette logique, l'IA n'a donc pas vocation à remplacer les solveurs, mais à en devenir l'orchestrateur. Il s'agit pour eux de configurer automatiquement les paramètres, ou encore de décomposer les architectures.

« L'IA a besoin des méthodes formelles pour vérifier ce qu'elle produit, mais elle simplifie aussi grandement l'utilisation de ces outils. L'IA sera à la fois un prescripteur et un accélérateur, l'hybridation est la clé pour obtenir des logiciels de confiance » conclut Delphine Longuet.

Le goulet d'étranglement de la vérification

À l'heure où l'IA générative permet de produire du code à une vitesse sans précédent, le goulet d'étranglement de la tech n'est donc plus la programmation, mais la vérification.

En réconciliant la ruse des nains, la précision des hobbits, la rigueur des elfes et la puissance d'orchestration des modèles de langage, l'industrie logicielle tient peut-être les armes pour refermer les failles avant que les attaquants ne s'en emparent.

Connexion

Vous n’avez pas encore de compte ?

AUTOUR DE ZDNET
  • Gestion des cookies
SERVICES
À PROPOS
Accessibilité : non conforme