L'explicabilité, un terme qui recouvre plusieurs attentes
L'explicabilité désigne plusieurs choses selon celui qui l'invoque. L'utilisateur veut une raison simple : pourquoi cette décision plutôt qu'une autre ? L'ingénieur cherche à comprendre les facteurs qui pèsent dans le calcul. Le régulateur, lui, veut pouvoir vérifier qu'un traitement respecte les règles. Ces attentes ne se satisfont pas avec les mêmes outils. Une explication lisible pour une personne concernée n'a rien à voir avec une analyse technique des poids d'un modèle. Confondre ces registres conduit à produire des explications qui ne convainquent personne : trop techniques pour l'usager, trop vagues pour le contrôle.
Cette distinction n'est pas qu'affaire de vocabulaire. Elle détermine ce que l'on peut promettre. Un modèle simple, comme une régression, s'explique presque directement. Un grand modèle de langage ou un réseau profond, dont le comportement dépend de millions de paramètres, ne se laisse pas expliquer de la même façon. On peut décrire ce qui a influencé une sortie donnée, sans pour autant reconstituer le raisonnement complet. L'honnêteté consiste à dire ce que l'explication couvre et ce qu'elle laisse de côté. Une explication partielle mais sincère vaut mieux qu'une justification plausible mais inventée après coup.
Vérifier une décision, pas seulement la comprendre
Vérifier va plus loin qu'expliquer. Il ne suffit pas de savoir pourquoi le modèle a produit telle sortie ; il faut juger si cette sortie est acceptable au regard des règles fixées. La vérification compare le comportement observé aux engagements pris : taux d'erreur toléré, absence de biais systématique, respect des critères interdits comme l'origine ou le genre. Elle suppose donc des références explicites, sans lesquelles il n'y a rien à vérifier. Un modèle ne peut pas être déclaré conforme dans l'absolu ; il l'est ou ne l'est pas par rapport à un cahier des charges précis et à un usage déterminé.
Ce travail s'appuie sur des tests répétés, des jeux de données variés et une surveillance dans le temps. Un modèle se comporte différemment lorsque les demandes évoluent, lorsque les données d'entrée changent de nature ou lorsque l'environnement se transforme. La vérification d'un modèle d'IA n'est donc pas un contrôle ponctuel, mais un suivi. Elle produit des traces : quels tests ont été menés, sur quelles données, avec quels résultats. Ces preuves sont ce qui permet de répondre le jour où un utilisateur conteste une décision ou qu'un contrôle l'exige. Sans traçabilité, la conformité affirmée reste invérifiable.
Les méthodes d'explication et leurs limites
Il existe deux grandes familles d'approches. Les unes construisent des modèles compréhensibles par nature, au prix parfois d'une précision moindre. Les autres s'appliquent après coup à des modèles opaques, en estimant la contribution de chaque variable à une décision donnée. Ces méthodes dites post hoc produisent des indications utiles, mais restent des approximations. Elles éclairent le comportement sans le révéler entièrement. Le risque est de prendre une estimation pour une vérité. Un score d'importance élevé pour une variable ne signifie pas que le modèle a raisonné ainsi, seulement qu'un lien a été détecté.
Cette limite a une conséquence pratique : l'explicabilité ne dispense pas de la prudence. Une explication convaincante peut accompagner une décision erronée, et inversement. C'est pourquoi elle se combine à d'autres moyens : évaluation rigoureuse, tests de robustesse, contrôle humain sur les cas sensibles. L'explication sert à dialoguer avec l'utilisateur, à documenter un choix, à repérer des signaux d'alerte — pas à justifier n'importe quoi après coup. Bien comprise, elle est un instrument de transparence ; mal utilisée, elle devient un argument de vente ou un alibi. Tout dépend de l'intention et de la rigueur de ceux qui l'emploient.
Ce que les cadres réglementaires exigent vraiment
Le cadre européen a fait de l'explicabilité et de la vérification des sujets de droit. Le RGPD, applicable depuis 2018, prévoit un droit à l'information sur la logique sous-jacente d'une décision automatisée et des garanties contre un traitement purement automatisé dans certains cas. Le règlement européen sur l'intelligence artificielle, adopté en 2024, impose, selon le niveau de risque, des obligations de transparence, de documentation et de supervision humaine, applicables par étapes entre 2025 et 2026. Ces textes ne réclament pas une compréhension technique totale du modèle, mais une capacité à rendre compte.
Cette nuance est importante pour qui met en œuvre des systèmes. On attend moins un exposé du fonctionnement interne qu'une démonstration de maîtrise : des procédures, des tests, des responsabilités attribuées, des voies de recours pour les personnes concernées. La norme ISO/IEC 42001, relative aux systèmes de management de l'IA, propose un cadre pour organiser ces éléments au sein d'une organisation. Vérifier un modèle, dans cette perspective, c'est pouvoir prouver qu'on l'a encadré. L'explicabilité technique y contribue, mais elle ne remplace pas la gouvernance. C'est cette combinaison — méthodes et organisation — qui rend un système d'IA défendable.
Aller plus loin
Rendre un modèle d'IA explicable et vérifiable suppose des compétences en évaluation, en documentation et en gouvernance, qui ne s'improvisent pas. Notre catalogue des 31 formations propose des parcours sur la vérification des décisions algorithmiques et la conformité des systèmes d'IA. Ils s'adressent à ceux qui doivent répondre de ce que leurs modèles décident.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations