Une décision non expliquée reste contestable
Un algorithme qui refuse un crédit, écarte une candidature ou attribue une sanction produit un effet immédiat sur une personne. Tant que cet effet n'est pas expliqué, celle-ci n'a aucun moyen de contester ce qui la frappe : elle ignore sur quels éléments la décision repose et si ces éléments sont exacts. C'est cette asymétrie qui rend l'explication nécessaire, avant même toute considération morale. Une décision opaque n'est pas seulement injuste en apparence, elle est matériellement inattaquable, et c'est précisément ce défaut qui la fragilise face à un recours ou à une réclamation.
Expliquer ne consiste pas à révéler le code source ni à détailler chaque paramètre d'un modèle. Il s'agit de rendre compréhensible, pour la personne concernée, ce qui a pesé et comment la décision pourrait être revue. Cette exigence rejoint la logique du RGPD, qui prévoit un droit à une explication pour les décisions entièrement automatisées produisant des effets significatifs. Le règlement européen sur l'IA la prolonge en imposant, sur les usages à risque élevé, une supervision humaine effective et une information intelligible. Dans les deux cas, l'objectif est le même : que la personne puisse comprendre et contester.
Ce qu'expliquer veut dire concrètement
Rendre une décision lisible suppose d'identifier les éléments qui ont réellement compté. Un système de notation utilise rarement toutes ses variables avec le même poids : quelques facteurs déterminent l'issue, les autres nuancent. L'explication utile nomme ces facteurs, précise leur sens et signale les seuils qui font basculer le résultat. Elle indique aussi, lorsque c'est possible, ce qui aurait changé la décision : un revenu légèrement supérieur, une ancienneté plus longue, une pièce manquante. Cette forme d'explication, dite contrefactuelle, est souvent la plus parlante, parce qu'elle répond à la question que se pose la personne : que corriger pour obtenir un autre verdict ?
La difficulté tient au décalage entre le fonctionnement interne d'un modèle et le langage de celui qui reçoit la décision. Un modèle complexe ne raisonne pas par règles simples, et reconstituer une explication fidèle relève de l'approximation. Il faut donc choisir entre une explication exacte mais illisible et une explication claire mais partielle. En pratique, on retient la seconde, à condition d'assumer son caractère approché. Une explication qui prétend tout dire et n'éclaire personne ne remplit pas mieux sa fonction qu'une absence d'explication : elle donne l'illusion de la transparence sans en apporter le bénéfice.
Adapter le niveau d'explication à celui qui la reçoit
Une même décision appelle plusieurs explications selon l'interlocuteur. La personne concernée veut savoir ce qui l'a pénalisée et comment agir : son explication doit être brève, sans jargon, centrée sur son cas. L'auditeur interne ou l'autorité de contrôle attendent, eux, une description du système, des données employées et des tests conduits, soit une explication méthodologique plus longue et plus technique. L'ingénieur qui maintient l'outil a besoin d'une troisième version, portant sur les variables, les versions du modèle et les jeux de données. Confondre ces registres produit soit une explication inutilement complexe pour l'usager, soit une explication dangereusement vague pour le contrôleur.
Cette pluralité s'organise dans une documentation à plusieurs niveaux, qui relie le détail technique à la synthèse communicable. Le principe est simple : toute affirmation destinée au public doit pouvoir être rattachée à un élément vérifiable plus bas dans la chaîne. Sans ce lien, l'explication grand public devient une déclaration invérifiable, et l'explication technique reste lettre morte, faute d'être traduite pour ceux qui décident. Les cadres de gouvernance, notamment la norme ISO 42001, poussent dans cette direction en demandant qu'une organisation sache décrire et tracer les systèmes qu'elle exploite, au-delà du seul cercle de leurs concepteurs.
Les limites honnêtes de l'explication
Expliquer a un coût, et prétendre le contraire n'aide personne. Ouvrir entièrement un modèle expose des mécanismes qui peuvent être détournés, et un dispositif de détection de fraude qui dévoile ses règles cesse de fonctionner. Il existe donc un équilibre entre transparence et protection, que le droit reconnaît en n'exigeant pas la divulgation de l'algorithme lui-même, mais des éléments nécessaires à la compréhension et à la contestation. L'explication se limite à ce qui est utile à la personne pour exercer ses droits, sans se transformer en mode d'emploi offert à ceux qui cherchent à contourner le système mis en place.
Une explication, même bonne, ne répare pas tout. Elle indique pourquoi une décision a été prise, elle ne garantit pas qu'elle était juste. Un biais peut être parfaitement documenté et rester présent. C'est pourquoi l'explication va de pair avec la possibilité d'une reprise humaine : quelqu'un doit pouvoir revenir sur la décision, la redresser et en assumer la responsabilité. Le règlement européen sur l'IA insiste sur cette supervision pour les usages les plus sensibles. Expliquer sans pouvoir corriger revient à documenter une injustice avec soin, ce qui n'est pas un progrès pour la personne concernée.
Aller plus loin
Expliquer une décision suppose de maîtriser à la fois les mécanismes techniques et le cadre juridique qui l'encadre : deux versants qui s'apprennent ensemble. Le catalogue des 31 formations comprend le parcours de vérificateur de décisions algorithmiques et les fondamentaux de gouvernance de l'IA.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations