Ce qu'une contre-expertise doit établir
Le travail part d'une question simple : qu'est-ce qui a conduit à cette décision ? Une contre-expertise solide ne se contente pas de contester le résultat. Elle reconstitue la chaîne complète : quelles données ont été utilisées, quels critères ont pesé, quel seuil a été franchi. Elle vérifie que les informations étaient exactes et à jour, que les règles annoncées ont bien été appliquées, et qu'aucun élément discriminatoire n'a joué un rôle. Chaque maillon est examiné séparément avant d'être relié aux autres, pour éviter de conclure trop vite. Une conclusion qui ne tient qu'à une intuition ne pèse rien face à une organisation qui présente sa documentation et ses journaux.
L'expertise cherche aussi ce que le système dissimule. Un modèle complexe ne se laisse pas toujours lire directement. On peut alors évaluer son comportement : soumettre des cas très proches en ne changeant qu'un seul critère, observer si la décision bascule, repérer des corrélations suspectes. Cette méthode par les effets, moins directe, reste souvent la seule praticable. Son but n'est pas de démonter le modèle, mais de produire une explication compréhensible et un constat défendable devant la personne concernée. C'est un travail de reconstitution patient, qui refuse par principe les raccourcis faciles.
Le droit d'obtenir une explication
Le cadre européen fournit des appuis solides. Le RGPD encadre les décisions entièrement automatisées produisant des effets significatifs et prévoit le droit d'obtenir une intervention humaine ainsi qu'une explication. Le règlement européen sur l'IA, entré en application par étapes à partir de 2024, impose selon les cas transparence, supervision humaine et documentation pour les systèmes classés à haut risque. Ces textes ne remplacent pas l'analyse technique : ils fixent ce que l'organisation doit être capable de démontrer. Ces textes donnent un droit d'entrée, mais pas la preuve : celle-ci se construit dossier par dossier, pièce par pièce.
Sur le terrain, ces obligations se traduisent en questions concrètes. L'entreprise peut-elle dire quels critères ont compté dans la décision ? Peut-elle montrer qu'un humain a réellement repris le dossier ? Dispose-t-elle d'une trace fiable pour le prouver ? Beaucoup d'organisations découvrent, au moment d'une contestation, qu'elles ne savent pas répondre. La contre-expertise met au jour ces lacunes et oblige à distinguer ce qui est prouvé de ce qui est seulement affirmé. Les questions simples font souvent tomber les belles présentations des fournisseurs de solutions. L'absence de réponse est elle-même une réponse exploitable.
Les documents à réunir
Une contre-expertise commence par une collecte méthodique et ordonnée. Il faut les décisions rendues, les journaux d'exécution, la version du modèle utilisée, la documentation décrivant ses finalités, ses limites et les données d'entraînement. À cela s'ajoutent les échanges avec la personne concernée et, si elle existe, l'explication qui lui a été transmise au moment du refus. Sans ces pièces, toute analyse se réduit à des suppositions, et une supposition ne résiste pas longtemps à un examen contradictoire. Une expertise qui improvise sa collecte perd toute sa force, même lorsque le fond du raisonnement reste juste.
La chronologie compte autant que le contenu. Savoir quand le dossier a été traité, avec quelle version du système, quel correctif avait été appliqué, permet d'écarter des conclusions hâtives et injustes. Un écart de décision peut venir d'une donnée erronée, d'une règle mal paramétrée ou d'une mise à jour récente mal maîtrisée. Reconstituer le calendrier technique et humain est souvent ce qui distingue une expertise sérieuse d'un avis général sur les algorithmes. Un décalage de quelques jours dans le calendrier peut expliquer une décision qui, sinon, paraît totalement arbitraire. La rigueur de la datation vaut souvent celle de l'analyse elle-même.
Qui peut conduire la contre-expertise
L'indépendance est la condition de la crédibilité. L'expertise doit être menée par un tiers qui n'a pas participé à la conception du système et n'a aucun intérêt au résultat. Cette extériorité ne suffit pas, elle doit s'accompagner de compétences croisées. Comprendre un modèle ne remplace pas comprendre le droit, et l'inverse n'est pas plus vrai. La qualité d'une contre-expertise tient à la capacité de tenir ensemble la technique, le cadre juridique et le contexte métier particulier du dossier. L'indépendance se démontre par la méthode : elle ne se décrète pas dans une note de synthèse ni dans une clause de contrat.
La fonction se professionnalise peu à peu. Des auditeurs, des juristes et des spécialistes des données se forment à ce travail d'analyse contradictoire, encore peu enseigné de façon structurée. Le besoin grandit à mesure que les décisions assistées par l'IA se multiplient dans la banque, l'assurance, l'emploi et l'éducation. Savoir conduire ou contester une décision algorithmique devient une compétence recherchée, à la frontière de la technique et du droit. Cette compétence nouvelle manque encore de cadres reconnus, ce qui la rend d'autant plus précieuse pour ceux qui la maîtrisent vraiment.
Aller plus loin
La contre-expertise rend une décision explicable, donc contestable et améliorable. C'est un savoir-faire à part entière, utile aux organisations comme aux personnes concernées. Pour aller plus loin, consultez le catalogue des 31 formations.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations