Deux regards, deux livrables
L'auditeur IA part d'un référentiel. Il examine un système, compare ses pratiques à des exigences — le règlement européen sur l'IA, l'ISO/IEC 42001 sur le management des systèmes d'intelligence artificielle, les critères du RGPD — puis rend un rapport. Son livrable nomme les écarts constatés, les preuves rassemblées et les corrections attendues, avec des échéances. L'éthicien IA part d'une tout autre question : à quoi ce système sert, et à qui profite-t-il ou nuit-il ? Il produit une analyse argumentée, non un constat d'écart. Deux documents, deux usages : le premier se range dans un dossier de conformité, tandis que le second nourrit une décision en cours. Ce rapport a une fonction précise : rendre la situation vérifiable par un tiers.
Cette différence de livrable commande tout le reste. Un audit se conteste par des faits : un document manquant, un test non réalisé, un journal absent. Un avis éthique se conteste par des raisons : une priorité jugée mal placée, un effet sur un groupe passé sous silence, une valeur écartée sans discussion. L'organisation a besoin des deux formes de critique, mais elle ne peut pas traiter un désaccord éthique comme une simple non-conformité, ni réduire une non-conformité documentée à une opinion discutable. Ce sont deux régimes de preuve distincts. Confondre les deux revient à demander à un thermomètre de juger si la température convient.
L'auditeur : preuves, normes et traçabilité
Le travail d'audit exige une méthode reproductible. On définit d'abord le périmètre, on collecte ensuite les pièces — documentation, jeux de données, journaux d'exécution, résultats de tests —, puis on vérifie chaque exigence une à une. La force de l'auditeur tient à cette discipline : ce qu'il affirme, il peut le montrer sur pièce. Sans trace, il n'y a pas de constat possible. C'est aussi ce qui le rend indépendant : sa conclusion ne dépend pas de l'envie de l'équipe projet, ni de la bonne humeur du fournisseur. Un audit bâclé se démonte en quelques questions précises posées au bon interlocuteur. L'indépendance se voit dans la méthode autant que dans le titre.
L'audit ne se limite pas à cocher des cases. Il évalue si les mesures tiennent dans la durée : qui surveille le modèle en production, comment un dérèglement est détecté, comment une décision automatisée est contestée par un usager qui s'estime lésé. Un rapport d'audit utile est daté, circonstancié et actionnable. Il indique un niveau de risque et une échéance. Un audit qui se contente de conclure « conforme » sans préciser jusqu'à quand, ni sur quels points, engage l'organisation à la légère. Un rapport rendu trop tard conseille ce qui est déjà construit et ne modifie plus rien. La précision des échéances distingue l'audit sérieux du contrôle de façade.
L'éthicien : finalités, équité et effets sociaux
L'éthicien IA pose les questions que la norme laisse ouvertes. Un système peut être parfaitement conforme et pourtant nuisible : trier des candidatures selon un critère corrélé à l'origine sans jamais le nommer, orienter des contenus vers les personnes les plus fragiles, surveiller des salariés sans contre-pouvoir. La conformité est un plancher, pas un sommet. L'éthicien rend visible ce que les indicateurs techniques ne mesurent pas : la répartition des bénéfices, la charge qui pèse sur certains groupes, les personnes absentes de la décision. Ces angles morts ne relèvent pas d'une malveillance, mais de l'angle choisi par le référentiel lui-même. C'est ce décalage entre la règle et l'effet vécu qui justifie la fonction éthique.
Son travail suppose d'écouter les personnes concernées, pas seulement les concepteurs du système. Il documente les arbitrages, explicite les valeurs retenues et celles qui ont été écartées, et dit pourquoi. Il ne tranche pas à la place du décideur : il éclaire le choix et nomme son prix. Cette fonction ne se délègue pas à un comité qui valide une fois le projet terminé. Elle a besoin d'être présente dès la conception, quand les finalités sont encore modifiables et que les marges de manœuvre existent. Un avis formulé après coup se contente trop souvent de commenter des choix devenus irréversibles. Un avis rendu trop tard conseille ce qui est déjà en service.
Les faire travailler ensemble
Un dispositif solide articule les deux rôles sans jamais les fusionner. L'éthicien éclaire les finalités et les effets ; l'auditeur vérifie que les engagements pris sont réellement tenus et tracés. Si une décision éthique — refuser une fonctionnalité, restreindre une collecte, ajouter une information — n'est pas reprise dans les exigences auditées, elle reste une bonne intention sans effet. Et si l'audit ne s'appuie que sur des cases cochées, il valide la forme en manquant le fond. L'un sans l'autre laisse soit des intentions sans preuve, soit des preuves sans direction, et parfois les deux à la fois. Une organisation peut ainsi tenir ses engagements au lieu de les proclamer.
Dans les faits, les deux fonctions coexistent rarement dans une même personne. L'audit demande une rigueur de preuve et une connaissance précise des référentiels ; l'éthique demande du recul, de l'écoute et une capacité à entendre des positions opposées sans les écraser. Séparer les rôles protège chacun de la complaisance et des conflits d'intérêts. Une organisation qui n'a que l'un des deux croit être en règle, ou se croit vertueuse, et se trompe dans les deux cas. Cette séparation est une force, pas une complication : chacun fait ce qu'il sait faire, et l'organisation y gagne en clarté. Chacun apporte un regard que l'autre ne peut pas porter seul.
Aller plus loin
Un audit prouve, une éthique éclaire : les deux fonctions se complètent sans se remplacer. Pour former des profils capables de tenir l'une ou l'autre, parcourez le catalogue des 31 formations.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations