Une obligation inscrite dans le règlement européen
Le règlement européen sur l'intelligence artificielle, adopté en 2024, classe les systèmes selon leur niveau de risque. Pour les usages les plus sensibles — recrutement, éducation, certains services essentiels —, il impose une supervision humaine effective. Le texte ne réclame pas une présence symbolique : il exige que la personne chargée de la supervision puisse comprendre les capacités et les limites du système, en détecter les anomalies et décider d'interrompre ou de ne pas suivre une sortie. Il prévoit aussi que cette personne ne se laisse pas influencer indûment par la machine, ce qui suppose des moyens réels de lui résister.
Ces obligations s'appliquent par étapes, entre 2025 et 2026, selon les dispositions concernées. Le RGPD, applicable depuis 2018, encadre de son côté les décisions automatisées et prévoit, dans certains cas, un droit à une intervention humaine. Les deux textes ne se contredisent pas : ils se complètent. Le premier vise la sûreté et la gouvernance du système, le second la protection des personnes dont les données sont traitées. Pour une organisation, cela signifie concevoir la supervision comme un dispositif documenté, pas comme une intention affichée dans une charte. La conformité se prouve, elle ne se déclare pas.
Ce que superviser veut dire concrètement
Superviser, c'est disposer du temps, de l'information et de l'autorité nécessaires pour contester une décision. Ces trois conditions se préparent. Le temps : une personne qui doit valider des centaines de sorties par heure ne supervise rien, elle tamponne. L'information : le superviseur doit voir ce qui a motivé une décision, ce qui suppose des sorties compréhensibles et traçables. L'autorité : il doit pouvoir refuser sans subir de pression, ce qui dépend de l'organisation autant que de la technique. Une supervision qui échoue sur l'un de ces trois points n'est qu'une apparence, souvent entretenue pour rassurer sans rien changer au fond.
La manière de superviser varie avec le système. Pour un modèle qui trie des dossiers, la supervision peut consister à revoir les cas limites et à corriger les erreurs récurrentes. Pour un agent qui conduit une interaction, elle suppose de pouvoir interrompre en direct. Pour un outil d'aide à la décision, elle passe par la possibilité de ne pas suivre la recommandation sans pénalité. Dans tous les cas, la supervision n'est pas un poste fixe : c'est un ensemble de gestes répartis dans le temps. La définir précisément évite l'écueil d'une formule creuse, invoquée pour clore un débat sans modifier le fonctionnement réel.
Les usages qui exigent une supervision renforcée
Tous les systèmes d'IA ne méritent pas la même vigilance. Ceux qui affectent des droits ou des parcours de vie — accès à un emploi, à une formation, à un service — appellent une supervision serrée, car une erreur y produit des conséquences durables et difficiles à réparer. À l'inverse, un outil qui suggère une orthographe ou reformule un texte tolère une surveillance légère. Le principe est celui de la proportionnalité : plus la décision est lourde et peu réversible, plus la part humaine doit être solide. Ce raisonnement guide la conception et évite de traiter tous les cas avec les mêmes moyens.
La supervision renforcée suppose aussi de prévoir ce qui se passe en cas de désaccord entre le superviseur et le système. Suivre la personne plutôt que la machine est parfois coûteux, moins efficace à court terme ; c'est pourtant la condition d'une vraie supervision. Sans cette possibilité, l'humain devient une caution. Il faut donc organiser le recours : comment contester, devant qui, avec quelles preuves. Ces procédures, souvent négligées, sont ce qui distingue un dispositif responsable d'un habillage. Les référentiels de management, comme la norme ISO/IEC 42001, aident à structurer ces choix au sein de l'organisation.
Documenter la supervision pour la rendre vérifiable
Une supervision effective laisse des traces. Il faut pouvoir montrer qui a supervisé, quand, sur quelles bases et avec quel résultat. Cette documentation n'a pas qu'une fonction administrative : elle permet de progresser, en révélant les cas où l'intervention humaine est trop rare ou trop tardive. Elle sert aussi le jour d'un contrôle ou d'une réclamation. Une organisation qui ne peut pas décrire sa supervision en pratique est mal préparée à en répondre. Les obligations de tenue de registres prévues par le règlement européen vont dans ce sens, adaptées au niveau de risque du système concerné.
Documenter ne veut pas dire noircir des formulaires. Mieux vaut une trace utile qu'un volume de cases cochées. L'essentiel est de rendre lisible le rôle de chacun : ce que le système fait seul, ce qu'il fait sous contrôle, ce qu'il ne fait jamais sans validation. Cette cartographie aide les équipes à comprendre leurs responsabilités et les personnes concernées à savoir à qui s'adresser. Elle rend aussi la supervision discutable, donc perfectible. Un dispositif qui peut être expliqué peut être corrigé ; un dispositif qui ne repose que sur des habitudes devient impossible à auditer et fragile au premier changement.
Aller plus loin
Mettre en place une supervision conforme suppose de lire les textes avec précision, de définir les rôles et de documenter les choix sans se contenter de principes. Notre catalogue des 31 formations propose des parcours sur la conformité des systèmes d'IA et la gouvernance des décisions automatisées. Ils visent ceux qui doivent répondre de la manière dont leurs systèmes traitent les personnes.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations