Ce que recouvre l'arbitrage éthique d'un algorithme
L'arbitrage éthique ne consiste pas à choisir entre le bien et le mal. Il consiste à répartir les décisions entre la machine et l'humain, puis à traiter les cas que le système ne sait pas rendre propres. Trois questions le structurent : quelle décision peut être déléguée sans dommage réel, quels critères rendent un résultat contestable, et qui porte la responsabilité finale quand l'effet se produit. Un moteur de scoring sait classer des dossiers par probabilité ; il ne sait pas départager deux situations également défavorables, ni dire lequel des deux refus causera le tort le plus lourd. Dans ces zones grises, l'arbitrage revient à une personne identifiable, qui répond de son choix.
La difficulté est que cette frontière bouge en permanence. Un agent qui gère seul des remboursements simples gagne en autonomie à mesure qu'on l'observe et qu'il se montre fiable, mais il peut aussi masquer des refus anormaux derrière une moyenne rassurante. Un taux global correct peut cacher un traitement systématiquement défavorable à un groupe donné. L'arbitrage éthique n'est donc pas un réglage défini une fois pour toutes : c'est une pratique d'ajustement continu, où l'on compare régulièrement ce que la machine décide à ce qu'un humain aurait décidé sur les mêmes dossiers, et où l'on corrige dès que l'écart devient significatif.
Les textes qui encadrent la décision automatisée
Le cadre juridique s'est nettement densifié. Le RGAA et la norme EN 301 549 imposent que les interfaces de décision restent accessibles : c'est la condition première pour qu'un usager puisse comprendre et contester. Le règlement européen sur l'intelligence artificielle, adopté en 2024, déploie son application par paliers entre 2025 et 2026 : il classe certains usages à haut risque, exige une supervision humaine effective, une documentation des systèmes et une journalisation des décisions. La norme ISO 42001 fournit de son côté un cadre de management pour piloter ces obligations dans la durée, et non au coup par coup.
Ces textes ne dictent pas la bonne réponse éthique. Ils délimitent le terrain et rendent certaines pratiques intenables : impossible de laisser un score décider seul dans un domaine classé à haut risque, impossible de justifier un refus sans trace exploitable par la personne concernée. La conformité reste un plancher, pas un objectif. Un système parfaitement conforme peut malgré tout produire des effets injustes qu'aucun texte n'avait anticipés, parce que la règle écrite arrive toujours après l'usage réel. C'est là que le jugement humain reprend la main.
Les cas où l'humain doit rester dans la boucle
Tous les dossiers ne méritent pas la même attention. La première règle consiste à repérer les situations à fort impact : refus d'accès à un service essentiel, décision irréversible, traitement de données sensibles. Là, l'humain doit valider la décision de la machine, mais surtout pouvoir la renverser sans avoir à se justifier face à elle. Une supervision qui se contente d'entériner ce que le modèle propose n'est pas une supervision : c'est une signature apposée sur un choix qu'on n'a pas réellement examiné. Sur les cas à fort enjeu, la relecture humaine doit laisser une trace écrite de son raisonnement et du critère retenu.
La deuxième règle touche aux signaux faibles, ceux qu'aucune procédure ne prévoit. Un taux d'acceptation qui dérive lentement, un motif de refus qui revient anormalement sur un même groupe, un dossier où le modèle affiche une confiance forte et se trompe : ces indices doivent déclencher une reprise humaine immédiate. C'est ce suivi dans le temps qui distingue un arbitrage vivant d'une procédure écrite puis oubliée dans un classeur. Sans lui, l'éthique reste une déclaration d'intention, sans effet sur les décisions réellement prises.
Documenter l'arbitrage pour qu'il tienne dans le temps
Un arbitrage non écrit n'existe pratiquement pas. Il faut pouvoir dire, des mois plus tard, pourquoi telle décision a été prise, par qui, et avec quelles informations disponibles à ce moment précis. Cette traçabilité sert autant aux régulateurs qu'aux équipes internes : elle transforme un jugement isolé en repère réutilisable. Les cas déjà tranchés deviennent une forme de jurisprudence interne que les nouveaux arrivants peuvent consulter, comprendre et citer. Sans cette mémoire, chaque situation nouvelle se traite comme si aucune décision comparable n'avait jamais été prise.
Documenter, c'est aussi accepter d'exposer ses désaccords. Quand une équipe estime qu'un arbitrage est trop prudent et qu'une autre le juge trop permissif, la trace écrite rend le débat visible et évite qu'il se rejoue à l'identique à chaque incident. C'est cette mémoire partagée qui permet à une organisation de tenir une ligne éthique cohérente, même lorsque les personnes qui l'ont définie changent de poste ou quittent l'entreprise. L'arbitrage survit à ceux qui l'ont conçu, à condition d'avoir été consigné.
Aller plus loin
L'arbitrage éthique s'apprend en travaillant des cas concrets, pas en récitant des principes. Notre formation Éthicien opérationnel confronte ces situations à des scénarios réels et à des décisions à assumer. Vous retrouverez l'ensemble des parcours dans le catalogue des 31 formations.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations