D'où naissent les tensions autour d'un agent d'IA
Les tensions naissent rarement de la technique seule. Elles apparaissent quand un agent interfère avec le travail d'une personne sans que celle-ci ait été consultée, ou quand il rend un verdict — accepté, refusé, priorisé — que l'humain n'attendait pas. Un agent qui traite des demandes, attribue des tâches ou filtre des dossiers prend de fait une place dans la chaîne de décision. Si cette place n'a pas été expliquée, elle est vécue comme une intrusion. La première source de conflit est donc un défaut de cadrage : personne n'a dit clairement ce que l'agent faisait, ni ce qu'il ne faisait pas.
Une seconde source tient à l'écart entre l'annonce et le réel. Un agent présenté comme infaillible déçoit dès sa première erreur, et cette déception se transforme en défiance générale. À l'inverse, un outil modeste mais dont les limites sont annoncées honnêtement suscite l'indulgence quand il se trompe. La communication qui entoure la mise en service d'un agent pèse donc autant que sa performance. Le conflit se noue souvent moins sur ce que l'agent fait mal que sur la frustration d'avoir été mal préparé à ce qu'il ferait. Nommer d'emblée les cas où il faut le contrôler désarme bien des crispations.
Le cas de la décision contestée par un collaborateur
Quand un collaborateur conteste une décision prise avec l'aide d'un agent, la réponse n'est pas de défendre l'outil ni de le désavouer d'office. Il faut d'abord comprendre ce qui est contesté : le résultat lui-même, la manière dont il a été obtenu, ou le fait qu'aucun humain n'ait été consulté. Ces trois griefs appellent des réponses différentes. Un désaccord sur le fond se traite sur les faits ; un doute sur le procédé se traite par la transparence ; une absence de recours se traite par la voie d'appel. Confondre ces cas conduit à répondre à côté, en renforçant la défiance au lieu de l'apaiser.
La voie d'appel est le point le plus souvent négligé. Un collaborateur qui n'a aucun moyen de faire réexaminer une décision se sentira exposé à une machine sans visage, quelle que soit la qualité de l'agent. Prévoir un circuit par lequel un humain peut revoir une décision automatisée n'est pas un aveu de faiblesse : c'est ce qui rend l'usage acceptable. Ce réflexe rejoint d'ailleurs les principes de contrôle humain que l'on trouve dans le règlement européen sur l'IA, dont les obligations s'appliquent par étapes selon le niveau de risque. Un tel circuit doit être simple à actionner, sinon il reste théorique.
Un protocole d'escalade vers un humain
Un protocole d'escalade utile tient en peu de règles, écrites et connues. Il définit d'abord les cas dans lesquels aucun agent ne doit trancher seul : situations individuelles sensibles, conséquences irréversibles, incertitude élevée. Il précise ensuite qui reçoit l'alerte, dans quel délai, et comment la personne concernée est informée du réexamen. Sans cette clarté, l'escalade devient affaire de bonne volonté individuelle, et elle n'a lieu que lorsque quelqu'un ose s'opposer. Le protocole existe justement pour que le recours soit un droit prévu, pas une faveur à quémander.
Le passage à l'humain doit aussi laisser une trace. Noter qu'une décision a été revue, pourquoi et par qui, permet de corriger l'agent si le même problème se répète. Cette mémoire transforme un incident isolé en occasion d'amélioration, au lieu d'un différend que chacun préfère oublier. Le protocole gagne enfin à être testé avant d'en avoir besoin : simuler un cas de contestation révèle vite les zones d'ombre — qui décide, en combien de temps, avec quelles informations. Un dispositif d'escalade jamais exercé se découvre fragile le jour où il compte vraiment. Mieux vaut l'éprouver à froid.
Documenter pour prévenir la récidive
Les conflits autour d'un agent se répètent quand ils ne laissent pas de trace. Si chaque désaccord est réglé oralement et oublié, la même cause produira les mêmes tensions des mois plus tard. Tenir un registre des contestations, des arbitrages et de leurs motifs coûte peu et change beaucoup : il révèle les points où l'agent et les attentes des équipes divergent. Un tel registre sert aussi de preuve le jour où il faut expliquer, à un auditeur ou à un client, comment les décisions sont contrôlées. La mémoire des incidents est un outil de gouvernance autant qu'un outil de qualité.
Documenter n'a de sens que si l'information remonte jusqu'à ceux qui peuvent corriger le système. Un registre que personne ne lit ne prévient rien. Il faut donc une boucle courte : constat, analyse, ajustement, vérification. C'est souvent au moment de formaliser cette boucle que les équipes découvrent les limites réelles de leur agent, parfois bien différentes des promesses de départ. Loin d'affaiblir la confiance, cette lucidité la renforce : on se fie plus volontiers à un outil dont les failles sont connues et surveillées. Gérer les conflits, au fond, revient à organiser ce dialogue plutôt qu'à l'éviter.
Aller plus loin
Gérer un conflit impliquant un agent d'IA suppose de comprendre à la fois la technique, le cadre juridique et les ressorts humains. Notre catalogue des 31 formations propose des parcours consacrés à la médiation, à la gouvernance des systèmes d'IA et au dialogue avec les métiers. Ils visent ceux qui doivent faire tenir ensemble l'outil et les personnes qu'il sert.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations