← Retour au journal

Un rôle né de l'observation en production

Le métier s'est imposé quand les modèles génératifs sont arrivés dans des services ouverts au public. Une IA de support peut répondre avec assurance, puis inventer une procédure, puis se laisser détourner par une formulation inhabituelle. Rien de tout cela n'apparaît dans les tests de performance classiques. L'analyste de comportements intervient précisément là où le banc d'essai s'arrête et où l'usage réel commence. Sa présence comble un angle mort : ce qui fonctionne sur un jeu de test ne se comporte pas forcément comme prévu face à des utilisateurs réels, pressés et imaginatifs. Ce décalage entre le laboratoire et le terrain est précisément l'objet de son travail.

Son terrain n'est pas le laboratoire, mais le flux quotidien : transcriptions de conversations, journaux d'appels, retours d'utilisateurs, incidents signalés. Il reconstitue des trajectoires de comportement plutôt que des scores isolés. Cette approche suppose une certaine sobriété : on ne cherche pas à prouver que le modèle est bon ou mauvais, mais à décrire ce qu'il fait vraiment, dans quelles conditions et avec quelles conséquences. La description précise précède toujours le jugement, et c'est cette patience qui distingue l'analyse sérieuse du commentaire à chaud. Cette exigence de neutralité descriptive n'est pas de la froideur : c'est la condition pour être cru.

Observer sans se contenter des scores

Les métriques usuelles — précision, taux de satisfaction, coût par requête — disent peu de la conduite d'un système. Un modèle peut afficher un excellent taux de résolution tout en adoptant, dans une minorité de cas, un ton inadapté ou une prise de position discutable. Ces cas rares pèsent lourd sur la confiance. L'analyse de comportement travaille sur ces marges que les tableaux de bord agrègent et effacent. Ce qui disparaît dans une moyenne, c'est justement ce dont les utilisateurs se souviennent. Une analyse qui ne regarde que les agrégats rate ce que les utilisateurs racontent entre les lignes.

Le travail consiste à construire des catégories d'observation : refus, esquive, invention, biais de formulation, changement de registre. On échantillonne, on annote, on cherche des régularités. Cette étape reste artisanale, mais elle révèle des motifs qu'aucun indicateur global ne fait apparaître. C'est là que se joue la différence entre mesurer un système et le comprendre. Une même réponse jugée correcte isolément peut, répétée cent fois, trahir une tendance systématique qu'il faut nommer. C'est un travail d'artisan, patient et répétitif, qui ne se laisse pas automatiser sans perte.

Ce qu'un titre professionnel valide, et ce qu'il ne valide pas

Un intitulé professionnel en analyse des comportements d'IA atteste aujourd'hui un socle de méthodes : protocoles d'échantillonnage, grilles d'annotation, restitution à des publics non techniques. Il valide la rigueur du regard, pas la maîtrise d'un outil particulier, qui change tous les six mois. Cette distinction compte au moment de recruter : on cherche une capacité d'enquête, pas une familiarité avec un tableau de bord. Une méthode transférable survit au changement de fournisseur, là où une compétence liée à un outil devient obsolète avec la prochaine version. La capacité d'enquête, elle, se réutilise quelle que soit la technologie du moment.

Ce qu'un tel cadre ne garantit pas, en revanche, c'est le jugement. Aucun titre ne remplace l'expérience d'avoir suivi un système sur plusieurs mois et d'avoir vu ses dérives se confirmer. La validation formelle ouvre des portes ; elle ne dispense pas de la pratique. La prudence sur ce point protège autant les employeurs que les candidats. Présenter un titre comme une preuve d'expertise achevée trompe tout le monde : l'employeur attend trop, le candidat se croit arrivé. Mieux vaut un professionnel lucide sur ses limites qu'un titre brandi comme une garantie.

Se préparer à ce travail d'enquête

On entre dans ce métier par des chemins divers : qualité, support, recherche utilisateur, science des données. Le dénominateur commun est une curiosité méthodique, l'envie de comprendre pourquoi un système réagit d'une certaine façon plutôt que de le classer en boîte noire. Les profils qui réussissent savent reformuler une intuition en protocole testable. Cette conversion, du ressenti à l'hypothèse vérifiable, est la première compétence à acquérir, avant toute considération technique. Cette conversion suppose d'accepter que l'intuition seule ne prouve rien.

La formation utile combine trois choses : une culture des modèles génératifs, des bases solides en méthode d'enquête et une aptitude à écrire clairement. Ce dernier point est souvent négligé, alors qu'un rapport d'analyse mal rédigé ne change aucune décision. Restituer un comportement complexe en langage lisible est, en pratique, la compétence la plus rare. Une analyse juste que personne ne comprend ne vaut pas mieux qu'une analyse absente. Écrire, ici, n'est pas un ornement : c'est la dernière étape du travail d'analyse.

Aller plus loin

L'analyse de comportement se pratique sur des cas réels, à partir de grilles d'observation que nous fournissons en atelier. Pour confronter votre lecture d'un système à celle d'autres praticiens, parcourez le catalogue des 31 formations.

Vous voulez maîtriser ce sujet en pratique ?

Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.

Voir la formation liée Les 31 formations