La gouvernance organise le contrôle, pas les convictions
La gouvernance de l'intelligence artificielle désigne l'ensemble des mécanismes qui rendent un système identifiable, traçable et pilotable par une organisation. Elle comprend des rôles définis — qui valide un déploiement, qui surveille un modèle en production, qui répond en cas d'incident —, des procédures documentées, des registres de systèmes, des critères d'arrêt et de correction. Elle ne dit pas ce qui est bien : elle dit qui décide, comment on vérifie et comment on rend des comptes. Son objet est l'organisation du contrôle, et sa qualité se juge à l'épreuve des faits, quand un problème survient et qu'on sait exactement qui intervient.
Cette dimension s'appuie largement sur des référentiels existants. Le règlement européen sur l'intelligence artificielle fixe des obligations selon le niveau de risque des systèmes ; la norme ISO 42001 propose un cadre de management de l'IA au sein des organisations ; le RGPD encadre le traitement des données personnelles qui alimentent ces systèmes. La gouvernance consiste à traduire ces exigences en dispositifs concrets et adaptés à la taille réelle de la structure. Un registre de systèmes et une procédure d'évaluation des risques valent mieux qu'une charte ambitieuse que personne n'applique jamais.
L'éthique interroge les finalités là où la règle s'arrête
L'éthique de l'intelligence artificielle se situe sur un autre plan. Elle ne demande pas comment contrôler un système, mais s'il faut le déployer, à quelles conditions et au service de qui. Elle interroge les effets sur les personnes : un outil de sélection des candidatures reproduit-il des biais historiques ? Une surveillance automatisée respecte-t-elle la dignité des travailleurs concernés ? Une réponse générée peut-elle tromper sans que personne ne s'en aperçoive ? Ces questions ne se résolvent pas par une procédure, car elles supposent de trancher entre des valeurs concurrentes, la performance, l'équité, la vie privée, la liberté.
C'est ici que les deux notions se distinguent nettement. Une organisation peut posséder une gouvernance irréprochable et prendre des décisions contestables : tout est documenté, tout est tracé, et pourtant le système porte atteinte à des personnes d'une manière parfaitement conforme aux règles écrites. L'éthique commence au point où la règle se tait, où il faut arbitrer sans texte pour trancher. Elle relève du jugement, de la délibération collective et de la capacité à assumer publiquement un choix, y compris face à des parties prenantes qui n'ont pas voix au comité de pilotage.
Pourquoi une réglementation ne remplace pas une éthique
On confond souvent les deux parce que la réglementation emprunte au vocabulaire de l'éthique. Le règlement européen parle de transparence, de supervision humaine, de non-discrimination, autant de notions morales. Mais une exigence inscrite dans un texte devient une obligation vérifiable, et perd en partie son caractère ouvert : on ne délibère plus, on se conforme. Respecter la réglementation est nécessaire et non suffisant. Un système peut satisfaire à toutes les obligations applicables et rester contestable sur le plan des valeurs, dès lors que la loi n'a pas anticipé un usage particulier ou une conséquence indirecte.
Cette distinction a une portée pratique, notamment pour les organismes qui travaillent sur la formation et l'accès aux contenus numériques. L'accessibilité illustre bien le décalage : le RGAA et la norme EN 301 549 fixent des critères techniques précis, mais rendre un service réellement utilisable par tous suppose souvent d'aller au-delà du strict minimum réglementaire. La conformité trace un plancher, l'éthique demande de se demander ce qui manque encore. Le risque, dans les organisations pressées, est de confondre les deux et de croire qu'une attestation de conformité épulse la responsabilité.
Articuler les deux dans un projet d'IA réel
Dans un projet réel, les deux dimensions doivent être tenues ensemble sans se mélanger. La gouvernance fournit le cadre : comité, rôles, registre, procédures d'évaluation et de suivi, articulation avec les obligations du règlement européen et du RGPD. L'éthique apporte l'aiguillage : de quoi parle-t-on au fond, quelles personnes sont concernées, quels effets accepte-t-on, quels choix refusons-nous même s'ils sont autorisés. Sans gouvernance, les intentions éthiques restent des déclarations ; sans éthique, la gouvernance devient une mécanique qui documente l'indocumentable avec application. Tenir les deux registres séparés dans la conduite du projet évite qu'une question de fond soit traitée comme une simple ligne à cocher dans un audit.
La pratique la plus utile consiste à poser les questions éthiques au moment où les décisions sont encore réversibles, puis à confier leur suivi à un dispositif de gouvernance capable de les transformer en points de contrôle. Cette articulation évite deux écueils opposés : le comité d'éthique qui produit des avis sans prise sur les projets, et le service de conformité qui coche des cases sans jamais se demander à quoi sert le système. Les organisations qui tiennent cette ligne ne sont pas celles qui affichent le plus de valeurs, mais celles où la question du sens a une place réelle dans la conduite des projets.
Aller plus loin
Gouvernance et éthique se construisent ensemble, dans des dispositifs concrets plutôt que dans des déclarations. Nos formations abordent la traduction des obligations réglementaires en procédures utilisables et la conduite des arbitrages de fond. Pour identifier le parcours adapté à votre organisation, consultez le catalogue des 31 formations.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations