11 mars 2025 · Christophe Gazeau

Gouvernance de l’IA en entreprise : comment la mettre en œuvre ?

IAgouvernance

Quelles sont les étapes à suivre pour installer de manière correcte une gouvernance de l’IA dans votre entreprise ? Quels sont les points clés à ne pas oublier ? C’est ce que nous allons voir dans cet article.

Les étapes ci-dessous ne peuvent pas toujours, et ne doivent pas nécessairement, être suivies exactement dans l’ordre indiqué ci-dessous. Il est parfois nécessaire de faire des aller-retour. Considérez donc cette liste comme un guide avec des suggestions que vous pouvez vous approprier librement.

1. Comprendre les enjeux de la gouvernance de l’IA

La première étape consiste à comprendre pourquoi, de manière générale, une gouvernance de l’IA est nécessaire dans les entreprises. Cela consiste en grande partie à identifier les impacts de la mise en œuvre de l’IA dans une entreprise, et notamment les risques qui peuvent être associés à l’usage de l’IA.

De nombreuses publications peuvent être consultées pour découvrir cela. Le Club FrancoRisk a par exemple publié une note de 20 pages qui donne un bon aperçu des opportunités et menaces de l’intelligence artificielle pour les entreprises. L’association HubFrance IA a publié quant à elle un rapport plus détaillé (136 pages) sur les usages de l’IA générative. Fabernovel-EY a également publié un rapport sur l’IA générative en entreprise. Le Ministère de l’économie donne quelques informations sur cette page de son site web. Le site FranceNum fait de même sur son site web. IBM consacre un dossier à cette thématique sur son site web. Bpifrance a rédigé un article à ce sujet.Pour les plus courageux (298 pages), le rapport ultime sur les risques liés à l’IA est l’International AI Safety Report.

Une fois cette prise de conscience faite, il est nécessaire d’identifier quels risques en particulier pourraient concerner votre entreprise. Pour cela, vous pouvez considérer les risques pour l’entreprise, mais aussi pour vos parties prenantes. À ce stade, il ne s’agit pas de chercher à être exhaustif et exact, il s’agit surtout de faire une première liste qui vous permet de comprendre l’enjeu de la gouvernance de l’IA pour votre entreprise.

2. Définir la vision et les objectifs de l’entreprise en matière de gouvernance de l’IA

Sur la base de votre prise de conscience initiale, cette deuxième étape consiste à définir spécifiquement les raisons pour lesquelles vous souhaitez mettre en place une gouvernance de l’IA dans votre entreprise. Cette étape est cruciale pour la performance future de votre dispositif de gouvernance. Il existe en effet différentes raisons pour lesquelles vous pouvez souhaiter mettre en place une gouvernance de l’IA. Il est donc important de formaliser ces motivations afin de créer ensuite un alignement de toutes les parties prenantes sur cette démarche. Vous pourrez d’ailleurs faire évoluer vos motivations si nécessaire, sans oublier de communiquer sur ces changements.

Les raisons pour lesquelles vous mettez en place une gouvernance vont déterminer les réponses à de nombreuses autres questions à venir : les principes qui vont guider vos décisions, les rôles et instances à mettre en place, etc.

Il s’agit donc de vous demander : Pourquoi mon entreprise souhaite-t-elle encadrer l’usage de l’IA ? Pourquoi la gouvernance de l’IA est-elle importante pour mon entreprise ? Quels enjeux de gouvernance ai-je identifiés : quels impacts, quels risques, quelles opportunités ?

Les réponses à ces questions peuvent être : pour respecter la réglementation, pour éviter les risques pour l’entreprise, pour protéger nos données sensibles, pour garantir un usage éthique, pour garantir un usage responsable, etc.

De la réponse à ces questions va dépendre le modèle de gouvernance que vous allez mettre en place. Par exemple, dans la plupart des cas, la gouvernance de l’IA est mise en place pour des raisons de conformité, pour créer la confiance avec les utilisateurs ou pour des raisons d’efficacité. C’est le modèle de l’IA de confiance.

Mais de plus en plus d’entreprises veulent aller au-delà en considérant également leur responsabilité sociale et/ou environnementale dans leur usage de l’IA. C’est le modèle de l’IA responsable. En mettant en avant cet objectif, l’entreprise envoie à ses salariés et parties prenantes un message selon lequel chacun doit utiliser l’IA de manière responsable.

Répondre à cette question peut également permettre à l’entreprise de définir comment elle va arbitrer entre sa volonté d’innovation technologique et les enjeux de sécurité.

3. Identifier les cas d’usages existants et/ou potentiels dans l’entreprise

La troisième étape consiste à cartographier les usages actuels et/ou potentiels de l’IA dans l’entreprise. Il peut être utile également d’identifier les objectifs poursuivis et les résultats escomptés pour ces cas d’usage (amélioration de la productivité, gain de temps…). Enfin, identifier les outils et technologies utilisés dans l’entreprise peut également être utile. Cette cartographie permet de dimensionner la gouvernance en fonction des besoins de l’entreprise.

4. Identifier les rôles et les instances de gouvernance

Après avoir réfléchi aux motifs et au champ d’application de la gouvernance, il est nécessaire de définir les rôles clés ainsi que les instances qui vont constituer cette gouvernance.

Tout le travail réflexif que nous sommes en train de décrire peut d’ailleurs être conduit par un groupe de travail désigné pour cela. Il est important que ce groupe soit transversal en termes de compétences et pas uniquement représenté par des experts techniques. L’entreprise peut également faire appel à des experts extérieurs.

Il faut ensuite définir les rôles clés qui vont intervenir dans cette gouvernance, ainsi que les instances dans lesquelles ces rôles clés vont se réunir.

Commençons par les dirigeants de l’entreprise. Il est nécessaire de se demander de quelle manière le PDG et le COMEX vont être impliqués dans cette gouvernance de l’IA. La réponse à cette question est propre à chaque entreprise. Elle dépend en grande partie de la nature de l’activité de l’entreprise et du rôle que peut y jouer l’IA. Mais de manière générale, on peut considérer que le PDG et le COMEX sont les plus haut représentants de l’entreprise chargés de s’assurer que l’organisation applique une gouvernance de l’IA conforme à la stratégie de l’entreprise et au modèle de gouvernance décidé initialement.

Le conseil d’administration devra également intervenir sur les questions clés liées à la gouvernance de l’IA. Un comité dédié à ce sujet peut d’ailleurs être créé au sein du conseil d’administration.

Si votre entreprise possède des comités thématiques en charge des risques, de la conformité ou de l’éthique, ceux-ci devront bien évidemment être consultés dans le cadre de la gouvernance de l’intelligence artificielle.

Un Comité d’éthique dédié peut être créé pour s’assurer du respect des normes éthiques et des valeurs sociétales dans l’usage de l’IA.

Enfin, au sein de la DSI, plusieurs actions peuvent être envisagées. La gouvernance de l’IA peut être abordée au sein du Design Authority, si un tel comité existe dans votre entreprise. Un Comité de gouvernance des algorithmes peut être créé. Enfin, un rôle de responsable ou directeur de l’éthique de l’IA peut être créé (Chief Ethics Officer). Selon les cas, la gouvernance de l’IA peut ou non être fusionnée avec la gouvernance des données. Ces deux domaines sont en tous cas intrinsèquement liés. La gouvernance de l’IA concerne également les fonctions en charge de la RGPD (le DPO, Délégué à la protection des données) ou de la sécurité informatique (RSSI, cybersécurité).

Plus globalement, les équipes RH, juridiques, d’audit ainsi que la direction financière peuvent également être impliquées. Les équipes RH peuvent effectuer une évaluation et un suivi des impacts de l’IA sur les personnels et les compétences de l’entreprise. Les équipes juridiques vont effectuer un suivi de la réglementation en vigueur sur l’IA. Les équipes d’audit vont valider l’intégrité des données des systèmes d’IA et confirmer qu’ils fonctionnent correctement sans créer d’erreurs ou de biais. La direction financière va évaluer et superviser les coûts et les risques financiers associés aux initiatives d’IA.

Voici quelques exemples de comités d’éthique de l’IA :

5. Identifier les principes de gouvernance qui vont guider les décisions

Une fois les rôles clés et les instances identifiés, il convient de définir quels principes vont régir leurs décisions.

Il existe pour cela plusieurs cadres et publications sur lesquels vous pouvez vous appuyer :

Les enjeux qui reviennent le plus souvent dans ces publications sont les suivants :

Conformité
Dignité et respect des Droits de l’Homme
Robustesse, efficacité, sécurité
Développement durable et bien-être
Equité
Transparence et explicabilité
Gouvernance des données
Responsabilité

Suite à ces lectures, il est important que vous vous dotiez d’une vision personnelle de ces principes, une approche qui vous paraisse claire, adaptée à votre situation et opérationnelle. Vous pouvez si nécessaire, rédiger votre propre document, qui formalisera cette approche spécifique. C’est l’objet de l’étape suivante.

6. Rédiger et communiquer une charte éthique ou de gouvernance

La charte IA d’une entreprise est un document officiel dans lequel celle-ci expose les principes, les règles et les bonnes pratiques qui encadrent l’utilisation de l’intelligence artificielle au sein de l’entreprise. Elle peut prendre plusieurs noms : charte IA, charte éthique de l’IA, charte de l’IA responsable, charte de gouvernance de l’IA, etc.

Son objectif est de faire en sorte que l’IA soit utilisée par l’entreprise dans le respect des lois et des réglementations, dans le respect des droits des clients et des parties prenantes, de manière responsable, éthique, transparente, sécurisée, et dans le respect des valeurs de l’entreprise.

Pour vous inspirer, voici quelques exemples de chartes IA d’entreprises :

7. Identifier les process de gouvernance

À ce stade de la démarche, vous avez identifié les motifs et le champ d’application de la gouvernance, les rôles clés et les instances qui la constituent, les principes et la charte qui vont guider ses décisions. Il importe maintenant de définir les process opérationnels qui vont être surveillés par la gouvernance, ainsi que les process de fonctionnement de la surveillance elle-même.

Le comité de gouvernance algorithmique est une illustration de cette gouvernance opérationnelle. Son rôle est de vérifier comment les algorithmes sont développés, en utilisant quelles données et dans quel but. Lorsqu’une équipe souhaite mettre en place un algorithme, elle doit en informer le comité, expliquer quelles données sont utilisées, quel traitement des données est effectué et quel est le but du traitement. Le comité peut alors rendre un avis de conformité sur l’algorithme.

Les process de gouvernance opérationnelle peuvent également contraindre les équipes à documenter chaque étape du développement de l’IA. Elles peuvent instaurer des audits pour garantir la validation du respect des principes de la charte IA.

À cette étape, il est également important de définir comment doivent se coordonner les différentes instances de gouvernance en charge de l’intelligence artificielle au sein de l’entreprise. De la gouvernance stratégique à la gouvernance opérationnelle, en passant par la gouvernance thématique, il est important que ces instances ne se contredisent pas ni n’effectuent deux fois le même travail.

8. Former les personnels

Afin de garantir une bonne gouvernance de l’IA, il est nécessaire que chaque intervenant soit formé aux enjeux et au fonctionnement de l’intelligence artificielle. Concernant la gouvernance corporate, selon la dernière édition du Global Leadership Monitor, seulement 30 % des administrateurs estiment que le conseil d’administration de leur organisation dispose de l’expertise nécessaire pour donner des conseils sur la mise en œuvre de l’IA générative. Et si on pose la question aux dirigeants, seuls 20 % d’entre eux estiment que leur conseil d’administration dispose de l’expertise adéquate !

Il en va de même à tous les niveaux de l’entreprise, et quels que soient les métiers, même parmi les équipes informatiques. L’innovation est telle dans le domaine de l’intelligence artificielle que les compétences doivent être actualisées à un rythme très élevé si on veut continuer à maîtriser de domaine et garantir une bonne mise en œuvre au sein de l’entreprise.

9. Appuyez-vous sur des outils de gouvernance

Au fur et à mesure du développement de l’IA dans les entreprises, des solutions apparaissent pour accompagner sa gouvernance.

Vous en trouverez une liste dans le schéma ci-dessous, issu d’un article de AIMultiple qui décrit par ailleurs ces différentes solutions.

On peut aussi citer la solution française Naaia.

10. Appuyez-vous sur des frameworks de gouvernance de l’IA

Plus que les cadres proposant des principes de gouvernance tels que nous les avons évoqués à l’étape 5 ci-dessus, il existe également des cadres de gouvernance qui proposent des modèles d’organisation et d’action pour la gouvernance de l’IA en entreprise.

C’est le cas par exemple du programme AIGA (Artificial Intelligence Governance and Auditing), issu de travaux de recherche de l’Université de Turku, en Finlande. Ce programme se veut conforme à la réglementation européenne et aux Principes de l’OCDE.

Il s’inscrit dans une optique d’IA responsable. Il propose un modèle d’organisation baptisé The Hourglass Model :

**Citation:**Mäntymäki, M., Minkkinen, M., Birkstedt, T., & Viljanen, M. (2022). Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance(arXiv:2206.00335). arXiv. https://doi.org/10.48550/arXiv.2206.00335

Celui-ci donne lieu ensuite à un cycle de vie de la gouvernance de l’IA telle que décrite dans le schéma ci-dessous :

Ce modèle s’appuie sur celui développé par ailleurs par l’OCDE ici et là.

Nous aurons l’occasion de revenir sur ce sujet des frameworks de gouvernance de l’IA.