Gouvernance IA : 5 questions que tout chef d’entreprise doit se poser sur les "agents intelligents"
L’IA agentique bouleverse les processus de travail. Mais CEO et CIO ont souvent une vision différente de la technologie. Le premier y voit des opportunités commerciales, alors que le second se concentre davantage sur la complexité qu’elle engendre. Pour utiliser cette technologie de manière optimale et sécurisée, les entreprises doivent d’abord mettre en place un cadre de travail digne de ce nom. Une opinion de Stefaan Van Hoornick, Head of Solutions Engineering BeLux chez TrendAI.
Personne ne remettra en cause le potentiel de l’IA agentique dans le monde du travail actuel. Mais il arrive que son potentiel soit surestimé, tandis que sa complexité peine à être prise en compte. Stefaan Van Hoornick, Head of Solutions Engineering BeLux chez TrendAI estime que la technologie nécessite la mise en place d’un cadre de travail en entreprise. Selon l’expert, les CIO en sont généralement conscients, mais les autres membres du conseil d’administration doivent également adhérer à cette approche. Stefaan Van Hoornick propose 5 questions que tout CEO doit se poser sur l’IA.
1. Avons-nous une bonne vue d’ensemble de tous les agents IA et des accès dont ils disposent ?
Les agents IA font désormais partie du personnel d’une entreprise, mais ils ne sont pas toujours clairement identifiés. Il est donc possible que des outils et agents soient utilisés à l’insu du service informatique.
Une fois identifiés, il convient encore de déterminer ce qu’ils sont autorisés à faire exactement. Quelles données peuvent-ils consulter ? Ont-ils uniquement le droit de consulter les documents ou peuvent-ils également les modifier ? Un agent peut-il effectuer des transactions ? Et qu’en est-il des données sensibles des départements RH et finance ? Il s’agit donc de la base de la gouvernance de l’IA.
Et comme les agents communiquent désormais entre eux, il est primordial de contrôler ces interactions pour prévenir tout abus, comme par exemple la divulgation d’informations sensibles.
2. Savoir ce qu’un agent a fait et pourquoi il a pris telle décision ?
La traçabilité est un élément essentiel d’une gouvernance efficace. Lorsqu’un salarié prend une décision, on sait généralement très vite qui en est à l’origine et pourquoi. Dans le cas d’un agent, c’est moins évident. Cette transparence est pourtant essentielle lorsqu’un agent intervient dans des processus spécifiques tels que le service client, les décisions d’achat ou la planification. Il faut pouvoir vérifier à tout moment les étapes parcourues pour parvenir à une décision.
Il faut comparer cela aux audits financiers. Aucun CEO n’accepterait qu’un système financier effectue des transactions sans tenir de journal de bord. Cette traçabilité est tout aussi importante pour les processus critiques liés à l’IA. Non pas pour freiner l’innovation au sein de l’organisation, mais pour pouvoir analyser les erreurs, respecter la réglementation et déterminer les responsabilités.
SAVE THE DATE - December 10, 2026 Royal Hotel, Luxembourg
3. Quelles actions un agent peut-il entreprendre de sa propre initiative ?
Toutes les décisions n’ont pas le même impact. Un agent conçu pour planifier des rendez-vous ou générer des rapports standard peut bénéficier d’une grande autonomie. Néanmoins, lorsqu’il s’agit de sujets sensibles, tels que les décisions relatives au personnel ou les contrats, un contrôle accru est le bienvenu. Les organisations doivent donc définir clairement jusqu’où va l’autonomie d’un agent et à quel moment les humains doivent prendre les commandes. En fin de compte, ce sont les collègues humains qui restent responsables du contexte, de l’évaluation des risques et des choix éthiques.
4. Quel est le coût de l’IA et comment le comparer aux bénéfices et aux risques ?
Le coût de l’IA est un facteur important pour le CEO. Mais dans la pratique, les coûts sont souvent plus élevés que prévu. Il arrive que l’IA serve pour des applications dans lesquelles cette technologie n’apporte aucune valeur ajoutée. Et parfois, cette technologie est utilisée pour des projets dilapidant des centaines de tokens en l’espace de quelques heures. Par conséquent, de nombreuses entreprises décident de lever le pied. Gartner prévoit qu’environ 40 % des projets d’IA agentique seront abandonnés d’ici 2027.
Commencez donc toujours par vous demander quel problème vous souhaitez résoudre grâce à l’IA et quelle en est la valeur ajoutée pour l’entreprise. Ne vous basez pas sur la technologie, aussi prometteuse soit-elle. Mais cherchez une application concrète pour votre organisation. Évaluez ensuite les coûts et comparez-les avec les avantages et les risques liés à un système d’IA.
A titre de comparaison, vous n’embauchez pas des collaborateurs humains dans l’unique but d’avoir le plus grand nombre de collaborateurs possible. Chaque recrutement s’inscrit dans un objectif précis, dans l’intérêt de l’organisation. Faites preuve d’esprit critique vis-à-vis des agents que vous déployez.
5. Qui est responsable en cas d’incident impliquant un agent ?
La question est peut-être la plus difficile à cerner. Qui est responsable lorsqu’un agent IA commet des erreurs ou provoque un problème de sécurité ? On peut difficilement pointer l’agent du doigt. La responsabilité incombe-t-elle alors au fournisseur de la technologie ou à l’entreprise qui a fait appel à l’agent ? Dans la plupart des cas, cette responsabilité retombera probablement sur l’utilisateur. Ou le plus souvent sur le CEO.
Il est donc essentiel de déterminer, pour chaque processus, qui est responsable d’un agent. Mieux vaut dès lors prévenir que guérir. il suffit donc d’accorder suffisamment d’attention aux quatre questions précédentes. En n’utilisant pas l’IA à l’aveuglette, mais en réfléchissant à la valeur que cette technologie peut apporter à votre organisation. Et en abordant la gouvernance et la sécurité dès la conception, et non pas a posteriori.
Et à Stefaan Van Hoornick de conclure : « en intégrant ces questions dans les nouveaux projets d’IA, le CEO et le CIO seront sur la même longueur d’onde. Cela vous permettra d’avoir une idée réaliste de ce qui est possible et de ce qui ne l’est pas. En définitive, ces questions vous permettront de rendre l’IA agentique sûre, rentable et responsable pour l’ensemble de l’organisation ».
