Et si le risque commençait avant même que l’IA n’agisse ?
Où poser les garde-fous quand les agents commencent à construire.
#UpToDate 382
Jusqu’ici, beaucoup de discussions sur l’IA en entreprise restaient centrées sur ce que les agents font une fois déployés. Mais si les agents commencent à écrire une partie du logiciel, alors le truc a traiter ne commence plus à la fin mais beaucoup beaucoup plus tôt.
Décryptage dans cette édition d’une conférence enregistrée au RAISE Summit 2026 avec, sur scène, Manoj NAIR, le Chief Innovation Officer de Snyk, spécialiste de la sécurité logicielle et de la gouvernance du code à l’ère de l’IA.
Vous êtes maintenant 4.822 à me lire. Bienvenue à vous dans cette nouvelle édition du mercredi. Elle tombe pile le jour de mon anniversaire 🥳
PPC
***
Ce qui compte avec l’IA, ce sont vos usages et la valeur que vous en tirez. Pour vous. C’est pour ça que j’ai écrit ce livre et que j’interviens aussi en conférence.
Ce que m’a inspiré cet épisode ?
D’abord cette idée toute simple. Quand un agent produit du code, l’enjeu n’est plus seulement ce qu’il fait mais ce qu’il utilise, ce qu’il choisit, ce qu’il assemble et ce qu’il finit par livrer.
Dit comme ça, cela peut paraître technique. En réalité, c’est très concret.
On imagine souvent qu’un agent IA va naturellement prendre la bonne option. Qu’il va choisir un package sans virus, une brique robuste. Comme s’il pouvait avoir un quelconque jugement sur ce qu’il faut éviter. Mais non.
Ca ne fonctionne pas vraiment comme ça. Si vous ne lui donnez pas le bon contexte, les bons repères et les bons garde-fous, l’agent choisit comme il peut. Et parfois, c’est malheureusement plus que très fragile.
C’est ça que j’ai trouvé intéressant dans l’intervention de Manoj Nair, le Chief Innovation Officer de Snyk. Parce ce que dans son discours, il remet les choses dans le bon ordre. Beaucoup de réflexions sur l’IA restent au niveau de la promesse : productivité, vitesse, automatisation, effet waouh. Lui, il remonte la chaîne (comme les saumons remontent la rivière). Plus sérieusement, Il rappelle que dès qu’un agent devient producteur de code, ça ouvre en réalité plusieurs fronts à la fois : la consommation, la manière dont il se comporte, et ce qu’il met finalement dans le produit.
Et si on tire le fil, ça met en lumière le fait que le problème avec les agents n’apparaît pas seulement quand l’agent agit en production. Le problème peut apparaître beaucoup plus tôt, comme par exemple au moment où l’agent télécharge, ou au moment où il assemble, ou au moment où il embarque ce qu’on pourrait appeler une sorte de faiblesse dans quelque chose qui aura ensuite l’air parfaitement fonctionnel.
Et là, on retrouve un principe que connaissent bien ceux qui travaillent dans le domaine industriel : mieux vaut empêcher tôt que corriger tard. Ca me rappelle il y a plus de 35 ans ce que m’avait enseigné le patron de la qualité de DEC (Digital Equipment Corporation, un géant de l’informatique rachète par HP). La qualité commence en amont de la chaîne, pas en rafistolant les tuyaux
Manoj Nair a aussi dit quelque chose de très intéressant : la réglementation ne fait pas la stratégie mais elle peut forcer l’action. Elle pousse les entreprises à prouver qu’elles savent gouverner, tracer, tester, auditer, documenter. Autrement dit, la réglementation oblige à sortir du discours un peu léger sur “l’innovation” pour entrer dans des aspects beaucoup plus sérieux : l’architecture, la gouvernance, les achats, les preuves, la responsabilité.
***
Si cette newsletter vous est utile :
Cliquez sur le ❤️ en haut ou en bas. C’est le signal le plus simple pour me dire que ça vous aide vraiment.
Et si quelqu’un dans votre entourage devrait lire ça, partagez-lui.
Ce que j’ai entendu derrière les propos de Manoj NAIR, c’est qu’on est en train de sortir d’une phase d’émerveillement. L’IA va continuer à impressionner mais elle sera de plus en plus jugée sur la qualité des garde-fous qu’on aura eu l’intelligence de poser avant qu’elle ne construise trop vite quelque chose de fragile.
Si vous vous arrêtez ici, vous voyez bien que ce sujet n’est pas réservé aux spécialistes.
Dans la suite, je vais vous proposer une grille très simple pour voir où poser les garde-fous quand les agents commencent à construire.
