Votre entreprise tourne sur des règles que personne n'a jamais écrites

Pensez à la dernière personne que vous avez recrutée sur un vrai poste. Pas un junior. Quelqu'un de senior, quelqu'un que vous étiez content d'avoir. Maintenant comptez les mois avant qu'elle arrête de commencer ses questions par "pardon, une question rapide, comment on gère ça d'habitude ?"

Quatre mois. Six. Parfois plus.

Elle n'était pas lente. Elle faisait la seule chose qu'un humain peut faire dans une entreprise où la plupart des règles vivent dans les têtes. Elle a observé. Elle a demandé. Elle a deviné. Elle s'est trompée une fois, quelqu'un l'a corrigée dans un couloir, et elle l'a rangé pour la prochaine fois. C'est comme ça qu'un humain apprend "comment on fait les choses ici".

Vous n'avez probablement jamais écrit la plupart de ces règles. Personne d'autre non plus. Et pendant des années, ça allait très bien. Les gens compensent.

Puis vous décidez de mettre de l'IA dans l'entreprise, et tout cesse d'aller bien.

Il y a un certain type d'entreprise où ça tourne pendant dix ans sans que personne voie le risque. Les règles vivent dans les gens, les gens restent, et l'activité tourne sur la mémoire. Ça marche jusqu'au jour où il faut que ça tourne sur autre chose.

Concevoir les contrôles autour de l’agent

Le type d'architecture de contraintes qu'une entreprise repousse normalement jusqu'à avoir des centaines d'ingénieurs devient une exigence précoce dès que des agents sont impliqués. Les contraintes sont ce qui permet la vitesse sans la décomposition.

Retirez les mots d'ingénieur de cette phrase. Les règles sont ce qui vous permet d'aller vite sans que l'ensemble se défasse en silence.

Le modèle peut interpréter une demande, mais ses consignes ne garantissent pas leur respect. Faites appliquer les autorisations par les systèmes exécutants, validez les entrées et sorties et exigez une validation humaine pour les actions engageantes. OWASP décrit ces contrôles face à une autonomie excessive.

La règle écrite et le droit exécuté sont distincts

Un nouveau salarié absorbe les règles non écrites. Il capte que ce client reçoit toujours un appel avant un email. Que cette facture ne part jamais sans une deuxième paire d'yeux. Qu'on ne promet pas une date de livraison un vendredi. Personne n'a rien documenté. La personne l'a appris en étant humaine dans la pièce.

Un contexte incomplet peut produire une erreur affirmée avec assurance. Même une règle écrite peut être mal interprétée. Utilisez des cas représentatifs, des cas adverses, une protection contre les actions dupliquées et une procédure d’escalade testée.

Un premier projet d’agent permet de vérifier si le processus est suffisamment explicite. Il révèle des lacunes à résoudre avant d’autoriser des actions.

Elles vont reconstruire des outils internes parce qu'elles le peuvent soudainement. Leurs agents vont inventer une nouvelle façon de faire quelque chose qui avait déjà un standard maison dont personne ne se souvenait. La prolifération se multiplie avant que quiconque impose un ordre. Les entreprises vont réapprendre, en accéléré, des leçons qui demandaient autrefois une décennie et quelques centaines de salariés.

Le besoin de documentation dépend du risque opérationnel et des dépendances, pas d’un seuil universel d’effectif technique. Commencez par les règles dont l’échec toucherait les clients, l’argent ou les accès.

Les agents cassent ce calcul. Dès que vous confiez du vrai travail à une machine, le besoin de règles explicites arrive des années plus tôt qu'avant. Une entreprise de quarante personnes rencontre désormais un problème qui appartenait à une entreprise de quatre cents.

Alors l'instinct dans la pièce est en général "ralentissons, ne nous enterrons pas sous les process, le process tue l'élan".

Je le comprends. Dans la plupart des entreprises, le process est réellement devenu une taxe. Quelqu'un a ajouté une validation en 2021 qui ne protège plus rien, et trois personnes font encore passer un document par elle, par habitude. Bien sûr que vous vous méfiez de règles en plus.

Mais cette méfiance vise la mauvaise cible. Une règle qui ne protège plus rien est une taxe. Une règle qui dit à une machine rapide où sont les bords est la raison pour laquelle vous pouvez la laisser tourner. Même mot, métiers opposés.

Des limites explicites permettent de tester si une machine peut intervenir sur une tâche donnée. Elles exigent une application effective et un suivi après le lancement, en plus de la documentation préalable.

Si vous pensez mettre de l'IA dans vos opérations cette année, la vraie première étape n'est pas de choisir un outil. C'est d'écrire le jeu auquel votre entreprise joue réellement. Ce qui se décide, et par qui. Ce qui ne sort jamais du bâtiment sans qu'un humain regarde d'abord. Et les règles que tout le monde suit sans que personne les ait jamais dites à voix haute.

Ce travail est inconfortable, et il vous rapporte plus que tout ce que vous pouvez faire avant qu'un seul agent passe en production. Faites-le, et la contrainte cesse d'être un coût. Elle devient ce qui permet au reste de l'entreprise de bouger sans que vous soyez penché dessus.

C'est la conversation qui vaut la peine avant l'arrivée des outils, pas après qu'ils ont fait un désastre confiant des parties que vous n'aviez jamais écrites. Si vous voulez cartographier où vivent réellement les règles de votre entreprise, et ce qui doit devenir explicite avant d'automatiser quoi que ce soit, c'est exactement à ça que sert une première session.