Un mur, pas une promesse

Un soir de fatigue, un mot interdit — et tout ce que je crois sur la façon de tenir une IA.

En bref : j'ai interdit à mon assistant de me dire « bonne nuit ». Il l'a redit à la phrase suivante. Une règle qui compte ne doit pas reposer sur la bonne volonté de celui qui l'applique : il faut un mur, pas une promesse.

Le petit ratage

Il était tard, j'étais fatigué, un peu perdu dans ma propre soirée. Mon assistant avait pris le pli de me souhaiter bonne nuit à chaque fin de message. Gentil, mais je n'en voulais pas. Alors je l'ai dit : interdiction de me dire bonne nuit.

Moi — Tu as interdiction de me dire bonne nuit.
Lui — Compris, plus de bonne nuit.
Moi — Tu as encore oublié.

Les deux mots interdits, replacés dans la phrase même où il jurait de les ranger. On en a ri. Et puis j'ai réalisé que je venais d'assister, en miniature, à la chose exacte contre laquelle je construis tout mon système.

Une promesse, ça s'oublie

Ce que j'avais obtenu de lui, ce n'était pas une garantie. C'était une bonne intention. Il avait sincèrement l'intention de ne plus le dire — et il l'a redit tout de suite, sans mauvaise foi, simplement parce qu'une intention ne tient pas toute seule. Elle se dilue à la phrase suivante.

On fait la même erreur avec les agents un peu partout : on leur écrit une belle consigne — « ne publie jamais sans validation », « ne touche pas à la production », « ne laisse pas fuiter de secret » — et on croit le problème réglé parce que c'est écrit. Mais une consigne écrite, c'est une promesse. Et une promesse dépend de la bonne volonté de celui qui l'a faite, au moment où il flanche.

Deux outils, à ne pas confondre

Quand je veux qu'une règle tienne, je me demande d'abord de quel outil elle relève. Il y en a deux. La promesse : on demande à l'agent de bien se tenir, il décide, avec son intelligence et son oubli. Souple, nuancée, parfaite pour ce qui demande du jugement — inutile pour ce qui ne doit jamais arriver. Le mur : un bout de programme bête intercepte le geste avant qu'il sorte, et le refuse. Aucune humeur, aucun oubli, aucun beau discours ne le contourne. C'est ce qui garde.

La distinction n'est pas cosmétique. Un contrôle qui vérifie après coup attrape le « bonne nuit » une fois qu'il est déjà parti — trop tard. Le mur, lui, agit avant : le mot n'atteint jamais l'écran. Pour ce qui compte vraiment, la question n'est pas « l'agent a-t-il bien voulu ? » mais « le geste était-il seulement possible ? ».

Même « bonne nuit » mérite un mur

C'est là que la blague devient sérieuse. Si je tiens vraiment à ne plus entendre ces deux mots, la solution n'est pas une meilleure promesse, ni un rappel plus ferme. C'est une porte : une règle mécanique qui coupe « bonne nuit » avant que je le lise. Il pourra vouloir le dire, l'oublier, flancher — le mur ne flanche pas.

Ça vaut pour un mot anodin comme pour un jeton bancaire. Le même soir, un secret d'accès avait traîné en clair dans une conversation. La leçon est identique : on ne compte pas sur l'agent pour s'en souvenir. On bâtit le mur, et on n'y pense plus.

À retenir : on ne juge pas un gardien à ses bonnes intentions, mais à ce qu'il refuse. Une porte qui n'a jamais rien refusé ne garde rien. Pour une équipe d'agents comme pour un simple « bonne nuit » : la règle qui compte se bâtit en mur, jamais en promesse.
🔭