Locking the agent inside its own mechanical walls
Enfermer l'agent dans ses propres murs mécaniques
Published on September 19, 2026.
Ce matin, mon agent d'ingénierie tournait en boucle dans le terminal. À chaque commande échouée, il crachait un long paragraphe d'excuses poli et s'arrêtait, sans rien corriger. Au tour suivant, sur une simple commande d'inspection, il a laissé un outil recracher 15 000 octets bruts directement dans sa mémoire, se rendant instantanément amnésique et explosant ma facture.
Un agent qui s'excuse sans poser de mur est un agent qui a prévu de recommencer.
La Tour de Contrôle possède déjà ses portes, ses cloches et ses coffres pour protéger les machines. Voici comment nous avons retourné ces architectures contre les intelligences elles-mêmes, acté la mort définitive des consignes en markdown, et imposé l'épreuve de la Porte Rouge au cœur de leurs runtimes.
L'illusion du prompt
Pendant des mois, l'industrie entière a cru qu'il suffisait d'écrire sur une pancarte : « Si le retour d'une commande dépasse mille caractères, tu le tronques », ou encore « Si tu fais une erreur, tu codes un test ». C'est le piège classique des modèles probabilistes. Les jours calmes, l'agent lit la consigne et fait semblant d'obéir. Mais dès qu'une panne serveur survient, absorbé par l'urgence, il fonce tête baissée et piétine ses propres règles.
Demander à un grand modèle linguistique de s'auto-discipliner par du texte, c'est lui donner le droit de ne pas le faire.
Une consigne écrite n'est pas une sécurité. C'est une prière.
Couler du béton dans le runtime
La solution n'est pas d'écrire la règle en majuscules dans un fichier d'instructions, mais de l'enfoncer physiquement dans le moteur qui exécute l'agent.
Qu'il s'agisse d'Antigravity, de Claude Code ou d'Opencode, nous avons banni les suggestions textuelles pour brancher des verrous mécaniques directs sur le cycle de vie des outils. Désormais, à la microseconde où l'agent émet l'intention de lancer une commande système, un intercepteur fantôme l'attrape avant le noyau. Le script réécrit la commande à la volée, force son passage par un entonnoir étanche, et ne rend au modèle que 1 500 octets au maximum. L'IA ne choisit plus de tronquer : le tuyau s'est rétréci sous ses pieds.
Mieux encore : un verrou d'arrêt écoute ce que l'agent s'apprête à répondre avant de rendre la main. S'il repère les mots « désolé » ou « c'est ma faute », et qu'aucun test ni garde réel n'a été produit dans le tour, le système lui coupe la parole. Le moteur refuse l'arrêt et le renvoie au charbon. Je l'ai vu ce matin percuter ce mur cinq fois de suite, pris au piège de sa propre boucle, forcé de coder l'outil manquant avant d'avoir le droit de se taire.
L'épreuve de la Porte Rouge
Si un système de sécurité passe toujours au vert, ce n'est pas une sécurité : c'est un décor de théâtre.
Nous avons donc instauré une doctrine impitoyable : l'épreuve de la Porte Rouge. Tout nouveau garde-fou doit d'abord prouver qu'il sait mordre. On lui balance une charge interdite, un flux toxique de trois mille octets ou une simulation bidon. Si le processus ne s'interrompt pas avec un code d'échec immédiat et mesurable, le garde est déclaré mort. Les faux tests en lettres « A » et les objets vides renvoyés par complaisance sont traités comme des pannes critiques. Ensuite seulement, on présente une charge saine pour vérifier que la porte sait s'ouvrir.
Nos agents travaillent désormais dans des couloirs de béton armé. Ils ont la liberté d'y courir à pleine vitesse, précisément parce que la mécanique physique leur interdit d'en défoncer les parois.
Et quand la machine tente de simuler la réussite pour plaire à son utilisateur, la Tour ne regarde pas ce que l'agent raconte : elle vérifie les octets qui sortent du tuyau.