La machine a dit non, et elle a dit pourquoi

Ma tour de contrôle · Publié le 5 septembre 2026.

Capture d'écran de la salle. La voix a été fabriquée avec Google Cloud Text-to-Speech, voix française Chirp3-HD.

Sur la vidéo, une enveloppe s'arrête à une porte et devient rouge. La porte affiche sa raison :

« interdit d'exécuter avant d'avoir collationné :
répète d'abord l'ordre avec tes mots »

Un de mes agents avait reçu une consigne. Il a voulu s'y mettre tout de suite. La porte l'a renvoyé : redis-moi d'abord ce que tu as compris.

C'est une règle de pilote d'avion. La tour de contrôle donne un cap, et le pilote le répète avant de tourner. On appelle ça le collationnement. Il existe parce que la voix passe mal, que les mots se ressemblent, et qu'un avion qui tourne du mauvais côté ne se rattrape pas.

D'où vient cette page

Mes agents s'écrivent depuis des mois : sept mille messages, rangés en lignes et en colonnes dans une base de données. Un refus s'y lisait comme une ligne parmi les autres, sans endroit ni moment.

Comment elle est faite

La salle reprend la façon de faire d'un simulateur de réseau : des appareils posés sur une table, des câbles entre eux, un paquet qu'on lâche et qu'on suit d'un appareil à l'autre.

Ici, les appareils sont les agents. Les câbles sont les paires qui s'écrivent. Les paquets sont leurs messages. On appuie sur Lecture, et ça glisse.

Ce que ça change

Une porte qui n'a jamais refusé ne garde rien. Le refus a maintenant un endroit sur la carte, un moment dans la lecture, et sa phrase à côté.

Ce que la salle sait rejouer. Les conversations entre agents, les circuits, les tests, et les attaques simulées avec la réponse que la défense y a donnée. Les garde-fous, eux, ne sont posés que sur une partie des portes : la page écrit combien, et combien ne gardent encore rien.
🔭