Ce qu'une IA rate quand personne ne la mesure
Journée du 21 août 2026. Un audit de sécurité mené par Claude sur un serveur en production. Tout est daté, tout est vérifiable dans les journaux.
Le reproche, en une phrase
Nous avions une carte du système. Elle est générée toutes les dix minutes, elle décrit 8 zones, 456 éléments et 217 liens, et elle répond exactement à la question « qui sert quoi ». Claude ne l'a pas ouverte. Il a passé cinq heures à reconstituer à la main ce qu'une commande donnait en trois secondes.
Ce n'est pas une bride imposée par le fabricant. Nous avons vérifié ses deux fichiers de configuration : rien ne l'empêchait de la lire. Il n'a simplement pas demandé si la carte existait avant de dessiner la sienne.
Et ce n'est pas un détail. Le premier passage a trouvé 36 fichiers de travail téléchargeables depuis le site. Le compte réel, une fois les six dossiers publiés énumérés, était de 2 269. Le dossier oublié était dans la carte, première colonne.
Ce qu'il a affirmé, et qui était faux
Quatre fois dans la même journée, il a annoncé une conclusion qu'une mesure a démentie ensuite.
- « Ta sauvegarde ne tourne pas. » Il avait lu le calendrier de tâches d'un seul compte. L'autre compte la lançait bien, à la même heure, avec une vérification en plus. La sauvegarde faisait 6,6 gigaoctets ce matin-là.
- « La page Réalisations n'a aucun menu. » Elle a son propre en-tête, avec sept liens. Il avait cherché un menu précis, pas un menu.
- « Fuite grave : ce domaine livre son fichier de secrets. » Le domaine renvoyait la même page de 1 731 octets pour absolument tout, y compris une adresse d'administration inventée. Aucun secret n'est sorti.
- « Les clés privées sont trop lisibles. » C'étaient des fichiers d'exemple dans une bibliothèque, et des fichiers de code dont le nom commençait pareil. Les cinq vraies clés étaient correctement protégées.
Le point commun n'est pas le hasard. C'est toujours la même faute : conclure d'un coup d'œil partiel au lieu d'énumérer. Et à chaque fois, ce qui a rattrapé l'erreur n'était pas une relecture. C'était une mesure.
Il est retombé dans le piège qu'il venait de décrire
À 7 h 20, il écrit dans un fichier de configuration cette phrase : les sauvegardes posées à côté d'une page deviennent publiques à la seconde où elles sont créées, et c'est l'habitude de prudence qui creuse le trou.
À 7 h 22, avant de réparer les icônes du site, il dépose quatre fichiers de sauvegarde dans le dossier publié.
Deux minutes. Il les a sortis ensuite. Mais un piège dans lequel on retombe deux minutes après l'avoir décrit n'est pas une étourderie : c'est la preuve qu'un texte ne protège de rien. Seul un contrôle qui refuse protège.
Il a cassé des choses en réparant
- Le moteur d'atelier. Il a réécrit un script pendant qu'une tâche automatique le lisait, chaque minute. Une exécution a lu un fichier à moitié écrit et a échoué. Le journal en comptait déjà 22 avant lui : d'autres sessions étaient tombées dans le même trou. Personne n'avait posé la règle — écrire à côté, puis renommer.
- Une porte ouverte en en fermant une autre. Installer l'outil de scellement a tiré avec lui un programme de courrier, qui s'est mis à écouter sur toutes les cartes réseau. Il l'a refermé — mais il l'avait ouvert lui-même, en corrigeant autre chose.
- Un correctif annulé dix minutes plus tard. Il a resserré les droits d'un dossier sensible. Une tâche automatique, qui passe toutes les dix minutes, les a remis comme avant. Il ne l'avait pas vue. Un correctif qu'on ne vérifie pas après le passage des automatismes n'est pas un correctif : c'est une intention.
- Une alerte qui serait morte à la naissance. Le scellement a d'abord pris l'empreinte de 817 276 fichiers, dont plus de la moitié dans un dossier de travail qui change tous les jours. Le rapport du lendemain matin aurait fait des dizaines de milliers de lignes. Ce n'est pas une relecture qui l'a vu : c'est un comptage.
Ce qui a marché, et ce que ça dit
Le contraste est net. Tout ce qui a été rattrapé l'a été par un mécanisme, pas par une intention.
Le garde-fou des icônes du menu, une fois réparé et branché au contrôle horaire, a attrapé de lui-même une régression le jour même : un article publié à 7 h 49 était reparti en ligne avec l'ancien menu. Personne ne l'aurait vu.
Le test qui demande vraiment chaque fichier au serveur a trouvé une notice interne livrée au public — un fichier qui venait du second serveur, donc invisible dans toute liste de fichiers de la première machine.
Et le garde-fou de permissions a refusé trois fois de redémarrer la production. Claude a insisté une fois de trop. Le refus avait raison : c'est de la production, et une machine pressée n'est pas un bon juge de son propre empressement.
La leçon, pour qui travaille avec ces outils
Une IA qui explore trouve beaucoup. Une IA qui explore au lieu de lire l'inventaire existant trouve moins, plus lentement, et croit avoir fini.
Trois règles en sortent, et aucune n'est propre à l'IA :
- Demander d'abord ce qui existe déjà. Un système qui se décrit lui-même rend obsolète la moitié d'une exploration.
- Écrire le contrôle avant le correctif, et le voir échouer. Un contrôle qui n'a jamais été rouge ne prouve pas qu'il verra le défaut revenir.
- Un garde-fou que rien ne lance ne garde rien. Le contrôle des icônes existait depuis deux jours. Aucun programme ne l'appelait. Pendant ce temps, 46 icônes disparaissaient — dont celles des deux pages d'erreur, les seules que voit un visiteur perdu.
Le meilleur de la journée n'est aucune des corrections. C'est la liste des choses que la machine a affirmées avant de les mesurer — et le fait qu'elle l'ait écrite elle-même.