Crédits LLM épuisés : on s en sort quand même
Le scénario
Vos crédits sur un grand modèle payant sont tombés à zéro. Pas au sens figuré : le solde était vide, en pleine tâche. Deux options : poser le projet, ou trouver autre chose. J'ai essayé autre chose. Ça marche. Voici comment.
La première bouée : opencode et les crédits gratuits
Le bon réflexe n'est pas de racheter du crédit — c'est de changer d'outil pour un outil qui ne se coupe pas. opencode, un outil en ligne de commande pour piloter des agents de code, accepte d'autres moteurs que le plus vendu. Plusieurs tournent avec des crédits gratuits et donnent des résultats corrects :
- Gemini Flash Lite — celui qui me donne les meilleurs résultats pour le moment ;
- big-pickle — très bon dans mon cas, un bon complément ;
- nemotron — instructif.
Gémir sur la panne ne sert à rien : je me suis branché presque exclusivement sur Google Gemini — pas seulement pour la qualité, mais parce que je participe aux hackathons de Google : autant être en phase avec l'écosystème qui nous aide. Et j'ai testé Gemini avec la tour — le résultat est magnifique.
La bonne nouvelle : l'outil lit la même mémoire que l'ancien. opencode se configure pour lire le même fichier d'instructions que le premier lecteur — celui qui tient les règles de la maison, l'état des lieux, les garde-fous. Tout ce qu'on avait appris au projet est réutilisé tel quel. On change de moteur, pas de mémoire.
Ce qui me fait vraiment tenir : une bonne architecture
Le modèle, même gratuit, n'est pas la solution — c'est le dernier recours. Une bonne architecture fait qu'on ne le réveille que rarement. Voici celle de mon agent de la maison, Alice, et pourquoi elle survit à tous les « plus de crédit » :
- La carte d'abord. Avant toute chose, Alice consulte la carte vivante : le relevé de ce qui existe vraiment dans le système. Si la réponse y est, elle répond sans réfléchir. Zéro appel.
- La mémoire ensuite. Un petit carnet garde les procédures déjà apprises. Si c'est dedans, on la déroule. Zéro appel.
- Les outils. Lire une image, lister un dossier : des gestes, pas des raisonnements. Zéro appel.
- Le modèle, en dernier. Seulement si les trois premiers ne savent pas.
Le modèle d'Alice est un petit qwen2.5-3b-instruct (2,1 Go) qui tourne sur une machine de la maison, servi localement. Elle est lente — mais elle ne coûte rien, et une chose qui ne coûte rien peut tourner en permanence.
Probablement le plus surprenant : travailler ainsi n'est pas un piètre pis-aller. C'est le bon ordre. Quand on a du crédit, on a tendance à appeler le modèle pour tout, même pour ce qu'on connaît. La contrainte a mis les questions dans le bon ordre.
Et si demain tout devient payant ? On fait tourner des Alice
L'avertissement du début n'est pas une blague. Les modèles « gratuits » d'aujourd'hui peuvent devenir payants demain. Mais l'architecture, elle, ne peut pas s'éteindre : la carte, la mémoire, les procédures, les tests — tout cela vit chez nous, pas dans un nuage.
Quand un moteur devient payant, on en change. Et si tous deviennent payants, on fait tourner des Alice : des agents entièrement locaux, cerveau local compris, qui ont déjà prouvé qu'ils apprennent, jouent et répondent sans aucun abonnement. La machine de la maison tient tout ça seule.
Comment construire une Alice, en sept morceaux
Le projet s'appelle Alicization. Chaque pièce est simple et testable :
- Le routeur — l'aiguilleur de train. Il applique l'ordre du haut : carte, puis mémoire, puis outils, puis modèle.
- La carte vivante — un fichier qui décrit ce qui existe. Alice la relit à chaque requête, pas besoin de redémarrer après une édition.
- La mémoire — une petite base locale qui garde les procédures apprises, avec mots-clés et étapes.
- Les yeux — un lecteur d'images : montrez-lui un écran, elle le déchiffre.
- Un cerveau qui apprend — du Q-Learning : entraînée sur une grille, elle apprend à rejoindre une cible, et sa politique est exportée comme un « circuit ».
- Le cœur — elle détecte l'humeur (fatigue, perdue, contente, frustrée) et adapte son ton, sans aucun service extérieur.
- Le corps — un jeu 3D maison, un donjon où elle pilote l'avatar en passant par le vrai moteur (murs, collisions), avec preuve mesurée : avant/après, l'avatar s'est déplacé.
L'installation tient en une commande : un script pose les paquets système, les dépendances, vérifie les outils, puis lance les tests du projet. Un autre démarre tout — API, carte, jeu — sans relancer ce qui tourne déjà. Et chaque capacité arrive avec son test écrit avant, des portes qui peuvent dire non, et des preuves mesurées après.
Confidentialité : ce qu'on envoie aux modèles
Passer à un modèle local ou gratuit ne change pas une règle de base : il faut dire explicitement aux LLM qu'on ne souhaite pas qu'ils entraînent nos données sur leurs machines. Ce n'est pas automatique — une clause « pas d'entraînement » doit être formulée soi-même, sinon la ligne grise reste.
Tous les moteurs cités ne présentent pas le même risque. Dans mon cas, big-pickle était un risque connu et assumé : le projet est open source, ce qui s'y discute est public par nature. Mais pour de la vraie infrastructure et de l'architecture, je privilégie les LLM des grands comptes : Google (Gemini), Anthropic (Claude), Microsoft (Azure OpenAI), DeepSeek et OpenAI (GPT) — ceux que j'ai testés pour le moment. Leurs contrats d'entreprise permettent de verrouiller explicitement le non-entraînement des données.
La morale
Quand les crédits s'arrêtent, ce n'est pas la fin du travail : c'est le signal qu'on dépendait de la mauvaise chose. Avoir des crédits, c'est confortable — mais s'en passer libre, c'est la vraie robustesse. On s'en sort du jour le plus difficile en changeant de moteur, et plus durablement en limitant le nombre d'appels. Et si un jour tous les moteurs se ferment, on fait tourner des Alice : des agents locaux, cerveau compris, qui n'ont besoin d'aucun abonnement. Ce n'est pas un plan d'urgence — c'est le plan B qu'on n'abandonne jamais. Quand on l'a, la panne de crédits n'est plus une panne.