Un agent IA n'est pas un chatbot un peu plus malin. C'est une boucle : il planifie, appelle des outils, lit le résultat, se corrige, recommence. Chaque tour de boucle est un appel facturé — et c'est là que le budget dérape, entre le pilote qui coûtait quelques dizaines d'euros et la mise en production qui coûte quelques milliers.

Ce qui change entre un chatbot et un agent

Un assistant conversationnel classique fait un aller-retour : la question part, la réponse revient. Un agent fait le travail — et faire le travail demande plusieurs passages par le modèle, souvent une douzaine, parfois davantage.

↔ Faites défiler le tableau horizontalement

La conséquence est contre-intuitive : plus votre agent marche bien, plus il coûte cher. Un agent qui traite dix dossiers par jour en pilote et trois cents en production multiplie la facture par trente, sans qu'aucune ligne de code n'ait changé.

Les quatre postes qui gonflent la facture

1. Le contexte renvoyé à chaque tour

C'est le poste le plus sous-estimé. À chaque appel, l'agent doit renvoyer au modèle l'intégralité de ce qu'il sait : instructions système, définitions des outils disponibles, consignes de sécurité, historique de la conversation. Rien de tout cela n'a changé, mais tout est refacturé. Sur un agent outillé, ce contexte répété représente couramment 40 à 60 % du budget de tokens.

2. Les boucles de correction

Un agent qui se trompe recommence. C'est précisément ce qui le rend utile — et ce qui double la note quand ça arrive. Une seule tâche partie en boucle de récupération d'erreur peut consommer deux fois le budget prévu, sans que personne ne s'en aperçoive avant la facture.

3. Les appels d'outils

Chaque outil que l'agent actionne — une recherche, une API métier, un serveur MCP — coûte deux fois : l'appel lui-même quand il est facturé, puis les tokens du résultat qui revient dans le contexte. Un document de trois pages ramené par un outil, c'est trois pages qui repartiront dans chacun des appels suivants.

4. L'agent qui ne s'arrête jamais

Beaucoup d'agents utiles sont des agents de surveillance : ils lisent une boîte mail, un flux de commandes, un tableau de bord. Ils travaillent la nuit, le week-end, en août. Le coût n'est plus adossé à des heures ouvrées mais à un volume continu.

Pourquoi les agents sont précisément le cas où le local gagne

Toutes les charges IA ne justifient pas d'acheter une machine. Trois questions ponctuelles par jour resteront moins chères au token. Mais un agent en production coche les quatre cases qui font basculer le calcul :

• Le volume est élevé et continu. Une machine achetée est un coût fixe : plus elle tourne, moins chaque requête coûte. Une API, c'est l'inverse.
• La charge est prévisible. Un agent qui traite un flux métier a un débit connu, donc dimensionnable. C'est ce qui rend l'achat calculable plutôt que pari.
• Les tâches sont répétitives et cadrées. Classer, extraire, résumer, router, vérifier. Ces tâches ne demandent pas le meilleur modèle du marché — elles demandent un modèle fiable et rapide.
• Un modèle plus petit suffit. C'est le point que peu d'entreprises testent : un 14B ouvert, correctement instruit sur une tâche cadrée, fait souvent aussi bien qu'un modèle propriétaire de dernière génération pour un centième du coût marginal.

Ce qui doit rester au cloud, ce qui doit basculer

La bonne architecture est presque toujours hybride. Le partage se fait sur la nature de la tâche, pas sur une position de principe.

↔ Faites défiler le tableau horizontalement

Dans les faits, la majorité des tokens d'un agent en production part dans la première ligne de ce tableau. C'est cette majorité-là qu'on internalise.

Ce qu'il faut pour faire tourner des agents en local

Le dimensionnement d'un agent ne se raisonne pas comme celui d'un assistant. Un assistant sert des humains, qui réfléchissent entre deux questions. Un agent, lui, enchaîne sans pause : il occupe la machine en continu.

↔ Faites défiler le tableau horizontalement

Trois points techniques décident du confort réel, au-delà de la capacité mémoire :

• Le débit, pas la capacité. Un agent qui enchaîne quinze appels ressent quinze fois la lenteur du modèle. La bande passante mémoire du GPU compte donc plus ici que dans un usage conversationnel. → quel GPU pour un LLM local
• Le cache de contexte. Un serveur d'inférence local correctement configuré garde en mémoire le préfixe commun à tous les appels. C'est gratuit chez vous, facturé chez un fournisseur.
• La connexion aux outils. Le protocole MCP est devenu le standard pour brancher un modèle sur vos applications métier. Il fonctionne à l'identique avec un modèle local : c'est ce qui rend l'internalisation possible sans réécrire vos agents.

La méthode : mesurer avant de migrer

La bascule ne se décide pas sur une intuition. Quatre étapes suffisent, et la première est de loin la plus importante.

1. Instrumentez avant de conclure. Comptez les tokens par tâche, pas par mois : nombre d'appels, tokens d'entrée, tokens de sortie, taux de reprise sur erreur. Sans cette mesure, toute projection est une devinette — et c'est la raison pour laquelle une large majorité des responsables informatiques déclarent avoir été surpris par des charges qu'ils n'avaient pas anticipées.
2. Projetez à l'échelle cible. Multipliez par le volume réel visé, pas par celui du pilote. C'est ce chiffre-là qu'on compare au coût d'une machine amortie sur 36 mois.
3. Testez le modèle ouvert sur vos vraies tâches. Reprenez cinquante cas déjà traités et comparez les sorties. Si un 14B fait le travail, la question du matériel devient une simple arithmétique.
4. Basculez le poste le plus volumineux d'abord. Pas le plus stratégique : le plus gourmand. C'est lui qui rembourse la machine, et c'est le plus facile à réverser en cas d'échec.

Les erreurs qu'on voit le plus souvent

• Comparer le prix affiché d'une API au prix d'une machine. La bonne comparaison porte sur la dépense annuelle déplacée, amortissement et électricité compris, à volume constant.
• Vouloir tout basculer d'un coup. Les tâches de raisonnement rares coûtent peu et gagnent à rester sur le meilleur modèle disponible. Internaliser 100 % est rarement optimal.
• Choisir la machine avant de connaître le modèle. C'est la taille du modèle retenu, et le nombre d'agents en parallèle, qui déterminent la VRAM — pas l'inverse.
• Oublier que les modèles propriétaires changent sous vos pieds. Une version retirée ou modifiée peut altérer le comportement d'un agent en production du jour au lendemain. Un modèle ouvert que vous hébergez ne bouge que quand vous le décidez — c'est un argument de stabilité autant que de coût.
• Négliger le coût humain. Une machine sans exploitation n'est pas une économie. Le déploiement, la supervision et les mises à jour font partie du calcul.

Combien coûte l'internalisation

• Matériel : d'une workstation IA à partir de 7 499 € HT à un serveur GPU à partir de 34 990 € HT selon le volume d'agents.
• Mise en route : installation, serveur d'inférence, choix et test du modèle, branchement MCP sur vos outils — à partir de 990 € HT. → Services & IA
• Récurrent : électricité et infogérance optionnelle. Pas de coût par requête, pas de coût par utilisateur.

Les ordres de grandeur cités dans ce guide proviennent d'observations menées sur de grandes organisations. Les montants absolus ne se transposent pas à une PME — les ratios, eux, se transposent : c'est le facteur de multiplication entre un chat et un agent qui décide, pas la taille de l'entreprise.

FAQ