Estimer le coût de l’IA générative : jetons, infrastructure, équipes
Un prototype d'IA générative coûte quelques dizaines d'euros. Le déploiement à l'échelle peut en coûter des milliers par mois. Ce guide détaille les composantes du coût réel et les pièges à éviter.
Un ingénieur lance un prototype d’assistant documentaire en une journée, pour environ 20 € de crédit d’API. Trois mois plus tard, l’application est déployée à 500 utilisateurs, le contexte de chaque requête inclut les 30 dernières interactions et plusieurs documents récupérés, et la facture mensuelle approche 8 000 €. Ce scénario se répète. Le coût de l’IA générative est facilement sous-estimé lors des phases de prototype, puis difficilement maîtrisé lors du passage à l’échelle. Ce guide détaille les composantes du coût réel et les paramètres sur lesquels il est possible d’agir.
Composante 1 : les jetons d’API
Les modèles de langage sont facturés au jeton (token), une unité qui correspond approximativement à ¾ de mot en français. Chaque requête consomme des jetons d’entrée (le contexte envoyé au modèle) et des jetons de sortie (la réponse générée). Les jetons de sortie sont généralement facturés 3 à 5 fois plus cher que les jetons d’entrée.
Le piège classique est de négliger la taille du contexte. Une requête naïve de 50 tokens (« Résume ce document »), mais accompagnée d’un document de 8 000 tokens et d’un historique de conversation de 3 000 tokens, consomme en réalité 11 050 tokens d’entrée. À 5 euros le million de tokens, cela représente 0,055 € par requête — modique à l’unité, mais 55 € pour 1 000 requêtes.
| Poste | Exemples de variables | Impact sur le coût |
|---|---|---|
| Taille du contexte par requête | Historique de conversation, documents récupérés (RAG), instructions système | Très élevé ; principal poste sur les assistants documentaires |
| Longueur des réponses | Résumés courts vs textes longs, niveau de détail demandé | Élevé ; jetons de sortie plus chers |
| Volume de requêtes | Nombre d’utilisateurs actifs, fréquence d’usage, automatisations en arrière-plan | Élevé ; croissance souvent non linéaire à l’adoption |
| Choix du modèle | Modèle de pointe vs modèle léger pour les tâches simples | Facteur 10 à 100 entre le modèle le plus puissant et le modèle le plus économique |
| Mise en cache | Prompt caching sur les instructions système répétées (disponible sur certaines API) | Réduction de 50 à 90 % sur les tokens répétés selon le fournisseur |
Composante 2 : l’infrastructure
Pour les API cloud, l’infrastructure est incluse dans le prix du jeton. Pour l’auto-hébergement d’un modèle open source (Llama, Mistral, Falcon…), il faut prévoir des GPU, qui sont les ressources les plus coûteuses du cloud. Un GPU H100 en location coûte entre 2 et 4 € de l’heure selon les fournisseurs en 2026. Un modèle de 70 milliards de paramètres nécessite 2 à 4 H100 selon la quantification. Sur une base de déploiement continu 24 h/24, le coût mensuel d’infrastructure seule dépasse 5 000 €.
L’auto-hébergement est économiquement justifié à partir de volumes élevés (plusieurs millions de requêtes par mois) ou pour des raisons de confidentialité (données qui ne doivent pas sortir de l’organisation).
Composante 3 : les coûts humains
Le calcul du coût de l’IA générative oublie fréquemment les coûts humains. Dans les projets matures, ils dépassent souvent les coûts d’infrastructure :
Le prompt engineering et la maintenance : les instructions système et les exemples de référence (few-shot) doivent être maintenus, testés et mis à jour quand le modèle change ou quand les besoins évoluent. Ce travail n’est pas ponctuel.
L’évaluation continue : détecter les hallucinations, les réponses hors-sujet et les dérives de qualité demande des évaluations régulières, humaines ou automatisées. Une hallucination non détectée dans un processus métier peut coûter bien plus que l’infrastructure qui l’a produite.
La gouvernance : journalisation des requêtes, conformité AI Act (depuis le 2 août 2025, les obligations relatives aux modèles d’IA à usage général sont en vigueur), formation des utilisateurs, gestion des incidents.
Un assistant qui génère une réponse fausse dans un processus administratif, médical ou juridique peut produire un dommage sans commune mesure avec le coût de la requête. Inclure dans l’estimation du coût les mécanismes de détection, de validation humaine et de traitement des erreurs — pas seulement l’infrastructure.
Construire l’estimation : une feuille de calcul en trois étapes
- Profiler les requêtes types Mesurer sur un échantillon représentatif le nombre médian de tokens d’entrée (contexte + question) et de sortie pour chaque type d’usage. C’est la base de l’estimation de volume.
- Estimer le volume Nombre d’utilisateurs actifs × fréquence d’usage × taux d’adoption prévu. Prévoir une fourchette haute (adoption forte, contextes longs) et une fourchette basse.
- Calculer selon deux scénarios API cloud avec le modèle envisagé, et auto-hébergement si le volume le justifie. Inclure dans les deux cas les coûts humains estimés (nombre d’ETP pour la maintenance, l’évaluation et la gouvernance).
Notre offre IA d’entreprise intègre la conception économique du déploiement depuis le prototype jusqu’à la mise à l’échelle. Notre expertise en automatisation des processus couvre la sélection des cas d’usage à partir de leur ratio valeur/coût.
Pour approfondir : IA d’entreprise
Questions fréquentes
Faut-il commencer avec les API cloud ou auto-héberger un modèle open source ?
Pour un prototype ou un premier déploiement, les API cloud (OpenAI, Anthropic, Google, Mistral) sont plus rapides à mettre en place et évitent l'investissement initial en infrastructure. L'auto-hébergement devient pertinent à grande échelle (millions de requêtes par mois), pour des raisons de coût, de confidentialité des données ou de personnalisation fine. La décision dépend du volume et des contraintes de votre organisation.
Comment estimer le nombre de jetons d'une application ?
Compter les tokens d'une requête type avec un outil de tokenisation (le tokeniseur de chaque modèle donne le compte exact). Multiplier par le nombre de requêtes quotidiennes prévu. Le contexte (historique de conversation, documents passés en entrée) peut représenter 70 à 90 % des tokens d'une requête — c'est le poste le plus sous-estimé.
Peut-on prévoir le coût d'une application RAG (Retrieval-Augmented Generation) ?
Oui, avec un modèle : nombre de requêtes × (tokens de la question + tokens des documents récupérés + tokens de la réponse) × prix par token. Le volume de documents récupérés par requête est le levier principal. Réduire le nombre de chunks retournés par l'étape de recherche réduit le coût proportionnellement.