Une IA sobre : choisir la taille de modèle adaptée
Le plus grand modèle n'est presque jamais le bon choix pour une tâche précise. Une méthode simple pour retenir le plus petit modèle qui fait le travail, avec des preuves plutôt qu'une intuition.
Quand on lance un projet d’IA, le réflexe est de prendre le modèle le plus puissant du moment. C’est confortable : si ça ne marche pas, ce n’est pas la faute du modèle. Mais une IA sobre se juge à un autre critère : le plus petit modèle qui tient la tâche, avec une qualité démontrée. Trier des courriels, extraire une date d’un contrat ou reformuler une réponse type ne demande pas ce qu’exige la rédaction d’une analyse juridique. Voici une méthode pour choisir, en cinq étapes.
Cinq étapes pour dimensionner le modèle
- Écrire la tâche en une phrase. « Classer les demandes entrantes en huit catégories » est une tâche. « Aider les agents » n’en est pas une. Plus la tâche est bornée, plus un petit modèle a de chances de suffire.
- Fixer le seuil de qualité acceptable. Avant tout test, décider ce qui est suffisant : par exemple une catégorie correcte dans neuf cas sur dix, avec renvoi à un humain pour le reste. Sans seuil, on est tenté de ne jamais s’arrêter.
- Constituer un jeu d’essai avec ses propres documents. Une centaine d’exemples réels, anonymisés, dont des cas difficiles et des cas rares. Les classements publics mesurent autre chose que votre métier.
- Comparer trois tailles, du plus petit au plus grand. Tester un modèle de petite taille, un de taille moyenne et un grand modèle, avec la même consigne. Retenir le plus petit qui franchit le seuil.
- Mesurer le coût complet. Temps de réponse, consommation, prix, effort de maintenance. Le moins cher à la requête n’est pas toujours le moins cher à l’année.
Ce que la taille change, et ce qu’elle ne change pas
Un grand modèle est plus polyvalent, plus tolérant aux consignes mal écrites et plus à l’aise avec les cas inattendus. Un petit modèle est plus rapide, moins coûteux, plus facile à héberger et à auditer. Mais la taille n’est pas le seul levier : la qualité des consignes, la présence des bons documents dans le contexte et la vérification des sorties pèsent souvent davantage.
- la tâche est étroite et répétitive ;
- le format de sortie est contraint (catégorie, champ, oui ou non) ;
- le volume est élevé et la latence compte ;
- les données ne doivent pas quitter l’organisation.
- la tâche exige du raisonnement sur des cas variés ;
- les entrées sont longues ou ambiguës ;
- le volume est faible et l’erreur coûteuse ;
- les consignes évoluent trop vite pour être figées.
Le routage : ne pas choisir un seul modèle
Un schéma efficace consiste à confier la majorité des demandes à un petit modèle et à n’envoyer vers un grand modèle que celles que le premier juge difficiles ou incertaines. On peut aussi faire passer d’abord une règle simple, sans IA, pour les cas triviaux : une expression régulière est plus sobre qu’un modèle de langage.
- Règle simplecas évidents, sans IA
- Petit modèletâche courante
- Grand modèlecas incertains
- Humaindécision sensible
Réduire la charge sans changer de modèle
- raccourcir les consignes et le contexte envoyé : on paie et on calcule chaque mot ;
- retrouver les passages utiles d’une base documentaire plutôt que d’envoyer tout le dossier ;
- mettre en cache les réponses aux questions identiques ;
- traiter en lot, hors des heures de pointe, ce qui n’est pas urgent ;
- arrêter l’usage inutile : une fonction rarement utilisée peut être retirée.
La sobriété n’est pas un renoncement à la qualité : c’est la preuve que chaque ressource consommée sert un besoin mesuré. Un modèle choisi sur un jeu d’essai, avec un seuil fixé à l’avance, se défend devant un comité de pilotage comme devant un audit.
Documenter le choix
Gardez une fiche d’une page : la tâche, le seuil, les modèles comparés, les résultats, le coût estimé, la date. Dans six mois, de nouveaux modèles seront disponibles ; la fiche permet de refaire le test en une journée plutôt que de décider à l’intuition. Cette discipline relève de la gouvernance des projets d’automatisation et d’IA, et notre diagnostic permet de l’installer dès le départ.
Pour approfondir : IA d’entreprise
Questions fréquentes
Un petit modèle est-il moins fiable ?
Pas forcément. Sur une tâche étroite (classer, extraire, reformuler dans un cadre connu), un petit modèle bien évalué peut égaler un grand modèle. Il est en revanche moins robuste hors de son périmètre : c'est pourquoi on teste aussi les cas inhabituels.
Comment mesurer la consommation d'un modèle ?
En l'état, les fournisseurs publient rarement des chiffres comparables. On mesure donc soi-même ce que l'on contrôle : nombre de requêtes, volume de texte traité, durée de calcul et énergie des serveurs si l'on héberge. À défaut, on suit des indicateurs de substitution comme le volume de texte traité.
Faut-il héberger soi-même un modèle ?
Pas par principe. L'hébergement interne se justifie par la confidentialité, la maîtrise des coûts à fort volume ou l'indépendance vis-à-vis d'un fournisseur. Pour un faible volume, un service géré est souvent plus sobre qu'un serveur sous-utilisé.