RAG ou affinage d’un modèle : que choisir pour vos documents ?

« Il faut entraîner le modèle sur nos documents. » La phrase revient dans presque tous les cadrages de projets d’IA documentaire. Elle part d’une intuition juste (le modèle doit connaître nos procédures, nos contrats, nos textes) et mène souvent à une décision coûteuse. Car la question RAG ou fine-tuning, recherche augmentée ou affinage du modèle, ne se pose pas en termes de puissance : les deux techniques ne font pas la même chose.

RAG ou fine-tuning : deux façons très différentes d’apporter vos documents

La génération augmentée par la recherche (RAG, pour Retrieval-Augmented Generation, décrite dans un article de recherche de 2020) laisse le modèle tel qu’il est. À chaque question, un moteur de recherche interroge vos documents, sélectionne les passages pertinents et les transmet au modèle avec la question. Le modèle rédige sa réponse à partir de ces passages, et peut indiquer d’où ils viennent.

L’affinage (fine-tuning) modifie le modèle lui-même. On poursuit son entraînement sur des exemples choisis, pour qu’il adopte un comportement : un format de réponse, un ton, une façon de classer ou d’extraire. Des techniques comme LoRA (proposée en 2021) ont rendu l’opération beaucoup moins coûteuse qu’un entraînement complet, mais le principe reste le même : ce qui est appris est dissous dans les paramètres du modèle.

D’où la règle la plus utile de cet article : le RAG apporte des connaissances, l’affinage apporte un comportement. Demander à l’affinage de « faire apprendre » un référentiel documentaire, c’est lui confier une tâche pour laquelle il est mal armé : le modèle retiendra des tournures et des tendances, pas un texte exact, et il ne saura pas dire où il l’a lu.

La comparaison, critère par critère

Nous comparons les deux techniques sur les critères qui décident en pratique d’un projet documentaire, dans une organisation publique ou privée.

Pour la grande majorité des usages documentaires (répondre à partir de procédures, retrouver une clause, préparer une synthèse de dossier, assister un agent d’accueil), le RAG l’emporte sur les critères qui comptent le plus : fraîcheur, traçabilité, respect des droits. L’affinage gagne sur un terrain précis : quand il faut un comportement constant sur une tâche étroite et répétée.

Quand le RAG est le bon choix

Le RAG convient dès que la réponse doit pouvoir être vérifiée. C’est le cas d’un service juridique qui veut savoir quel article fonde une position, d’une équipe de maintenance qui consulte la procédure en vigueur, d’un service public qui renseigne un usager sur les pièces à fournir. Dans ces situations, une réponse sans source n’a pas de valeur, et une réponse fondée sur une version périmée est un risque.

Ses points faibles sont connus et se traitent. Le premier est la qualité du corpus : doublons, versions contradictoires, documents numérisés sans reconnaissance de texte. Un RAG branché sur un partage de fichiers désordonné restitue ce désordre avec aplomb. Le deuxième est le découpage : des passages trop courts perdent leur contexte, trop longs noient l’information. Le troisième est l’évaluation : sans un jeu de questions réelles et de réponses attendues, il est impossible de savoir si une modification améliore ou dégrade le système.

Quand l’affinage se justifie

L’affinage a sa place quand le besoin porte sur la forme plutôt que sur le fond. Trois cas reviennent :

Un format de sortie strict, par exemple extraire d’une facture ou d’un formulaire une liste de champs dans une structure précise, des milliers de fois par jour. Un petit modèle affiné peut alors faire aussi bien qu’un grand modèle guidé par de longues consignes, à moindre coût.

Un vocabulaire ou un style très spécifique, que les consignes ne suffisent pas à obtenir : jargon technique d’un secteur, codification interne, langue peu présente dans les données d’entraînement générales.

Une classification répétitive : orienter des courriers vers le bon service, qualifier des demandes, trier des signalements. Si l’on dispose d’un historique de décisions fiables, l’affinage les reproduit de façon stable.

Même dans ces cas, il faut garder en tête deux contraintes. L’affinage fige le modèle à un instant : quand le fournisseur publie une version plus performante, il faut recommencer. Et les exemples d’entraînement deviennent une donnée sensible : un modèle affiné peut, dans certaines conditions, restituer des fragments de ce qu’il a appris.

Et les très longues fenêtres de contexte ?

Une troisième option est parfois avancée : puisque certains modèles acceptent désormais des contextes de plusieurs centaines de pages, pourquoi ne pas leur transmettre directement tous les documents utiles, sans recherche ni affinage ? Pour un dossier ponctuel, c’est souvent la solution la plus simple : analyser un contrat et ses avenants, comparer deux versions d’un règlement intérieur, préparer la synthèse d’un rapport.

Pour un usage récurrent sur un fonds documentaire entier, la limite apparaît vite. Le coût et le temps de réponse augmentent avec la quantité de texte transmise à chaque question ; les modèles exploitent inégalement les informations noyées au milieu d’un très long contexte ; et la question des droits d’accès reste entière. La longue fenêtre de contexte complète le RAG plutôt qu’elle ne le remplace : la recherche sélectionne les documents pertinents, le modèle les lit ensuite plus largement qu’un simple extrait.

Les questions à se poser avant de choisir

Quatre questions suffisent à orienter la plupart des décisions :

La réponse doit-elle citer sa source ? Si oui, RAG. Les documents changent-ils plus d’une fois par trimestre ? Si oui, RAG. Tous les utilisateurs ont-ils le droit de voir tous les documents ? Si non, RAG avec filtrage par droits. Le besoin porte-t-il sur un format ou une tâche répétée, avec un historique d’exemples fiables ? Si oui, l’affinage mérite d’être évalué, éventuellement en complément.

Reste la question de la conformité. Le règlement européen sur l’IA, entré en vigueur le 1er août 2024, n’interdit ni l’une ni l’autre technique ; il fait dépendre les obligations de l’usage et du niveau de risque. Le cadre de gestion des risques de l’IA du NIST et la liste des risques propres aux applications de modèles de langage publiée par l’OWASP offrent, en attendant, des grilles utiles pour documenter ses choix : origine des données, contrôle des accès, journalisation, évaluation.

Notre recommandation

Commencer par un RAG sur un périmètre restreint et propre, avec un jeu d’évaluation construit avec les utilisateurs. Mesurer. N’envisager l’affinage qu’ensuite, pour un besoin précis que les consignes ne couvrent pas. C’est l’approche de notre offre IA d’entreprise : des agents encadrés, dont chaque réponse est traçable, et un pilote borné avant tout passage à l’échelle. Pour situer vos cas d’usage, notre expertise automatisation des processus détaille les critères de choix entre les différentes formes d’automatisation.

Méthode : comparaison fondée sur le fonctionnement des deux techniques et sur la littérature publique, indépendamment de tout fournisseur de modèle. Mise à jour : décembre 2024.

1. Lewis P. et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », NeurIPS 2020.
2. Hu E. J. et al., « LoRA: Low-Rank Adaptation of Large Language Models », 2021.
3. Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle, Journal officiel de l’Union européenne, 2024.
4. NIST, Artificial Intelligence Risk Management Framework (AI RMF 1.0), janvier 2023.
5. OWASP, Top 10 for Large Language Model Applications.

Questions fréquentes

Le RAG suffit-il pour un assistant juridique ou réglementaire ?

Il en est la base, car il permet de citer l'article ou la clause d'où vient la réponse et de suivre les mises à jour des textes. Il doit être complété par une évaluation sur des questions réelles et par une relecture humaine des réponses à fort enjeu.

Nos données sont confidentielles : l'affinage est-il plus sûr ?

Pas nécessairement. Un modèle affiné peut restituer des fragments de ses données d'entraînement, et il ne sait pas respecter des droits d'accès différents selon les utilisateurs. Avec le RAG, les documents restent dans votre base et la recherche peut filtrer selon les droits de chaque personne.

Combien de documents faut-il pour commencer ?

Pour un RAG, un corpus restreint mais propre et à jour (les procédures d'un service, par exemple) suffit à un premier pilote. Pour un affinage, il faut surtout des exemples de paires question-réponse ou entrée-sortie de bonne qualité, souvent plusieurs centaines au minimum.

Peut-on combiner les deux ?

Oui. Un modèle peut être affiné pour adopter un format de réponse ou un vocabulaire métier, puis alimenté par une recherche documentaire pour les faits. C'est une option de seconde étape, une fois le RAG évalué.