Le fine-tuning permet-il d'apprendre ses documents à un modèle ?

Mal. L'étude d'Ovadia et al. (2023) conclut que le fine-tuning n'apporte que des gains modestes pour injecter des connaissances, et que le RAG fait mieux, que la connaissance soit déjà vue à l'entraînement ou entièrement nouvelle.

Dans quels cas le fine-tuning reste-t-il utile ?

Pour changer un comportement stable : un format de sortie, un ton, une tâche de classement répétitive. Pas pour tenir à jour une base documentaire.

RAG ou fine-tuning : lequel choisir pour vos documents ?

Si votre but est qu'une IA réponde à partir des documents de votre entreprise, choisissez le RAG (génération augmentée par récupération). Le fine-tuning (réentraînement d'un modèle sur vos exemples) sert à autre chose : modifier un comportement, un format, un style. Les deux ne répondent pas au même besoin, et la recherche publiée va dans ce sens. Le lexique de Cercle IA définit le fine-tuning ; ici, on tranche entre les deux.

Ce que chaque méthode modifie

	RAG	Fine-tuning
Ce qui change	ce que le modèle lit au moment de répondre	les paramètres du modèle
Mise à jour d'un document	réindexer le document	refaire un entraînement
Traçabilité	on peut montrer le passage utilisé	la connaissance est diluée dans le modèle
Droits d'accès	filtrables par utilisateur à la recherche	impossible de « retirer » une information à un utilisateur
Ce qu'il faut fournir	des documents	des exemples question-réponse de qualité, en nombre
Bon pour	connaissances, faits, procédures qui évoluent	format, ton, tâche répétitive et stable

Ce que dit la recherche

Sur l'injection de connaissances. L'étude « Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs » d'Ovadia, Brief, Mishaeli et Elisha (déposée le 10/12/2023) compare les deux approches. Sa conclusion : le fine-tuning n'apporte que des gains modestes, et le RAG fait systématiquement mieux, aussi bien pour des connaissances que le modèle avait déjà croisées que pour des connaissances entièrement nouvelles.

Sur la traçabilité. L'article fondateur du RAG (Lewis et al., 2020) part justement du constat que les connaissances stockées dans les paramètres d'un modèle sont difficiles à mettre à jour et ne permettent pas de dire d'où vient une réponse. Un RAG peut renvoyer le passage exact qui justifie chaque affirmation ; c'est ce que proposent des fonctions comme Citations chez Anthropic.

Les questions à se poser

Vos informations changent-elles ? Tarifs, procédures, catalogue, réglementation : oui → RAG. Un réentraînement à chaque modification n'est pas tenable.
Devez-vous prouver la source ? Service client, juridique, qualité : oui → RAG avec citations.
Tous les utilisateurs ont-ils le droit de tout voir ? Non → RAG, avec filtre par droits (voir Droits d'accès). Une fois des documents confidentiels appris par un modèle, plus aucun filtre ne décide qui peut en obtenir le contenu.
Le problème est-il la forme plutôt que le fond ? Le modèle connaît la réponse mais la donne dans le mauvais format, ou vous voulez classer des milliers de courriels de la même façon → le fine-tuning devient une piste, après avoir épuisé les consignes et les exemples dans la requête.
Vos documents tiennent-ils dans la requête ? Anthropic indique qu'en dessous de 200 000 jetons (environ 500 pages), on peut placer toute la base dans la requête, sans RAG ni fine-tuning.

Exemple illustratif

Prenons un syndic de copropriété qui veut répondre aux questions des copropriétaires à partir des règlements, procès-verbaux d'assemblée et contrats d'entretien. Les documents changent à chaque assemblée, chaque copropriétaire ne doit voir que sa résidence, et la réponse doit citer l'article du règlement. Les trois critères pointent vers le RAG. Si, plus tard, le syndic veut que toutes les réponses suivent un gabarit très précis et que les consignes ne suffisent pas, un fine-tuning léger pourra se poser sur le comportement, pas sur les connaissances.

Les combiner

Les deux ne s'excluent pas : un modèle ajusté pour un format peut très bien être branché sur un RAG pour le fond. Mais l'ordre compte. Commencez par le RAG et de bonnes consignes ; mesurez (voir Évaluer un RAG) ; n'envisagez le fine-tuning que pour un défaut de comportement que la mesure a mis en évidence.

Ce que le fine-tuning ne corrige pas

Un RAG qui répond mal est souvent un RAG qui récupère mal : mauvais découpage, mauvaise recherche, passages hors sujet. Réentraîner le modèle ne règle pas ce problème. Avant de changer de méthode, vérifiez que le bon passage arrive bien jusqu'au modèle : voir Chunking et Recherche hybride.