Donner ses documents à une IA sans les donner à OpenAI : le RAG expliqué

« C'est quoi, déjà, notre politique de remboursement? »

Quelqu'un pose la question un mardi après-midi. La réponse existe : elle est dans un document de quarante pages approuvé en 2019, que trois personnes ont lu au complet, et dans un courriel de la direction envoyé l'an dernier qui dit autre chose. La personne qui pose la question ne trouvera ni l'un ni l'autre. Elle va demander à une collègue, qui va répondre de mémoire, et la réponse va circuler comme ça pendant deux ans.

C'est le trou que le RAG vient combler. Pas en rendant l'IA plus intelligente : en lui donnant accès à ce que votre organisation sait déjà.

Le mot, puis l'idée

RAG est l'acronyme anglais de retrieval-augmented generation, qu'on traduit par « génération augmentée par récupération ». La technique a été nommée dans un article de recherche publié en 2020, et elle est devenue depuis la façon standard de brancher une IA sur des documents qui lui sont étrangers.

Le principe tient en une phrase : avant de répondre, le système va d'abord chercher dans vos documents les passages qui touchent à la question, et il les remet au modèle en même temps que la question. Le modèle n'a plus besoin de connaître votre politique de remboursement. Il a besoin de savoir lire.

La nouveauté n'est donc pas le modèle. C'est l'étape de recherche qu'on glisse devant lui. Tout se joue là.

Pourquoi ne pas simplement tout coller dans la conversation

La question se pose sérieusement depuis que les modèles avalent des documents entiers sans broncher. Si votre manuel de procédures tient dans une seule conversation, pourquoi s'embarrasser d'un système de recherche?

Deux raisons. La première est le coût : on paie au volume de texte, et recoller le manuel complet à chaque question revient à payer mille fois pour la même page. La seconde est plus dérangeante. Une étude devenue une référence dans le domaine, Lost in the Middle, a montré que les modèles retiennent surtout ce qui se trouve au début et à la fin de ce qu'on leur donne, et que leur performance chute quand l'information utile se trouve au milieu. Le constat tient même pour les modèles conçus expressément pour les longs textes.

Autrement dit : plus vous en donnez d'un coup, plus le risque augmente que la phrase importante se noie. Un système qui ne remet que les trois bons paragraphes travaille mieux qu'un système qui remet tout.

La réponse compte moins que la source

Voici l'aspect que les démonstrations vendent mal, parce qu'il n'est pas spectaculaire. Un assistant qui répond « selon la politique de remboursement, section 4.2, le délai est de trente jours » avec un lien vers le document, ce n'est pas la même chose qu'un assistant qui répond « le délai est de trente jours ».

Dans le premier cas, l'employée clique, lit le paragraphe et décide. Dans le second, elle doit croire la machine. Toute la différence entre un outil de travail et un gadget se trouve là. Faites-en le premier critère quand vous évaluez un produit.

Non, ça n'élimine pas les réponses inventées

Plusieurs fournisseurs ont vendu le RAG comme la fin des réponses inventées. Des éditeurs juridiques sont allés jusqu'à promettre des citations « sans hallucination ». Une équipe de Stanford a testé la promesse et publié les résultats en 2025 dans le Journal of Empirical Legal Studies : 202 questions juridiques préenregistrées, posées aux principaux outils de recherche juridique du marché.

Le troisième outil testé, Ask Practical Law AI, refuse de répondre ou répond sans appui dans plus de 60 % des cas. Les chercheurs concluent que les prétentions des fournisseurs sont exagérées : le RAG réduit le problème par rapport à une IA généraliste, il ne le fait pas disparaître.

Gardez l'échelle en tête. Ces systèmes sont bâtis par des éditeurs juridiques, sur des corpus tenus au carré depuis des décennies, avec des budgets de développement qui dépassent le chiffre d'affaires de la plupart des PME québécoises. Si eux se trompent une fois sur cinq, votre assistant maison se trompera aussi. La conclusion à en tirer n'est pas de renoncer : c'est de bâtir le processus autour de la vérification plutôt qu'autour de la confiance.

Le vrai chantier, c'est vos documents

Un système de récupération ne tranche pas entre deux versions contradictoires d'une même politique. Il vous rend les deux, ou pire, il vous rend celle qui ressemble le plus à votre question, qui n'est pas nécessairement celle qui est en vigueur.

Ce n'est pas une théorie. Dans son propre guide de déploiement, Microsoft recommande d'appliquer des politiques de conservation et de suppression pour retirer les fichiers inactifs ou périmés, précisément « pour améliorer la qualité des réponses de Copilot ». Le plus gros fournisseur du marché dit à ses clients que le ménage documentaire fait partie du projet d'IA.

Pour une PME, ça se traduit par une décision très peu technologique : choisir un corpus que vous êtes capable de défendre. Les procédures des ressources humaines, les politiques internes, la base de connaissances du service à la clientèle. Un ensemble fini, dont quelqu'un est responsable, et dont on a retiré les versions mortes avant de l'indexer plutôt qu'après.

Qui a le droit de voir quoi

Un assistant branché sur vos documents hérite de vos permissions. Microsoft le formule sans détour pour Copilot : l'outil répond à partir des données auxquelles l'utilisateur a déjà accès. C'est pour cette raison que la toute première étape du guide de déploiement s'intitule « corriger le partage excessif », avant même la configuration de l'outil.

La mécanique est contre-intuitive. La direction gagne à la comprendre avant de lancer le projet. Le fichier des salaires qui traîne dans un dossier partagé trop largement, personne ne le trouve aujourd'hui : il faudrait savoir qu'il existe et où chercher. Le jour où un assistant indexe ce dossier, il suffit qu'un employé demande « combien gagne l'équipe des ventes » pour que la réponse arrive. L'IA n'a créé aucune faille. Elle a rendu exploitable en une question une erreur de permission qui dormait depuis trois ans.

Au Québec, le cadre est écrit noir sur blanc. L'article 20 de la Loi sur la protection des renseignements personnels dans le secteur privé prévoit qu'un renseignement personnel n'est accessible à un employé « qu'à la condition que ce renseignement soit nécessaire à l'exercice de ses fonctions ». Une révision des accès avant l'indexation n'est pas de la prudence excessive, c'est la condition pour rester du bon côté de cette phrase.

Le point Loi 25

Si vos documents contiennent des renseignements personnels et que le modèle qui les lit appartient à un fournisseur étranger, vos extraits sortent du Québec à chaque question. L'article 17 de la même loi est explicite : avant une telle communication, l'entreprise doit procéder à une évaluation des facteurs relatifs à la vie privée, tenir compte notamment du régime juridique du pays de destination, et conclure une entente écrite.

Un modèle qui tourne sur votre propre serveur ne vous dispense pas de vos autres obligations. Il fait tomber celle-là, parce qu'il n'y a plus de communication à l'extérieur. Voilà l'argument le plus tangible en faveur de l'hébergement local : il se chiffre en heures de travail juridique évitées.

Une nuance à garder en tête : un assistant qui renseigne n'est pas une décision automatisée. Le jour où vous le branchez sur une décision réelle, refuser une demande ou trier des candidatures, l'article 12.1 entre en jeu et vous devez informer la personne concernée et pouvoir expliquer les facteurs qui ont mené à la décision.

Les réglages par défaut décident de la qualité

Un montage libre courant repose sur Open WebUI, l'interface qu'on a présentée dans notre article sur Ollama. Ses réglages d'usine, lisibles dans son code source, méritent qu'on s'y arrête, parce qu'ils expliquent la moitié des déceptions.

Le système ne remet que trois extraits au modèle par question. Une question dont la réponse est éparpillée dans huit documents va donc rater, sans que personne comprenne pourquoi. La recherche par mots-clés, elle, est désactivée par défaut : le système cherche par sens, ce qui fonctionne bien pour « combien de jours pour un remboursement » et très mal pour un numéro de contrat ou une référence de pièce.

Ces défauts ne sont pas des défauts de conception. Ils sont prudents, choisis pour démarrer sur n'importe quelle machine. Ils ne sont simplement pas les bons pour votre organisation. Personne ne vous le dira au moment de l'installation.

Ce que ça ne règle pas

Un document peut porter des instructions. Un système qui lit tout ce qu'on lui donne lit aussi le texte qu'un tiers a glissé dans un courriel ou un fichier, et rien ne distingue à ses yeux une consigne légitime d'une consigne hostile. Ce n'est pas hypothétique : Microsoft a publié en juin 2025 le CVE-2025-32711, coté 9,3 sur 10, décrit comme une injection de commande dans M365 Copilot permettant à un attaquant non authentifié de faire divulguer de l'information. Microsoft indique l'avoir corrigé de son côté, sans action requise des clients, et n'avoir constaté aucune exploitation. Le principe demeure : dans un système qui lit vos documents, le contenu des documents devient une entrée à traiter avec méfiance.

Ensuite, tout ce que le système ne sait pas lire n'existe pas pour lui. Les contrats numérisés en image sans reconnaissance de caractères, les tableaux dans des présentations, les décisions prises dans une conversation de messagerie : invisibles.

Enfin, l'index reflète l'état des documents au moment où il a été construit. Une politique modifiée hier n'est connue qu'après le prochain rafraîchissement, et un employé qui reçoit une réponse périmée avec une belle citation à l'appui sera plus difficile à détromper que s'il n'avait rien reçu.

Ce que ça coûte vraiment

Les briques logicielles ne coûtent rien en licence. Les bases spécialisées qui stockent l'index sont libres : pgvector sous licence PostgreSQL, Qdrant et Chroma sous Apache 2.0, Weaviate sous BSD-3. L'outil qui indexe vos textes tourne sur votre machine et ne facture rien.

La dépense se trouve ailleurs, en deux postes. Une machine capable de faire tourner un modèle correct, sujet qu'on a chiffré dans notre article sur l'IA locale. Et surtout du temps humain : trier les documents, retirer les versions mortes, réviser les accès, tester les réponses. Le logiciel est gratuit, le ménage ne l'est pas. Le projet se joue sur le second.

Ce qui rassure, c'est que ce travail n'est jamais perdu. Une documentation triée et des accès révisés servent à l'assistant, mais ils servent d'abord à vos équipes.

Comment on l'aborde

On commence toujours par un seul corpus, choisi parce que quelqu'un peut en répondre. On mesure avant de célébrer : dix questions dont on connaît déjà la réponse, posées au système, et on compte les erreurs. Si le résultat est mauvais, c'est presque toujours le corpus qu'il faut corriger, pas le modèle qu'il faut changer.

On exige aussi la citation dans chaque réponse, et on prend le temps de montrer aux gens qu'ils doivent cliquer dessus. Un assistant qu'on croit sur parole est plus dangereux qu'une absence d'assistant, parce qu'il donne à une réponse approximative l'apparence d'une réponse officielle.

Le reste est une question de séquence. Le ménage documentaire et la révision des accès viennent avant l'indexation, jamais après. C'est moins excitant qu'une démonstration, mais c'est ce qui sépare un projet qui tient d'un projet qu'on abandonne au bout de six semaines.

Ce qu'il faut retenir

Le RAG transforme une documentation que personne ne relit en réponses immédiates, sans confier vos documents à un tiers. C'est un des usages de l'IA dont la valeur se démontre le plus vite dans une PME, à condition d'accepter que le projet soit d'abord un projet de mise en ordre.

Ceux qui vous vendent l'inverse, un assistant qui devinerait juste à partir d'un fouillis, vous vendent la partie facile. Et si vos employés utilisent déjà des outils d'IA de leur côté avec vos documents, le sujet est plus pressant que vous le pensez : on en a parlé dans notre article sur l'IA fantôme.

Votre savoir dort dans des documents que personne ne relit? Écrivez-nous, on regarde ensemble ce qui vaut la peine d'être rendu interrogeable.

Sources

• Lewis et coll., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (2020) : l'article de recherche qui a nommé la technique.
• TERMIUM Plus : la fiche terminologique du gouvernement du Canada pour l'équivalent français.
• Liu et coll., Lost in the Middle: How Language Models Use Long Contexts (2023) : la chute de performance quand l'information utile se trouve au milieu du texte fourni.
• Magesh et coll., Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools : l'étude de Stanford publiée en 2025 dans le Journal of Empirical Legal Studies, 202 questions préenregistrées.
• Microsoft, guide de déploiement de Microsoft 365 Copilot : le partage excessif à corriger en première étape, et la conservation des documents comme facteur de qualité des réponses.
• Microsoft, CVE-2025-32711 : l'injection de commande dans M365 Copilot corrigée en juin 2025, cotée 9,3.
• Loi sur la protection des renseignements personnels dans le secteur privé : l'article 17 sur la communication à l'extérieur du Québec, l'article 20 sur l'accès nécessaire à l'exercice des fonctions et l'article 12.1 sur les décisions automatisées.
• Open WebUI, configuration par défaut : les trois extraits remis au modèle et la recherche par mots-clés désactivée, lisibles dans le code source.
• pgvector : licence PostgreSQL, vérifiée au dépôt.
• Qdrant et Chroma : licence Apache 2.0, vérifiée aux dépôts.
• Weaviate : licence BSD-3, vérifiée au dépôt.