Avez-vous déjà demandé à ChatGPT le résumé des derniers mails de votre PDG ou le chiffre d'affaires de votre PME pour le trimestre dernier ? Si oui, vous avez sûrement goûté à cette saveur amère : l'IA vous sert un mélodrame digne d'une série Netflix, inventé de toutes pièces. Les modèles de langage (LLM) ont été entraînés sur des données publiques, mais environ 90 % des informations cruciales pour une entreprise (mails, docs internes, CRM) leur sont totalement inaccessibles. C'est là que le RAG (Retrieval-Augmented Generation) entre en scène pour sauver votre productivité. Une excellente et très pédégogique vidéo de la chaïne "Projets IA", à laquelle je me suis abonné.
Dans ce guide, on va examiner en profondeur le fonctionnement de cette technologie permettant à une IA d'exploiter vos données privées sans occasionner de frais de réentraînement.
On va faire ça en trois étapes :
🔷la mécanique de base,
🔷 le découpage de données, et
🔷 les bidouilles de pros pour éviter que l'IA ne délire en production.
Révélation : ce n’est pas sorcier.
Le problème : L'amnésie congénitale des LLM
Un LLM (comme Claude, Gemini ou ChatGPT), c'est fondamentalement un modèle prédictif surpuissant. Son travail ? Anticiper le mot suivant à partir d'un texte qu'on lui donne. Mais on ne peut pas lui faire ingérer l'intégralité de vos documents d'entreprise à chaque question (son contexte de lecture est limité).
Avant le RAG, pour qu'une IA connaisse vos données internes, il fallait la réentraîner de zéro. Le coût financier ? Un véritable gouffre. La solution du RAG est bien plus maline : on ne réentraîne pas le modèle, on lui donne juste un "mode d'emploi" temporaire avant qu'il ne réponde. C'est l'équivalent d'une PhD en mathématiques à qui on donnerait votre catalogue produit 5 minutes avant l'examen.
L'indexation : Préparer le terrain
Puisqu'on ne peut pas tout transmettre d'un coup, il faut préparer les données. C'est l'étape d'indexation. Le but : transformer vos armoires de documents en une base de données interrogeable par la machine.
💡L'astuce de pro : le "Chunking"
➤ C'est la sous-étape de l'indexation. On découpe vos documents en petits segments. Pourquoi ? Parce que les modèles qui vont "lire" ces textes ont des limites de taille strictes.
➤ La métaphore : C'est comme un buffet à volonté. Si vous mettez tout dans votre assiette d'un coup (un doc de 5000 mots), ça devient un brouillon indigeste. Si vous prenez une graine de riz à la fois (50 mots), vous perdez le goût du plat. La taille idéale se situe entre 500 et 1000 mots, en coupant aux frontières naturelles (fin de paragraphe ou de chapitre).
➤ L'erreur courante : Ne pas utiliser l'overlap (le chevauchement). Il faut toujours faire chevaucher légèrement les segments pour qu'une idée à la frontière de deux blocs ne soit pas coupée en plein milieu.
Les concepts clés : Comment la machine "comprend" le sens
Une fois vos documents découpés, il faut les traduire en langage mathématique. C'est là qu'interviennent les concepts techniques.
🔎 Définition : L'Embedding
C'est le processus qui transforme un segment de texte en une liste de chiffres (un vecteur) capturant son sens. Chaque texte devient une liste d'environ 1500 chiffres, où chaque chiffre représente une dimension sémantique (le degré de technicité, l'émotion, le thème...).
La métaphore : Imaginez un GPS sémantique. Deux textes qui parlent de "voitures" auront des coordonnées GPS très proches. Un texte sur les "voitures" et un texte sur les "recettes de cuisine" seront situés à des kilomètres l'un de l'autre.
Ces vecteurs sont ensuite stockés dans des bases de données vectorielles spécialisées (comme Pinecone ou Chroma), optimisées pour retrouver instantanément les vecteurs voisins. Votre texte occupe désormais une position précise dans un espace à 1500 dimensions. Impressionnant, non ?
Le RAG Vanille : La recette de base (et ses ratés)
Quand vous posez une question, le système applique le "RAG vanille" (le RAG basique) en 6 étapes :
Vous posez la question.
➤ Le système encode votre question en vecteur (avec le même modèle d'embedding !).
➤ Il cherche les segments les plus proches dans la base de données.
➤ Il insère ces segments dans le prompt (la consigne) envoyé au LLM.
➤ Le LLM lit le contexte fourni.
➤ Il génère sa réponse.
⚠️ Mise en garde : Le piège du mauvais modèle
Utiliser des modèles d'embedding différents pour indexer vos documents et pour encoder la question de l'utilisateur est l'erreur fatale n°1. Chaque modèle définit son propre espace mathématique. Mélanger les modèles, c'est comme essayer de faire communiquer un GPS français et un GPS martien : les vecteurs seront incompatibles et la recherche sera une catastrophe.
La Similarité Cosinus : Mesurer l'amour entre les textes
Pour retrouver la bonne info, le système calcule la similarité cosinus
Il mesure l'angle formé par deux flèches (vecteurs) partant du centre de l'espace. Un angle proche de 1 signifie une forte similarité. Proche de 0 ? Aucun rapport. Proche de -1 ? Ce sont des opposés. On utilise l'angle et non la distance brute, car la longueur du vecteur n'a aucune importance, seul le "sens" du texte compte. On récupère ainsi les 3 ou 5 meilleurs résultats (via la méthode KNN, le "k plus proche voisin").
Du RAG Vanille au RAG Moderne : Corriger les défauts de fabrication
Le RAG vanille, c'est bien pour un prototype. En production, c'est un cauchemar. L'IA récupère souvent de mauvais documents, interprète mal votre question ou hallucine joyeusement. Voici comment les ingénieurs transforment cette tirelire fragile en un rouleau compresseur fiable.
Optimisation des requêtes : Quand l'IA se parle à elle-même
Le premier problème, c'est vous. Oui, vos questions sont souvent vagues ou ambiguës. La solution ?
La Query Translation. On demande au LLM de réécrire votre question sous plusieurs angles avant de lancer la recherche (le Multiquery). La technique reine s'appelle le HyDE (Hypothetical Document Embedding). Le LLM génère une réponse totalement inventée à votre question.
Étrange, non ? En réalité, cette réponse hypothétique possède le vocabulaire et la forme des documents que l'on cherche. On l'utilise donc comme clé de recherche. Résultat : la précision de la similarité cosinus explose.
Le Reranking : Le tri sélectif des champions
La similarité cosinus est rapide, mais elle agit à l'aveugle. Elle ne lit pas vraiment la paire question/document, elle compare juste des coordonnées GPS.
On utilise donc un Cross Encoder pour le Reranking. Ce modèle lit simultanément la question et chaque document candidat, mot par mot, pour établir un score de pertinence précis. Comme il est très lent, on procède en deux temps : un premier tri rapide par similarité cosinus pour garder 50 candidats, puis le Reranking pour ne garder que les 5 pépites ultimes.
L'Adaptive RAG : L'autocorrection en temps réel
Les systèmes modernes (Self RAG, Corrective RAG) intègrent des boucles de vérification. Si le système voit que les documents récupérés sont inutiles, il va reformuler la question ou chercher sur le web. S'il génère une réponse, il vérifie si celle-ci est vraiment ancrée dans les documents. En cas d'hallucination détectée, il déclenche une régénération. C'est l'étape indispensable pour quitter le stade du "gadget" et entrer dans le monde industriel.
En résumé
Le RAG repose sur trois piliers : l'indexation de vos documents en vecteurs, la récupération des bons segments par similarité mathématique, et la génération d'une réponse contextualisée.
Mais attention au RAG vanille trop simpliste ! Les architectures modernes imposent des reformulations intelligentes (HyDE), un réordonnancement rigoureux (Cross Encoder) et une autovérification constante pour ne plus jamais laisser votre IA divaguer seule dans la nature.
📋 Liste des termes techniques expliqués
➤ LLM : Modèle de langage prédictif anticipant le mot suivant.
➤ RAG : Technique permettant à un LLM d'exploiter des données privées non apprises pendant son entraînement.
➤ Indexation : Transformation d'un grand corpus de documents en base de données interrogeable.
➤ Chunking : Découpage des documents en segments de taille optimisée (entre 500 et 1000 mots).
➤ Overlap : Chevauchement de texte entre deux segments pour ne pas perdre une idée située à la frontière.
➤ Embedding : Liste de chiffres (vecteur) capturant le sens sémantique d'un texte.
➤ Base de données vectorielle : Stockage spécialisé pour retrouver rapidement des vecteurs proches.
➤ Similarité Cosinus : Mesure de l'angle entre deux vecteurs pour évaluer leur proximité sémantique (1 = identique, 0 = sans rapport).
➤ KNN (K-Nearest Neighbors) : Méthode d'extraction des "K" vecteurs les plus proches de la question.
➤ RAG Vanille : Implémentation basique du RAG en 6 étapes, souvent instable en production.
➤ Query Translation / Multiquery : Reformulation de la question de l'utilisateur sous plusieurs angles.
➤ HyDE : Génération d'un document de réponse hypothétique pour servir de clé de recherche plus efficace.
➤ Reranking / Cross Encoder : Modèle lent mais précis analysant mot à mot la paire question/document pour un tri ultime.
➤ Adaptive RAG : Système doté de boucles d'autocorrection vérifiant la pertinence des documents et l'absence d'hallucination.
Jeu de briques
Snake
Pacman
Bubble