Qu’est-ce que la génération augmentée par récupération (RAG) ?

La génération augmentée par récupération, ou RAG pour retrieval-augmented generation, permet à une application d’IA générative de s’appuyer sur des informations recherchées dans des sources externes. Avant de rédiger une réponse, l’application sélectionne des documents pertinents et transmet les passages utiles au modèle de langage.

Pour une organisation, l’intérêt est de mobiliser des contenus comme des manuels, des procédures ou des articles d’assistance sans réentraîner le modèle à chaque modification. La réponse peut être accompagnée de références consultables. Cela ne signifie pas pour autant qu’elle est toujours exacte, à jour ou accessible uniquement aux bonnes personnes.

Comment fonctionne le RAG ?

Le travail de recherche à l’origine du RAG associait un modèle de langage à des connaissances récupérées. Les architectures actuelles sont diverses, mais un parcours documentaire comprend généralement quatre étapes :

1. Préparer les contenus. L’équipe choisit les sources autorisées, extrait leur contenu et découpe les documents longs en passages. Elle conserve des informations utiles, notamment la source, la version et les droits d’accès.
2. Créer un index de recherche. Les passages deviennent interrogeables. Certaines solutions utilisent des représentations numériques, ou embeddings, pour rapprocher une question de passages similaires par leur sens.
3. Retrouver les éléments utiles. À chaque question, l’application recherche les passages pertinents auxquels la personne a droit. Elle peut utiliser les mots-clés, la recherche vectorielle ou combiner les deux.
4. Formuler la réponse. La question et les passages sélectionnés sont transmis au modèle, qui produit une réponse. L’interface peut aussi afficher des liens vers les documents d’origine.

Prenons un exemple fictif : une personne demande comment transmettre un incident client à l’équipe compétente. L’assistant peut retrouver les sections pertinentes d’un manuel de support approuvé, puis en présenter une synthèse avec ses références. Il faut néanmoins vérifier que les passages retrouvés couvrent bien la situation.

Le guide de conception RAG de Microsoft détaille les choix de découpage, de recherche et d’évaluation. Une base vectorielle est une option technique possible, mais elle n’est pas indispensable à toute solution RAG.

Dans quels cas envisager le RAG ?

Le RAG mérite d’être étudié lorsque les utilisateurs consultent régulièrement un volume important de contenus susceptibles d’évoluer : documentation produit, base de connaissances interne ou guides techniques, par exemple.

Il n’est pas nécessairement le meilleur choix pour un document court et stable, pour un calcul exact ou pour interroger des données structurées. Une recherche classique, des règles métier ou une requête directe dans une base de données peuvent répondre plus simplement au besoin. Si les documents sont obsolètes ou contradictoires, leur qualité doit d’abord être traitée.

Quelle différence avec le fine-tuning ?

Le RAG apporte des informations externes au moment de la réponse ; il ne modifie généralement pas les paramètres entraînés du modèle. Le fine-tuning, ou ajustement fin, consiste à poursuivre l’entraînement pour adapter le comportement du modèle, par exemple son style de sortie. Les deux techniques peuvent coexister, mais l’ajustement fin ne remplace pas une source tenue à jour pour les faits qui changent.

Quelles limites et précautions prévoir ?

• Pertinence et exactitude : la recherche peut manquer une exception ou sélectionner un mauvais passage. Le modèle peut aussi mal interpréter les documents ou produire une citation qui ne justifie pas son affirmation.
• Actualisation : une réponse dépend de la version présente dans l’index. Définissez qui valide les contenus, à quelle fréquence ils sont actualisés et comment les versions retirées sont supprimées.
• Confidentialité : appliquez les droits d’accès aux passages au moment de la recherche et vérifiez qu’aucun utilisateur ne reçoit de contenu non autorisé. Examinez aussi les lieux de stockage et de traitement des documents, requêtes et journaux.
• Injection de prompt : un document récupéré peut contenir des instructions malveillantes destinées à détourner l’assistant. Considérez son contenu comme une donnée non fiable, limitez les privilèges de l’application et testez les protections : aucun filtre ne suffit à lui seul.

La fiche de sécurité RAG de l’OWASP présente des mesures couvrant l’ensemble du parcours. Pour les décisions à fort enjeu, prévoyez une validation humaine : le profil du NIST consacré aux risques de l’IA générative rappelle notamment le risque de contenus faux présentés avec assurance.

Comment évaluer un projet RAG ?

Commencez par un usage précis, un groupe d’utilisateurs identifié et un périmètre documentaire limité. Avant d’élargir le projet, comparez le dispositif au fonctionnement existant :

• Préparez des questions représentatives. Incluez des demandes fréquentes, ambiguës ou sans réponse, dans les langues réellement utilisées. Faites documenter les réponses et sources attendues par des spécialistes du domaine.
• Évaluez séparément recherche et génération. Vérifiez que les bons passages autorisés sont retrouvés, que la réponse est étayée et que les références correspondent aux affirmations. Testez aussi la réaction lorsque les sources ne permettent pas de répondre.
• Testez l’exploitation et la sécurité. Examinez les changements de droits, les mises à jour documentaires, les contenus malveillants et les délais de réponse. Attribuez la surveillance des incidents et la maintenance de l’index.
• Comparez coûts et bénéfices. Intégrez la préparation documentaire, l’indexation, la recherche, les appels au modèle, l’hébergement, les tests et le support. Mesurez des résultats utiles, comme le temps nécessaire pour trouver une information et la part de réponses à corriger.

Fixez les seuils d’acceptation avant le pilote, en fonction des risques. Une démonstration convaincante ne prouve pas que le système sera aussi performant pour tous les documents, toutes les langues ou tous les profils d’utilisateurs.

Choisir un mode de réalisation et des partenaires

Une solution gérée peut simplifier certaines étapes de préparation, de recherche et d’accès au modèle ; une architecture plus personnalisée peut offrir d’autres possibilités de contrôle et d’intégration. Comparez les options selon la localisation des données, les droits d’accès, les coûts d’exploitation, les délais et les compétences nécessaires à la maintenance. Un accord de réalisation devrait préciser la responsabilité des contenus, des tests, de la gestion des incidents et du transfert du projet.

Les services de développement logiciel, de conseil technologique et d’automatisation par IA d’Altweeb constituent un point de départ pour examiner ces choix. Avant de retenir une architecture, la discussion doit clarifier le besoin métier, les données disponibles et les responsabilités de chacun.

À retenir

Le RAG relie une réponse générée à des informations recherchées dans des sources accessibles. Son intérêt dépend avant tout de la qualité des contenus, des contrôles d’accès et d’une évaluation régulière, bien au-delà de la seule interface conversationnelle.

Pour approfondir ce sujet, découvrez aussi Faites de votre prochain projet numérique un vrai levier..