La génération augmentée par récupération (RAG)
Aller chercher des passages avant de répondre.
RAG signifie retrieval-augmented generation, « génération augmentée par récupération ». Le terme est introduit dans l'article de Lewis et de ses collègues (2020). L'idée : avant de répondre, le système va chercher dans une collection de documents les passages les plus pertinents, et les donne au modèle avec la question.
Les étapes habituelles
- Découper les documents en passages (le découpage).
- Représenter chaque passage par une suite de nombres, un plongement (les plongements). L'idée de représenter des mots par des vecteurs dont la proximité reflète le sens est popularisée par Mikolov et al. (2013).
- Indexer ces représentations (bases vectorielles).
- Retrouver les passages les plus proches de la question.
- Fournir ces passages au modèle, qui rédige la réponse.
Ce que ça apporte
- Le modèle peut s'appuyer sur des documents plus récents ou plus spécialisés que son entraînement.
- On peut montrer à l'utilisateur les passages utilisés, donc citer ses sources.
Ce que ça ne garantit pas
- Si la recherche ramène les mauvais passages, la réponse sera mauvaise.
- Le modèle peut ignorer les passages fournis ou y ajouter des affirmations non fondées. Un système RAG ne supprime pas ce risque : il est à vérifier, voir évaluer un système RAG.
Branches
- Le découpage en passages À déplier
Comment couper les documents avant de les indexer.
- Les plongements (embeddings) À déplier
Représenter un texte par une suite de nombres.
- Le reclassement À déplier
Trier les passages trouvés avant de les donner au modèle.
- Évaluer un système RAG À déplier
Mesurer ce qu'il retrouve et ce qu'il invente.
À relier
Sources
- Lewis, P. et al., « Retrieval-augmented generation for knowledge-intensive NLP tasks », Advances in Neural Information Processing Systems 33, 2020 (arXiv:2005.11401).
- Mikolov, T. et al., « Efficient estimation of word representations in vector space », arXiv:1301.3781, 2013.
Prompt pour votre IA
Copiez ce prompt dans l'IA de votre choix : il contient la page et lui demande de la vérifier, d'indiquer ses sources et de signaler les erreurs.
Avant de l'utiliser : Une réponse d'IA n'est pas une preuve : vérifiez toujours les sources vous-même. Ne collez rien de personnel ni de sensible (identité, santé, mots de passe, données de clients ou de tiers). Vous restez responsable de ce que vous faites des réponses. Avant d'utiliser nos prompts.
Pour une IA qui tourne sur votre ordinateur : Votre assistant local. Version Markdown de cette page : index.md.
Citer cette page
« La génération augmentée par récupération (RAG) », Sébastien Vidotto (Heteractis), https://www.apatie.fr/informatique/agents-ia/rag/, licence CC BY-SA 4.0 (https://creativecommons.org/licenses/by-sa/4.0/deed.fr). Modifications : aucune.