Chatbot RAGAgents IAIA en entrepriseRGPDDevis

Chatbot RAG en entreprise : fonctionnement, prix et pièges

Ce qu'un chatbot RAG fait vraiment, quand il vaut mieux qu'un ChatGPT d'entreprise, ce qu'il coûte et les questions à poser avant de lancer le projet.

16 novembre 2026
Chatbot RAG en entreprise : fonctionnement, prix et pièges

En bref

  • 1Un chatbot RAG retrouve d'abord les passages utiles dans vos documents, puis rédige sa réponse à partir d'eux et cite ses sources : il répond sur vos contenus, pas de mémoire.
  • 2La qualité des réponses dépend surtout de la préparation des documents, des droits d'accès et d'un jeu de questions de référence, bien plus que du choix du modèle.
  • 3Le budget se compose du développement, des coûts d'usage du modèle et de l'hébergement. Chez KODY, une première version démarre à 5 000 € HT, conception comprise.

Un chatbot RAG est un assistant qui répond à partir de vos documents : procédures, fiches produits, notices, contrats types, historique du support. Il retrouve d'abord les passages utiles, puis un modèle d'IA rédige la réponse à partir de ces passages et cite ses sources. C'est ce qui le distingue d'un ChatGPT générique, qui répond de mémoire. Ce guide explique quand ce type d'assistant vaut l'investissement, ce qui fait la qualité de ses réponses, ce qu'il coûte et les questions à poser avant de lancer le projet.

Comment fonctionne un chatbot RAG ?

RAG signifie Retrieval-Augmented Generation, en français génération augmentée par la recherche. Le principe tient en deux temps.

  1. Préparation, une fois puis à chaque mise à jour. Les documents sont découpés en passages, chaque passage est converti en vecteur (un embedding, une représentation numérique de son sens) et rangé dans un index.
  2. À chaque question. La question est convertie de la même façon, l'index renvoie les passages les plus proches, et le modèle d'IA rédige la réponse en s'appuyant uniquement sur ces passages.

Le modèle n'apprend rien de vos documents : il les lit au moment de répondre. Ajouter une procédure ou retirer une notice obsolète suffit donc à mettre l'assistant à jour, sans réentraînement.

Quand un chatbot RAG est-il utile ?

Il est rentable quand la même information est cherchée souvent, par beaucoup de personnes, dans une documentation trop volumineuse pour être connue par cœur. Les cas les plus courants :

  • Service client : répondre aux questions récurrentes sur un produit, une commande ou un contrat, et passer la main à un humain pour le reste.
  • Support interne : procédures qualité, règles RH, documentation technique, consignes de sécurité, accessibles en langage naturel.
  • Aide intégrée à un logiciel : l'utilisateur pose sa question dans l'application plutôt que de chercher dans la documentation.
  • Équipes commerciales : retrouver vite une fiche technique, une référence ou une clause d'un contrat type.

À l'inverse, si vos questions portent sur des données qui changent à chaque minute (stocks, statut d'une commande), il faut connecter l'assistant à vos outils par API ou via un serveur MCP, pas seulement indexer des documents. Et si l'assistant doit agir (créer un ticket, préparer un devis), on parle plutôt d'un assistant IA interne.

Chatbot RAG, ChatGPT d'entreprise ou modèle entraîné ?

Les trois options répondent à des besoins différents :

OptionPour quoiLimites
ChatGPT, Copilot ou Claude en offre entreprise, avec vos fichiersUsage individuel, peu de documents, besoin immédiatPas de contrôle fin des droits d'accès, difficile à intégrer à votre site ou à vos outils, dépendance à un éditeur
Chatbot RAG sur mesureGrande base documentaire, accès par profil, intégration au site, à l'application ou aux outils internesDemande un projet : préparation des documents, développement, suivi de la qualité
Modèle entraîné (fine-tuning)Imposer un style, un format ou un vocabulaire très spécifiqueCoûteux, figé à la date de l'entraînement, ne cite pas ses sources

Pour la plupart des PME, la question se pose entre les deux premières lignes. Si quelques personnes interrogent quelques dizaines de documents, une offre du marché suffit souvent : commencez par là. Le sur mesure se justifie quand l'assistant s'adresse à vos clients, quand tout le monde ne doit pas voir les mêmes documents, ou quand il doit vivre dans vos propres outils.

Ce qui fait la qualité des réponses

Le choix du modèle d'IA compte moins qu'on ne le croit. Quatre éléments font l'essentiel de la différence.

Des documents à jour et bien découpés

Un assistant qui indexe trois versions d'une même procédure répondra avec la mauvaise une fois sur trois. Avant d'indexer, il faut décider quels documents font foi, qui les met à jour et comment les anciennes versions sortent de l'index. Le découpage compte aussi : un tableau coupé au milieu ou une procédure séparée de son titre donnent des passages inutilisables.

Des droits d'accès respectés

Si un document RH ou un contrat client n'est pas visible par tout le monde dans votre entreprise, il ne doit pas l'être via l'assistant. Le filtrage doit se faire au moment de la recherche, selon le profil de la personne qui pose la question, et non en demandant au modèle de « ne pas en parler ».

Des réponses sourcées, et le droit de dire « je ne sais pas »

On contraint le modèle à répondre à partir des passages retrouvés, à citer les documents utilisés et à dire clairement quand l'information n'y figure pas. Un assistant qui avoue ne pas savoir inspire plus confiance qu'un assistant qui invente avec aplomb.

Un jeu de questions de référence

C'est l'outil le plus négligé. Une centaine de vraies questions, avec la réponse attendue et le document qui la contient, rejouées à chaque changement de modèle, de consignes ou de documents. Sans lui, impossible de savoir si une modification améliore l'assistant ou le dégrade.

Données personnelles et confidentialité

Vos documents contiennent souvent des noms, des adresses ou des informations clients. Ce n'est pas bloquant, mais cela se décide dès la conception :

  • Où tourne le modèle ? Chez un fournisseur américain, chez un fournisseur européen, ou sur votre propre infrastructure avec un modèle open source.
  • Que lui envoie-t-on ? Un modèle d'extraction d'entités exécuté localement, comme GLiNER, peut détecter et masquer les données personnelles avant tout appel à un modèle externe.
  • Qui est responsable de quoi ? Le prestataire qui héberge l'assistant traite vos données pour votre compte : un accord de sous-traitance au sens du RGPD doit préciser les mesures de sécurité, la localisation des données et les fournisseurs utilisés.
  • L'utilisateur sait-il qu'il parle à une IA ? Le règlement européen sur l'IA impose de l'en informer. Un simple message au début de la conversation suffit en général.

Enfin, pensez à la sortie : les embeddings calculés par un fournisseur ne sont pas réutilisables chez un autre. Une architecture qui isole le modèle derrière une couche d'abstraction permet d'en changer sans tout redévelopper, comme nous l'expliquons dans notre article sur une stack IA sans dépendance à un éditeur.

Combien coûte un chatbot RAG ?

Le budget se compose de trois postes :

PosteCe qu'il couvreComment il varie
DéveloppementConception, chaîne d'ingestion des documents, recherche, interface, droits d'accès, jeu de questions de référenceVolume et diversité des documents, nombre de sources, droits d'accès, canal de diffusion
Usage du modèleLe coût de chaque question envoyée au modèle d'IANombre de questions, longueur des passages transmis, modèle choisi
Hébergement et suiviIndex, serveurs, mises à jour, surveillance de la qualitéVolume indexé, disponibilité attendue, hébergement cloud ou local

Les prix publiés par les prestataires français donnent des ordres de grandeur : une preuve de concept à partir de 3 000 € environ, et de 9 000 à 28 000 € pour un assistant complet destiné à une PME. Ces chiffres viennent de prestataires qui vendent eux-mêmes ces projets ; ils servent de repère, pas de barème.

Chez KODY, une première version sur vos documents démarre à 5 000 € HT, conception comprise : un périmètre de documents réduit, une interface de chat et un jeu de questions de référence pour juger la qualité avant d'élargir. Le prix du développement est fixé à la fin de la conception et ne bouge plus ensuite. Les coûts d'usage du modèle sont estimés pendant cette conception, avant de choisir le fournisseur.

Bon à savoir : demandez toujours le coût mensuel estimé pour votre volume de questions, pas seulement le prix du développement. Un modèle plus puissant que nécessaire peut multiplier la facture d'usage sans améliorer les réponses.

Comment se déroule un projet ?

  1. Inventaire des contenus. Quels documents, dans quels formats, à quelle fréquence de mise à jour, et qui a le droit de les voir. C'est souvent l'étape qui décide de la qualité finale.
  2. Prototype sur un périmètre réduit. Un premier lot de documents indexé, confronté à de vraies questions de vos équipes ou de vos clients. On juge la pertinence avant d'élargir.
  3. Industrialisation. Ingestion automatique des nouveaux documents, gestion des droits, interface définitive, intégration à votre site ou à vos outils.
  4. Mise en production et suivi. Analyse des questions posées, des réponses jugées insuffisantes et des documents manquants ; le jeu de référence est rejoué à chaque évolution.

Les questions à poser à un prestataire

  • Comment mesurez-vous la qualité des réponses ? Sans jeu de questions de référence, la réponse est « au ressenti ».
  • Comment sont gérés les droits d'accès aux documents ? Le filtrage doit se faire à la recherche, selon l'utilisateur.
  • Où sont hébergés les documents, l'index et le modèle ? Et quels fournisseurs voient passer vos données ?
  • Que se passe-t-il si je veux changer de modèle ou de prestataire ? Qui détient le code, l'index et les documents préparés ?
  • Quel est le coût mensuel pour mon volume de questions ? Développement, usage du modèle et hébergement, séparément.
  • Comment l'assistant se met-il à jour quand un document change ? Automatiquement, ou à la main ?

Si vous ne savez pas encore quel cas d'usage traiter en premier, ou si l'IA est vraiment la bonne réponse à votre problème, un diagnostic IA permet de le décider avant d'engager un développement. Et si vous avez déjà identifié vos documents et vos utilisateurs, vous pouvez nous décrire votre projet de chatbot RAG : le premier échange est gratuit.

Questions fréquentes

Un chatbot RAG (Retrieval-Augmented Generation, ou génération augmentée par la recherche) est un assistant qui cherche d'abord les passages pertinents dans les documents d'une entreprise, puis demande à un modèle d'IA de rédiger la réponse à partir de ces seuls passages. Il répond sur les contenus de l'entreprise, peut citer ses sources et se met à jour quand de nouveaux documents sont ajoutés.

Le budget comprend trois postes : le développement, les coûts d'usage du modèle d'IA et l'hébergement. Les prix publiés par les prestataires français vont de quelques milliers d'euros pour une preuve de concept à plusieurs dizaines de milliers pour un assistant complet. Chez KODY, une première version sur vos documents démarre à 5 000 € HT, conception comprise.

Oui, le risque existe avec tout modèle de langage. On le réduit en obligeant le modèle à répondre à partir des passages retrouvés, en affichant les sources, en lui faisant dire quand l'information manque et en contrôlant la qualité avec un jeu de questions de référence rejoué à chaque modification.

Rarement. Le RAG laisse le modèle tel quel et lui fournit les bons passages au moment de la question : c'est moins cher, les mises à jour sont immédiates et chaque réponse peut citer sa source. L'entraînement (fine-tuning) sert plutôt à modifier le style ou le format des réponses qu'à transmettre des connaissances.

Articles connexes

Vous avez aimé cet article ?