Système RAG : une IA privée sur les documents de votre entreprise.
Nous installons sur vos serveurs un assistant qui répond aux questions de votre équipe à partir de vos manuels, contrats ou tickets, et qui cite la page d'où vient chaque réponse. Nous utilisons Docling pour bien lire les PDF, tableaux et colonnes compris, et aucun document ne quitte votre réseau.
Qu'est-ce que le RAG
Le RAG, pour retrieval augmented generation ou génération augmentée par récupération, est une façon d'utiliser un modèle de langage dans laquelle le système, avant de répondre, cherche dans vos documents les passages liés à la question et les transmet au modèle. Le modèle rédige avec ce texte sous les yeux au lieu de s'appuyer sur ce qu'il a appris pendant son entraînement, et c'est pour cela qu'il peut citer d'où vient chaque information. Inutile non plus de le réentraîner : quand un document change, il suffit de l'indexer à nouveau.
Un assistant répond aussi bien qu'il lit vos documents.
Quand un PDF est converti en texte brut, les tableaux perdent leurs colonnes, les titres se mêlent au corps du texte et un chiffre finit rattaché à la mauvaise ligne. Le modèle ne s'en aperçoit pas et répond avec assurance sur une donnée qui lui est arrivée déjà cassée.
Docling reconnaît la structure de chaque page (titres, tableaux, listes, figures et ordre de lecture) et la convertit en Markdown ou en JSON qui la conserve. Chaque fragment enregistré a ainsi du sens à lui seul, et la réponse peut indiquer d'où elle vient.
Ce que fait Docling
Il lit les PDF, Word, PowerPoint, Excel, HTML et les images numérisées, et produit un document structuré prêt à être découpé et indexé avec LlamaIndex ou LangChain. Il est open source, sous licence MIT, et une fois ses modèles téléchargés il fonctionne hors ligne : vos documents ne quittent pas vos machines.
À quoi les équipes l'utilisent
Chaque service interroge ses propres documents et chaque personne ne reçoit que des réponses tirées de ce qu'elle pouvait déjà ouvrir.
Support technique Quel code d'erreur affiche l'appareil quand le capteur de pression tombe en panne ?
Il répond avec le manuel du fabricant, la page exacte et les tickets où un problème semblable a déjà été résolu.
Ressources humaines Combien de jours de congé a-t-on pour un déménagement ?
Il répond avec la convention collective et les règles internes, sans que personne ait à fouiller l'intranet.
Juridique et achats Ce fournisseur a-t-il une pénalité de retard de livraison ?
Il cherche dans son contrat et cite la clause.
Ingénierie et qualité Quelle tolérance la spécification exige-t-elle pour cette pièce ?
Il répond avec la version en vigueur du document et non une ancienne, car chacun est indexé avec sa version.
Exemple pas à pas : une question sur un contrat
Quelqu'un des achats demande : « Quel préavis faut-il respecter pour résilier la maintenance de la climatisation ? »
La question est comparée aux fragments de tous les contrats indexés et les plus proches remontent.
base vectorielleUn second modèle les réordonne et retient la clause de durée et de renouvellement du contrat de climatisation.
reclassementLe modèle de langage répond uniquement à partir de ce texte : trente jours calendaires avant l'échéance, par écrit.
modèle localLa réponse renvoie au PDF et à la page de la clause. Si aucun fragment ne correspond, il le dit au lieu d'inventer.
source
Comment nous le mettons en place
Lecture avec Docling Nous récupérons les documents là où ils se trouvent, dossiers partagés, intranet ou gestion électronique de documents, et nous les traitons avec Docling dès qu'un nouveau arrive ou qu'un existant change.
Une base vectorielle avec les droits Les fragments sont enregistrés dans Milvus, Qdrant ou pgvector si vous utilisez déjà PostgreSQL, avec les droits du document d'origine, pour que personne ne reçoive une réponse tirée d'un document qu'il ne pourrait pas ouvrir.
Le modèle, sur vos serveurs Nous servons un modèle ouvert avec vLLM ou Ollama sur vos machines, comme pour l'inférence d'IA sur vos serveurs, et ni les questions ni les documents ne passent par des services externes.
Mesurer la qualité des réponses Avec votre équipe, nous préparons un jeu de questions avec leur bonne réponse et nous le relançons à chaque changement de documents, de découpage ou de modèle, pour savoir si le système progresse ou régresse.
Formation pour votre équipe
Si vous voulez que votre équipe maintienne le système ou monte les suivants, la formation LangChain : RAG et agents en local (2 jours) travaille avec Docling, et LLM en local et infrastructure GPU (3 jours) couvre la mise à disposition du modèle.
Questions fréquentes
Quelle différence avec ChatGPT ou Copilot ?
ChatGPT et Copilot répondent depuis le cloud de leur éditeur et, pour qu'ils utilisent vos documents, il faut les y envoyer ou les connecter à leur service. Ici, le modèle, la base vectorielle et les documents sont sur vos serveurs, vous choisissez le modèle et vous décidez de ce que voit chaque personne.
Peut-on le connecter à SharePoint ou à notre GED ?
Oui. Nous lisons depuis SharePoint, des dossiers réseau ou votre gestion électronique de documents via son API, et nous conservons les droits que les documents y ont déjà.
Et les documents numérisés ?
Docling applique l'OCR aux pages qui sont des images. Cela fonctionne bien avec des numérisations propres ; avec des photocopies de travers ou de l'écriture manuscrite, mieux vaut tester d'abord un échantillon, et c'est la première chose que nous vérifions.
Faut-il un GPU ?
Docling peut tourner uniquement sur CPU, même si avec des milliers de documents un GPU l'accélère beaucoup. Le modèle qui rédige les réponses, lui, en a besoin dès que plusieurs personnes l'utilisent en même temps.
Par où commencer ?
Par un essai sur une partie de vos documents et quelques vraies questions de votre équipe. On voit ainsi comment Docling les lit, combien de réponses sont justes et quelle machine il faudrait pour l'ensemble des archives.
Quels documents votre équipe consulte-t-elle le plus ?
Dites-nous de quels documents il s'agit, dans quel format et où ils sont stockés. Nous vous proposerons un essai sur une partie d'entre eux avec quelques vraies questions.
Le matériel pour votre RAG
Des serveurs GPU pour faire tourner le modèle et la base vectorielle dans votre datacenter, livrés avec la pile RAG installée.
SYS-212GB-FNR-01-G22x RTX PRO 6000 · 512 Go
SYS-422GA-NRT-01-G24x RTX PRO 6000 · 1 To
AS-5126GS-TNRT-01-G22x RTX PRO 6000 · 1,5 To
