Une mémoire que le modèle ne porte pas
Un grand modèle de langage ne conserve aucun état d'une requête à l'autre : il lit un contexte, produit une réponse, puis oublie tout. Toute mémoire d'agent se situe donc à l'extérieur, dans des systèmes qui persistent l'information et la restituent au bon moment. La base vectorielle est l'un de ces systèmes. Elle ne remplace pas le raisonnement du modèle, elle l'alimente : elle retrouve les passages utiles pour qu'il puisse s'appuyer dessus. Cette séparation des rôles est structurante — le modèle pense, la mémoire rappelle — et c'est précisément ce qui rend l'ensemble contrôlable et révisable sans réentraîner le moteur. Un agent sans mémoire externe recommence à zéro, ce qui le rend inutilisable dès que la tâche dépasse un échange unique.
Cette architecture répond à une limite concrète : la fenêtre de contexte, même vaste, ne peut pas contenir tout ce qu'une organisation sait. Y empiler des documents produit un contexte saturé où le signal se dilue. La base vectorielle contourne le problème en ne chargeant que les extraits pertinents pour la question posée. Elle agit comme un index vivant, indépendant du modèle et donc remplaçable. On peut changer de moteur de génération sans reconstruire la mémoire, et changer de mémoire sans toucher au modèle. Cette interchangeabilité n'est pas un détail technique : elle protège contre la dépendance à un fournisseur unique. La mémoire devient ainsi un composant que l'on peut auditer, sauvegarder et faire évoluer séparément.
Ce que contient réellement une base vectorielle
Une base vectorielle ne stocke pas du texte, mais des représentations numériques de son sens. Chaque fragment de document est transformé en un vecteur par un modèle d'encodage : deux passages proches par le sens donnent des vecteurs proches dans l'espace. La recherche ne s'effectue plus par mots-clés mais par proximité sémantique, ce qui permet de retrouver un contenu exprimé différemment. Un extrait parlant de rupture de contrat peut être retrouvé à partir d'une question sur la fin d'un accord, même sans terme commun. Cette capacité à rapprocher des formulations distinctes constitue l'apport principal du procédé. La qualité de cette représentation dépend entièrement du modèle d'encodage employé et de la langue des documents.
Le schéma d'encodage mérite une attention particulière. C'est le modèle d'embedding qui décide de ce que la base considère comme proche, et un mauvais choix rapproche des textes qui n'ont rien à voir. Deux passages peuvent partager des mots sans traiter du même sujet, ou traiter du même sujet avec des mots opposés. Le vecteur ne restitue qu'une géométrie du sens, forcément approximative. Il faut donc voir la base vectorielle comme un outil de recherche imparfait mais efficace, à compléter par d'autres critères : filtres par date, par source, par statut. La seule similarité ne suffit pas à garantir la pertinence. Un vecteur ne dit pas si l'information qu'il porte est vraie, seulement qu'elle ressemble à la question posée.
Quand la similarité ne suffit plus
La recherche par similarité a un défaut connu : elle rapproche ce qui se ressemble, y compris quand ce n'est pas ce qu'il faut. Une question sur la politique de remboursement en vigueur peut ramener dix passages sur des remboursements d'années différentes, tous très proches par le sens mais dépassés. La base ne sait pas, à elle seule, distinguer l'actuel du périmé. D'où l'importance d'une couche de filtrage qui précise la recherche par des critères explicites : date, version, source, statut du document. Ces métadonnées orientent la récupération là où le vecteur seul reste aveugle au contexte d'usage. Sans cette couche de filtrage, le système ressort volontiers la version la plus proche du sens plutôt que la plus actuelle.
Une autre faiblesse tient au découpage des documents. Si les fragments sont coupés au milieu d'une idée, le système peut récupérer une phrase isolée, sortie de son raisonnement, et induire le modèle en erreur. Un bon découpage respecte les unités de sens : la section, le paragraphe complet, l'argument entier. Il faut aussi conserver, à côté de chaque fragment, le lien vers le document d'origine, pour que l'utilisateur puisse vérifier ce qu'il lit. La base vectorielle ne travaille bien que sur un corpus préparé. L'essentiel du résultat se joue là, dans le rangement des documents, bien plus que dans l'algorithme de recherche. Rien ne remplace ce travail de préparation, aucune amélioration du moteur de recherche ne le compense.
Réviser la mémoire sans la reconstruire
Une base vectorielle se périme. Les documents changent, les versions se succèdent, des informations provisoires deviennent caduques ou sont contredites. Une mémoire que l'on remplit une fois pour toutes diffuse d'anciennes erreurs avec l'autorité d'une source à jour. Il faut donc entretenir le corpus : dater les pièces, retirer les versions obsolètes, marquer ce qui est provisoire. Cet entretien prolonge le travail d'indexation, il ne le remplace pas. Une base vectorielle vivante se reconnaît à la fraîcheur de son contenu, rarement au volume qu'elle occupe. Dépassée, elle devient une source de contre-vérités d'autant plus difficiles à repérer qu'elles paraissent documentées.
La mise à jour est facilitée par la séparation entre mémoire et modèle. Corriger un document prend quelques minutes : il suffit de réindexer le fragment modifié, sans réentraîner quoi que ce soit. Cette souplesse invite à traiter la mémoire comme un fonds documentaire en mouvement plutôt que comme un actif figé. Elle impose en contrepartie une discipline. Sans révision régulière, la base se dégrade sans que personne ne s'en aperçoive, et l'agent finit par répondre à partir d'un monde qui n'existe plus. La qualité d'un agent tient, au bout du compte, à la tenue à jour de ce qu'on lui donne à lire. Tenir une mémoire à jour est un travail peu visible, mais c'est lui qui fait la différence à l'usage.
Aller plus loin
Construire la mémoire externe d'un agent suppose de comprendre ce qu'une base vectorielle stocke, ce qu'elle ignore et comment la tenir à jour. Notre catalogue des 31 formations comprend des parcours consacrés à l'ingénierie de la mémoire artificielle et aux architectures d'agents.
Vous voulez maîtriser ce sujet en pratique ?
Cabinet MARA forme en ligne, sur des cas réels, avec des modules courts et un suivi de progression.
Voir la formation liée Les 31 formations