Migration de RAG de Pinecone vers Postgres pgvector : six mois plus tard
Six mois après le transfert de RAG de Pinecone vers Postgres pgvector : 9 millions de vecteurs, coûts réels, valeurs de latence et de précision, ce qui s’est détérioré, et quand pgvector est la bonne solution.
Sources: Six months of running RAG on Postgres + pgvector instead of Pinecone
Une équipe SaaS B2B a constaté que sa facture Pinecone dépassait les cinq chiffres pour le troisième mois consécutif et a finalement effectué les calculs que l’infrastructure avait évités jusqu’alors. Environ 9 millions de vecteurs étaient hébergés sur Pinecone, alors que les mêmes données étaient déjà enregistrées dans Postgres pour les métadonnées. Une deuxième base de données existait uniquement pour lire ce que la première stockait.
Cette transition a nécessité un long week-end, et ce n’était que la partie facile. Ce sont les six mois qui ont suivi qui comptent : les économies réalisées, les surprises que personne n’avait mentionnées, ainsi que les deux ou trois cas où Pinecone semble encore être le meilleur choix. Ce qui suit présente des données réelles pour ceux qui envisagent d’utiliser pgvector par rapport à une base de données vectorielle dédiée, sans aucune simulation de benchmark.
La charge de travail
Chaque client sur la plateforme dispose d’une base de connaissances privée, et le flux de travail RAG ressemble à peu près à ceci :
- Entre 8 et 12 millions de vecteurs sont actifs en permanence, répartis sur environ 400 clients.
- Les embeddings proviennent de
text-embedding-3-smalld’OpenAI, avec 1536 dimensions. - La récupération sélectionne les 12 meilleurs résultats puis les réordonne à l’aide d’un encodage croisé de Cohere.
- La recherche est hybride : BM25 associé à des vecteurs denses, fusionnés par une méthode de fusion de rangs réciproques.
- Le trafic atteint en moyenne 80 requêtes par seconde et culmine à près de 600 pendant les heures de travail aux États-Unis.
- Tout fonctionne dans une seule région AWS, sur plusieurs zones de disponibilité.
Au Pinecone, la configuration utilisée était la classe de pod p2.x2 avec une réplique et deux pods pour assurer la disponibilité. Un pod de cette classe peut stocker environ 5 millions de vecteurs, d’où l’utilisation de deux pods. Il faut ajouter le stockage des métadonnées au niveau payant, ce qui entraîne une surcharge tarifaire selon le plan Standard. La facture était raisonnable, car l’équipe a réellement utilisé ce pour quoi elle payait.
Pourquoi considérer pgvector
Trois facteurs ont motivé cette évaluation :
- Les métadonnées existaient déjà dans Postgres. Chaque vecteur contenait de 12 à 25 champs de données, tels que l’ID du locataire, l’ID du document, les règles ACL, le type de source et les timestamps. Rechercher les vecteurs puis retourner à Postgres pour appliquer les règles d’accès était lent et peu efficace.
- La complexité opérationnelle. Deux bases de données signifient deux stratégies de sauvegarde, deux systèmes de surveillance, deux ensembles de identifiants et deux composants susceptibles de tomber en panne à 3 heures du matin.
- Les coûts unitaires. Le tarif de Pinecone par pod augmente par étapes, et dépasser 10 millions de vecteurs aurait nécessité un troisième pod.
La migration en trois phases
La migration varie d’équipe en équipe, mais sa structure globale mérite d’être partagée.
Mode sombre, deux semaines. Chaque enregistrement a été écrit deux fois, vers Pinecone et vers une instance Postgres 16 utilisant pgvector, tandis que les lectures continuaient d’être traitées par Pinecone. Les scores Recall@10 et de qualité des réponses, obtenus à l’aide d’un modèle de langage artificiel agissant en tant que juge sur 800 paires de questions-réponses de vrais clients, ont été comparés ; les différences se situaient dans les limites du bruit de fond.
Trafic interne, deux semaines. Les environnements de préparation et les comptes propres à l’équipe ont été transférés. Cela a exposé pgvector à de véritables schémas de charge : des pics importants de synchronisation le matin, des requêtes clients irrégulières et des demandes atypiques de type « long tail » que l’on ne trouve qu’en production. Deux problèmes sont apparus à ce stade, et tous deux sont abordés plus loin.
Transition en production, un week-end. Les écritures ont été envoyées vers les deux systèmes pendant 48 heures en tant que mesure de sécurité, puis les lectures ont été transférées. L’ancien index Pinecone est resté en ligne pendant 30 jours en tant que solution de reprise avant d’être supprimé.
La modification du code était mineure. Ce qui a nécessité réflexion, c’était l’aspect infrastructure : dimensionner Postgres pour un travail de type vecteur, configurer PgBouncer et mettre en place un système de surveillance.
Chiffres sur six mois
Ces données proviennent de l’outil de surveillance utilisé par l’équipe.
Les dépenses liées à la base de données ont diminué d’environ 70 %, et le coût par million de vecteurs a baissé d’environ la même proportion. La tendance est plus importante que la valeur absolue. Pour une startup, une réduction réelle des coûts mensuels est préférable à un chiffre annuel impressionnant, car les coûts opérationnels mensuels déterminent la durée de fonctionnement, le rythme des embauches et la durée pendant laquelle on peut tolérer un mauvais choix technique. Un autre avantage a été la libération de ressources mentales. Aucun projet de « base de données vectorielle » n’est plus inscrit au planning. Il n’y a qu’un cluster Postgres.
Latence
Les deux systèmes utilisaient du code d’application identique, le même outil de réclassification et le même client. La latence globale de recherche, englobant la recherche vectorielle, le filtrage des métadonnées et la réclassification, a été mesurée aux valeurs p50, p95 et p99 sur une période de sept jours consécutifs au cours du sixième mois.
pgvector est légèrement plus rapide dans la partie centrale de la distribution, mais les gains réels se situent dans la partie finale. Le p99 de Pinecone variait de 190 ms à 480 ms d’une semaine à l’autre, en raison du rééquilibrage des pods et de la compression qui s’exécutent en arrière-plan. Le p99 de pgvector reste stable, ce qui correspond exactement au comportement attendu d’une base de données.
Deux réserves s’imposent :
- L’index est de type HNSW avec
ef_construction=128etm=16, et il est créé pour chaque utilisateur. Cette stratégie par utilisateur est essentielle au fonctionnement du modèle ACL. - Postgres s’exécute près des serveurs d’application, tandis que Pinecone nécessitait une appel réseau inter-région. Dans la même région, l’écart se réduirait.
Rappel et qualité
Cette partie a suscité le plus d’inquiétude, et les chiffres affichés ici inspirent le plus confiance, car les évaluations se déroulent en permanence.
Le taux de rappel a diminué de 0,5 point de pourcentage, ce qui reste dans les marges d’erreur. Cela n’a jamais affecté la qualité perçue par les utilisateurs, et les scores obtenus avec le LLM en tant que juge ne peuvent pas être distingués statistiquement. Un écart plus important était attendu.
Un seul changement a eu l’importance maximale : définir hnsw.ef_search=200 au moment de la requête plutôt que la valeur par défaut de 40. S’il existe un détail de réglage à conserver, c’est bien celui-ci, car la valeur par défaut de Postgres privilégie la vitesse d’indexation par rapport à la qualité des résultats.
Fiableté
- Pinecone, au cours des six mois précédant le transfert : deux incidents de dégradation des performances avec des pods bloqués lors de l’échellement, un événement de latence à l’échelle d’une région, sans perte de données. Sa fiabilité a été bonne.
- pgvector, au cours du semestre suivant : rien lié à la recherche vectorielle. Postgres a connu deux incidents, sans rapport entre eux : épuisement du pool dû à un déploiement défectueux, et une augmentation soudaine du retard des répliques. Rester sur Pinecone n’aurait rien changé à cela.
Ce qui s’est amélioré
« Postgres est génial » ne dit rien, voici donc des détails concrets.
- Une seule requête pour le filtrage. Le filtrage par
tenant_iddans Pinecone repose sur un filtre de métadonnées côté serveur. Toute opération allant au-delà d’un simple test d’égalité rencontre la limite des 40 KB de métadonnées ou un délai d’expiration de la requête. Dans Postgres, il s’agit d’une clauseWHEREque Postgres gère parfaitement. Une partie du code d’application destinée uniquement au pré-filtrage a été supprimée. - ACID pour les données. Il existait auparavant une fenêtre de cohérence souple permettant à un document supprimé dans Postgres de rester recherchable dans Pinecone pendant jusqu’à cinq minutes. Désormais, c’est une seule transaction : écrire le document, écrire l’embedding, mettre à jour l’index, valider. C’est simple, mais efficace.
psycopg, les nouveaux ingénieurs apprennent une seule base de données et non deux.Ce qui s’est aggravé
La migration n’a pas été gratuite. Les vrais coûts :
- Les requêtes filtrées à faible sélectivité sont plus lentes. La conception des pods de Pinecone est réellement optimisée pour les scans vectoriels par force brute combinés à des filtres de métadonnées. Pour un scénario comme « rechercher 10 millions de vecteurs et en retourner 5 000 », typique des charges de travail de recommandation, pgvector n’est pas l’outil adapté. Cette équipe utilise des méthodes de recherche et de réclassification, ce qui explique pourquoi cela fonctionne. Un système de recommandation connaîtrait plutôt une dégradation des performances.
- Aucune multi-tenancy native au niveau de l’index. Les noms d’espace de Pinecone imposaient des limites strictes entre les utilisateurs. Avec pgvector, cette contrainte est appliquée dans le code de l’application. Elle est bien présente, mais elle relève du contrat de l’équipe et non de celui de la base de données.
- Aucun hybride géré entre structures sparses et denses. Le moteur BM25 a dû être configuré manuellement, ce qui a pris une semaine. Ce n’est pas un obstacle majeur, mais Pinecone aurait pu économiser cette semaine.
ef_search, la quantification et le pooling pour un type de travail qui ne ressemble en rien à OLTP. Cette équipe disposait des compétences nécessaires ; ce n’est pas le cas de toutes.Un guide de décision
Après six mois, voici l’arbre de décision à suivre.
Préférez pgvector lorsque :
- Postgres est déjà en usage, ou un système compatible comme Aurora.
- La quantité de vecteurs en production est inférieure à 20 millions, ce qui représente actuellement le seuil idéal.
- Le travail consiste en RAG ou en recherche avec réclassement, et non en recommandations de type top-k.
- Il existe une équipe Postgres capable de gérer l’optimisation des vecteurs.
- Les filtres de métadonnées complexes posent des difficultés dans la base de données vectorielle actuelle.
Restez avec une base de données vectorielle dédiée lorsque :
- Le volume dépasse 30 à 50 millions de vecteurs et augmente rapidement.
- Le travail consiste en recommandations, avec un haut nombre de résultats (k élevé) et une faible précision de recherche.
- Un système hybride à la fois spars et dense est nécessaire, et sa création n’est pas souhaitée.
- Il n’existe pas de pratique éprouvée pour les opérations Postgres.
Suivez la voie de cette équipe lorsque :
- La première liste correspond, mais le coût de Pinecone vous inquiète.
Que faire ensuite
La question qui reste en suspens est de savoir ce qui se passe avec 50 millions de vecteurs. Y parvenir signifie soit ajuster la quantification dans pgvector, soit examiner sérieusement Qdrant et LanceDB. Postgres ajoute rapidement de nouvelles fonctionnalités vectorielles, comme HNSW basé sur le disque, une meilleure quantification et des temps de construction plus rapides, de sorte que l’écart pourrait se réduire encore davantage d’ici là.
Les analyses post-mortem publiques à ce niveau de détail sont rares, et toute personne ayant effectué une migration similaire avec des chiffres différents, meilleurs, pires ou simplement étranges, apporterait de la valeur en les publiant.
Lectures complémentaires
- Recherche hybride dans Postgres pour un assistant de santé : schéma, segmentation en blocs, RRF et évaluation — Construction de la couche de récupération d’un assistant de santé dans Postgres : segmentation en blocs tenant compte de la structure, recherche hybride avec pgvector et RRF, quantification binaire, seuils et évaluation.
- Pourquoi RAG échoue avec des documents réels : segmentation en blocs, recherche hybride, réclassement et évaluation — Modèles de base pour un pipeline RAG en production : conception en deux phases, choix de la segmentation en blocs, embeddings et stockages de vecteurs, recherche hybride, réclassement et évaluation de la récupération.