Inicio / Artículos

Vector RAG vs. Keyword RAG: Cuándo usar cada uno y por qué gana el híbrido

RAG vectorial vs RAG sin vectores: embeddings frente a BM25, SQL y búsqueda en grafos, cómo funciona cada pipeline, dónde falla cada uno, y por qué gana la versión híbrida con reclasificación.

Editor: REACTAPP.TOP6 min de lectura1281 palabras

Fuentes: Vector RAG vs. Vectorless RAG — Which One Actually Knows Where It Left Its Keys?

RAG proporciona a un modelo de lenguaje un libro de referencia al que puede recurrir antes de responder. Esto es mejor que intentar incluir todo en los pesos, lo cual es costoso, hace que la información se vuelva obsoleta y genera alucinaciones. La pregunta interesante es cómo funciona esta búsqueda. Hay dos enfoques principales: la recuperación vectorial, que clasifica según la similitud semántica, y lo que se conoce como recuperación sin vectores, que se basa en búsquedas clásicas como BM25, coincidencia de palabras clave, grafos y SQL. Cualquiera de estos métodos puede ser el más eficaz, dependiendo de los datos.

Recuperación vectorial

Esto es lo que la mayoría de las personas imagina cuando escuchan “RAG moderno”. Cada fragmento de texto se convierte en un vector de alta dimensión (un embedding) y se almacena en una base de datos vectorial. Al realizar una consulta, la pregunta también se convierte en un embedding, y se devuelven los fragmentos cuyos vectores están más cercanos. La cercanía en el espacio vectorial representa la cercanía en el significado.

El proceso consta de cinco etapas:

  1. Ingesta y fragmentación. Divida los documentos en fragmentos superpuestos, por ejemplo 512 tokens con un 10% de superposición aproximado. Etiquetar los fragmentos con metadatos es opcional pero recomendable.
  2. Incrustación. Pase cada fragmento por un modelo de incrustación como text-embedding-3-large de OpenAI, Cohere Embed o BGE para obtener un vector flotante denso.
  3. Indexación. Almacene los vectores en Pinecone, Weaviate, Qdrant, pgvector o Chroma, indexados con HNSW o IVF para que la búsqueda de vecinos más cercanos aproximados siga siendo rápida.
  4. Búsqueda. Incruste la consulta, ejecute una búsqueda k-NN o ANN y seleccione los k fragmentos principales según la similitud coseno.
  5. Generación. Incluya los fragmentos recuperados en el prompt y deje que el LLM genere una respuesta fundamentada.

Una versión mínima de LangChain comienza con estas importaciones:

# Minimal Vector RAG with LangChain
from langchain.vectorstores import Chroma
from langchain.embeddings import OpenAIEmbeddings
from langchain.chains import RetrievalQA

y continúa con los embeddings, el almacén y la cadena de QA:

embeddings  = OpenAIEmbeddings(model="text-embedding-3-large")
vectorstore = Chroma.from_documents(docs, embeddings)
retriever   = vectorstore.as_retriever(search_kwargs={"k": 5})qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=retriever,
    return_source_documents=True
)
result = qa_chain.invoke("What is the refund policy?")

La ventaja aquí es la comprensión semántica. Una página de políticas puede prometer una “garantía de reembolso” mientras el usuario escribe “¿puedo obtener un reembolso?”. No hay coincidencia palabra por palabra, pero se muestra aún así el resultado adecuado. Un motor de búsqueda clásico lo pasaría por alto.

La desventaja es que la proximidad no equivale a precisión. Imagine un resultado con una puntuación de 0.94 de similitud con la consulta, pero que sigue sin dar la respuesta exacta, porque el término preciso que buscaba el usuario nunca apareció en el texto. Parece un fallo casi constante en cada consulta.

Recuperación sin vectores

“Sin vectores” es un término genérico que abarca a BM25 (clasificación probabilística de palabras clave, el motor detrás de Elasticsearch y OpenSearch), búsquedas SQL en datos estructurados, recorrido de grafos de conocimiento y métodos simbólicos híbridos. Estos han sido la base de las búsquedas empresariales durante décadas. No son llamativos, pero sí efectivos.

El flujo es el siguiente:

  1. Índice. Tokenizar los documentos y crear un índice invertido que asocie cada término con los documentos que lo contienen, utilizando una puntuación al estilo TF-IDF.
  2. Analizar la consulta. Tokenizarla y, opcionalmente, ampliarla con sinónimos, extracción de raíces o reescritura basada en modelos de lenguaje grande para mejorar la capacidad de recuperación.
  3. Clasificar. BM25 calcula las puntuaciones de los documentos en relación con los términos de la consulta y devuelve las coincidencias exactas o de alto solapamiento en orden.
  4. Opcionalmente, recorrer un grafo. Vincular entidades y luego desplazarse a través de un grafo estructurado para recopilar hechos relacionados, lo cual es útil para preguntas de múltiples pasos.
  5. Generar. Igual que antes: pasar los fragmentos recuperados al modelo de lenguaje grande.

Un ejemplo de BM25 con rank_bm25 comienza con las importaciones:

# BM25-based Vectorless RAG with rank_bm25
from rank_bm25 import BM25Okapi
import nltk

luego tokeniza el corpus, crea el índice y realiza consultas en él:

tokenized_corpus = [nltk.word_tokenize(doc.lower()) for doc in corpus]
bm25 = BM25Okapi(tokenized_corpus)query = "refund policy for subscription plans"
tokenized_q = nltk.word_tokenize(query.lower())
top_docs = bm25.get_top_n(tokenized_q, corpus, n=5)# Inject top_docs into LLM prompt context
context = "\n\n".join(top_docs)

Mientras que los vectores capturan el significado, este enfoque captura la especificidad. Si busca un ID de producto como SKU-4892-XL, un modelo de embedding lo fallará, mientras que BM25 lo encuentra en milisegundos. La documentación técnica, las cláusulas legales, los códigos de error y los identificadores financieros son su campo de acción. Imagine a un detective que pide la frase exacta “crimson ledger”: el sistema de vectores devuelve 47 documentos sobre cuadernos rojos, diarios escarlatas y una receta de mermelada de fresa, mientras que el índice BM25 devuelve un solo resultado, la página 14, párrafo 3. Para búsquedas precisas de IDs, nombres propios y códigos técnicos, BM25 supera siempre a la similitud de coseno.

Uno al lado del otro

En cuanto a la técnica fundamental, la búsqueda vectorial utiliza embeddings densos con ANN, mientras que el otro enfoque emplea BM25, palabras clave, SQL o grafos. La búsqueda vectorial maneja bien las paráfrasis y sinónimos, pero es débil con identificadores, códigos y términos poco comunes. La recuperación basada en palabras clave solo coincide con términos exactos o casi exactos, aunque su puntuación es determinista y muy precisa para coincidencias exactas.

Desde el punto de vista operativo, la configuración vectorial es más compleja: se necesitan modelos de embeddings además de infraestructura de base de datos vectorial, y todo el corpus debe ser procesado con embeddings antes de poder comenzar. La configuración clásica es más sencilla (Elasticsearch o SQLite) y puede indexar documentos existentes de inmediato. La latencia típica es de unos 50 a 200 ms para la búsqueda vectorial y de 5 a 50 ms para la búsqueda clásica. Los costos siguen la misma tendencia, con tarifas por inferencia en GPU y bases de datos vectoriales por un lado, y búsquedas adecuadas para CPU por el otro.

En cuanto a los casos de uso, los vectores son adecuados para sistemas de preguntas y respuestas de dominio abierto, búsquedas semánticas y chats. La recuperación clásica es más adecuada para documentación legal, médica, financiera y de código. El riesgo de alucinaciones es moderado con los vectores, ya que la similitud no equivale a la corrección, y es menor con la coincidencia exacta. El soporte multilingüe es sólido con los embeddings multilingües, pero se necesita un ajuste específico para cada idioma en el enfoque clásico.

Uso de ambos

La mayoría de los tutoriales omiten este paso: los sistemas en producción suelen combinarlos. La solución estándar es una recuperación híbrida con reclasificación. Ejecuta BM25 en paralelo con la búsqueda vectorial, combina las dos listas de resultados con Reciprocal Rank Fusion (RRF), pasa los N mejores resultados a un reclasificador mediante cross-encoder e introduce los fragmentos finalmente clasificados en el contexto del LLM.

Eso le brinda la amplitud de la búsqueda semántica junto con la precisión de las palabras clave. LlamaIndex, LangChain y Haystack admiten directamente la recuperación híbrida, mientras que la API Rerank de Cohere y los codificadores cruzados Sentence-Transformers son opciones comunes para la etapa de reclasificación. Al igual que un equipo de ladrones, cada método tiene su especialidad: los embeddings analizan la estructura general, BM25 identifica los códigos exactos, y el reclasificador se asegura de que el modelo vea solo los cinco mejores fragmentos.

Toma de decisiones

Tres preguntas resuelven la mayoría de los casos.

  • ¿Los usuarios formulan sus consultas en un lenguaje natural variado? Si es así, opte por vectores. Si las consultas son estructuradas, con IDs y códigos exactos, prefiera métodos clásicos.
  • ¿El corpus es no estructurado (PDFs, artículos) o estructurado (tablas, registros)? El texto prosaico se beneficia de los vectores. Las tablas y registros requieren SQL y BM25.
  • ¿Cuáles son sus límites de latencia y costo? Un presupuesto ajustado o un objetivo de latencia estricto sugiere el uso de recuperación clásica o una versión híbrida ligera. Un presupuesto mayor permite utilizar un sistema híbrido completo con reclasificación.
  • Elige los vectores para preguntas abiertas en textos no estructurados donde son importantes las semánticas, como en bots de soporte, asistentes de investigación y sistemas de preguntas y respuestas sobre grandes corpus de documentos. Opta por la recuperación clásica cuando lo importante son las coincidencias exactas (códigos de producto, números de cláusula, identificadores financieros, códigos de error, números de serie) o cuando el costo y la latencia son restricciones estrictas. En entornos de producción, utiliza ambos enfoques.

    Lo que es más importante que elegir un método es entender por qué cada uno funciona, de modo que el proceso se adapte a tus datos y a tus usuarios, y no a lo que se utilizó en el último tutorial.

    Leer más

  • Recuperación híbrida para RAG: combinación de búsquedas por palabras clave, vectores y grafos — Cómo combinar BM25, búsqueda vectorial y recuperación por grafos en RAG: fusión de rangos con RRF, donde GraphRAG ayuda, y una arquitectura de recuperar, fusionar, expandir y volver a clasificar.