Inicio / Artículos

Cuatro estrategias de memoria para agentes de IA: ventanas deslizantes, FAISS y GraphRAG

Compare las formas de proporcionar memoria a un agente LLM, desde historial completo y ventanas deslizantes hasta índices invertidos, búsqueda semántica FAISS y un grafo de conocimiento GraphRAG.

Editor: REACTAPP.TOP7 min de lectura1497 palabras

Fuentes: Building Intelligent Context Memory for AI Agents

Un agente compuesto únicamente por un LLM y algunas herramientas funciona, de cierta manera. Lo que lo hace fiable y personal es la memoria: un almacenamiento de intercambios anteriores y contexto que permite al agente responder con mayor precisión a medida que pasa el tiempo. La memoria también permite que el contexto se mantenga a lo largo de las interacciones, incluso cuando varios agentes colaboran en una tarea, de modo que el sistema recuerda lo que realmente desea el usuario.

Gracias al contexto relevante más la entrada actual, un agente puede elegir entre varias opciones: utilizar una herramienta, hacer al usuario una pregunta para aclarar algo o responder directamente. La memoria es lo que convierte a un mero respondiente reactivo en un asistente coherente.

A continuación se presentan cuatro estrategias de memoria, ordenadas de la más simple a la más avanzada: enviar toda la historia, un ventana deslizante, búsqueda de similitud en mensajes anteriores y un grafo de conocimiento.

Opción 1: enviar toda la historia

Los modelos de base actuales aceptan ventanas de contexto muy grandes. La familia GPT-5.4, por ejemplo, alcanza hasta 1,05 millones de tokens, lo suficiente para bases completas de código o conjuntos grandes de documentos. Eso hace que sea tentador adoptar un enfoque perezoso: añadir cada mensaje anterior, posiblemente de varias sesiones, a cada nueva solicitud y dejar que el mecanismo de atención se encargue de organizarlos.

messages: Annotated[List[BaseMessage], add_messages]

Es fácil de crear y adecuado para tareas de corta duración. Sin embargo, a medida que las conversaciones se alargan, surgen numerosos problemas:

  • Demasiado contexto irrelevante puede abrumar al modelo.
  • La atención es opaca, por lo que las respuestas pueden volverse inconsistentes.
  • Los ingenieros tienen dificultades para explicar por qué entradas casi idénticas generan respuestas diferentes.
  • El uso de tokens aumenta con cada turno, al igual que el costo.
  • Los contextos más grandes requieren más procesamiento, lo que eleva la latencia.

El costo y la demora por consulta aumentan de forma constante a medida que crece el historial, y en los sistemas de agentes en producción este enfoque se vuelve desperdiciador y difícil de gestionar.

Opción 2: una ventana de contexto dinámica

La alternativa limita la cantidad de interacciones recientes que se envían. Se trata de una ventana de contexto dinámica, y su tamaño puede determinarse por la cantidad de mensajes o por los tokens.

Incluir solo las interacciones N más recientes permite a los desarrolladores controlar el gasto de tokens, reducir la latencia y obtener facturas predecibles. Esto es adecuado para tareas impulsadas principalmente por turnos recientes. Sin embargo, cuando un agente necesita hechos antiguos o a largo plazo, una ventana acortada conduce a una comprensión parcial y a resultados incorrectos.

WINDOW_SIZE = 6
#Added a wrapper method for return window messages
def rolling_add_messages(old, new):
  combined = add_messages(old, new)
  return combined[-WINDOW_SIZE:]

class AgentState(TypedDict):
  messages: Annotated[List[BaseMessage], rolling_add_messages]

Opción 3: recuperación por palabras y luego por significado

Un índice invertido es una estructura de datos diseñada para búsquedas de texto completo muy rápidas. Conecta directamente las palabras o números con los lugares en los que aparecen en uno o más documentos.

Al aplicarlo al historial de chats, se indexan los mensajes anteriores para luego extraer aquellos que coinciden mejor con las palabras de una nueva consulta. El modelo recibe únicamente las partes relevantes, lo que reduce drásticamente el contexto mientras mantiene el material importante, incluso del inicio de la conversación.

La debilidad radica en la coincidencia literal. Una consulta puede utilizar palabras diferentes para expresar la misma idea, lo que excluye el contexto y genera alucinaciones; además, preguntas similares pueden obtener respuestas muy distintas. Se puede crear e interrogar un índice básico de esta manera:

def build_inverted_index(messages):
    index = defaultdict(set)

    for i, msg in enumerate(messages):
        words = msg.lower().split()
        for word in words:
            index[word].add(i)
    return index

def search_context(query, index, messages):
    query_words = query.lower().split()

    matched_ids = set()

    for word in query_words:
        if word in index:
            matched_ids.update(index[word])

    return [messages[i] for i in matched_ids]

Búsqueda semántica elimina esa debilidad al interpretar la intención y el significado, y no solo las palabras clave. Reduce las alucinaciones y hace que las respuestas sean más fiables. El proceso funciona de la siguiente manera: una oración se divide en tokens, y un modelo de embedding ligero los convierte en vectores. Cada vector de token se ajusta utilizando sus vecinos inmediatos, y luego todos los vectores de tokens se combinan en un único vector para toda la oración. Estos vectores se almacenan en una base de datos vectorial.

Una consulta pasa por la misma conversión y se compara con los vectores almacenados mediante similitud de coseno, que corresponde al coseno del ángulo entre dos vectores. Una puntuación cercana a 0.9 indica un significado muy similar, mientras que una inferior a 0.3 suele significar que no están relacionados. Las aplicaciones pueden establecer su propio umbral. Las coincidencias más adecuadas se envían posteriormente al modelo base.

El código de ejemplo combina un modelo pequeño preentrenado de Sentence Transformers con FAISS, una base de datos vectorial en memoria, para recuperar contexto por significado.

from sentence_transformers import SentenceTransformer
import faiss
import numpy as np

# Sample data
sentences = [
    "schedule meeting tomorrow",
    "send project report",
    "prepare meeting agenda"
]

# Load embedding model
model = SentenceTransformer("all-MiniLM-L6-v2")

# Convert sentences into vectors
embeddings = model.encode(sentences)

# Create FAISS index
index = faiss.IndexFlatL2(embeddings.shape[1])
index.add(np.array(embeddings))

# Search
query = "plan meeting"
query_vector = model.encode([query])

distances, indices = index.search(np.array(query_vector), k=2)

print([sentences[i] for i in indices[0]])

Sin dicha recuperación, cada consulta comienza desde cero e ignora lo que las interacciones anteriores enseñaron, generando una experiencia superficial e impersonal. Con ella, el sistema busca en las interacciones anteriores un contexto semánticamente similar cada vez que llega una consulta. La ventana de contexto se divide para dar espacio tanto a la conversación más reciente como al historial recuperado. El agente puede entonces responder de acuerdo con las preferencias del usuario y las interacciones anteriores, lo que resulta más coherente y familiar. En efecto, el conocimiento adquirido previamente sirve como experiencia que mejora la respuesta actual.

Opción 4: un grafo de conocimiento con GraphRAG

Encontrar el contexto adecuado se vuelve difícil cuando el conocimiento está disperso entre interacciones o documentos. La búsqueda semántica pura puede capturar solo parte de lo necesario y puede pasar por alto detalles que difieren en redacción pero están conectados lógicamente.

Tomemos la pregunta "¿Por qué se retrasó el pago?". La búsqueda semántica podría mostrar mensajes sobre un retraso en el pago o una transacción pendiente, pero aún así pasaría por alto frases como "se está esperando la aprobación del equipo financiero" o ">la verificación de cumplimiento no se ha completado". Ambas explican el retraso, pero su redacción tiene poco en común con la pregunta, por lo que la similitud por sí sola no las encontrará.

GraphRAG ayuda en esto. Modela la información como un grafo donde cada documento o concepto es un nodo y las relaciones son aristas, lo que permite una recuperación más estructurada y conectada. El costo radica en el mantenimiento: un grafo que debe cambiar en tiempo de ejecución a medida que llegan nuevos datos implica una gran carga computacional y un alto esfuerzo de diseño.

La creación de un grafo de conocimiento generalmente sigue cuatro pasos:

  1. Identificar los nodos, es decir, las entidades o conceptos.
  2. Identificar las relaciones entre ellos.
  3. Definir una ontología, la estructura y el esquema del grafo.
  4. Popular el grafo con datos.

La estructura resultante ofrece un contexto más rico y mejor conectado que la similitud por sí sola, con menos conexiones perdidas.

La biblioteca GraphRAG de Microsoft puede detectar automáticamente entidades y relaciones en el contenido y armar el grafo.

Paso 1: configurar el proyecto. Instalar GraphRAG e inicializar un directorio de trabajo.

pip install graphrag
graphrag init --root ./graphrag_demo

La orden genera una carpeta con input/, settings.yaml y prompts/. Los documentos de origen se colocan en input/.

Paso 2: construir el grafo. La orden de indexación extrae entidades, encuentra relaciones y construye el grafo.

graphrag index --root ./graphrag_demo

Paso 3: realice la consulta. A continuación, se puede consultar el grafo generado.

graphrag query \
 — root ./graphrag_demo \
 — method global \
 “Why was the payment delayed?”

El sistema reúne el contexto relacionado en todo el grafo, lo que permite razonamiento multi-paso en lugar de basarse únicamente en la similitud semántica.

Cómo encajan las piezas

Los agentes precisos y personalizados necesitan algo más que la coincidencia de palabras clave o una similitud aislada. Un índice invertido permite filtrar el contexto de manera eficiente, y la búsqueda semántica mantiene intacta la intención, pero ambos pueden pasar por alto las relaciones distribuidas en varios fragmentos de conocimiento. GraphRAG llena esa brecha al organizar la información como entidades y relaciones vinculadas, de modo que el razonamiento pueda saltar entre contextos en lugar de recopilar fragmentos de apariencia similar. Esto hace que los agentes pasen de una recuperación superficial a una comprensión real de cómo se relacionan los conceptos.

Juntos, las ventanas deslizantes, la búsqueda semántica, la memoria de experiencias y la recuperación mediante grafos generan agentes que recuerdan detalles relevantes y razonan sobre ellos, ofreciendo respuestas más completas, menos alucinaciones y una experiencia más estable y personal. La memoria de los agentes está pasando de almacenar información a conectar conocimientos, y ese cambio permite que los asistentes de IA evolucionen de ser conscientes del contexto a razonar dentro de él.