Strona główna / Artykuły

Cztery strategie pamięciowe dla agentów AI: okna przesuwne, FAISS i GraphRAG

Porównaj sposoby przekazywania pamięci agentowi LLM, od pełnej historii i okien przesuwnych po indeksy odwrócone, wyszukiwanie semantyczne FAISS oraz graf wiedzy GraphRAG.

Wydawca: REACTAPP.TOP7 min czytania1497 słów

Źródła: Building Intelligent Context Memory for AI Agents

Agent zbudowany wyłącznie z LLM i kilku narzędzi funkcjonuje w pewien sposób. To, co czyni go niezawodnym i dostosowanym do potrzeb użytkownika, to pamięć – zbiór wcześniejszych rozmów i kontekstu, który pozwala agentowi udzielać bardziej dokładnych odpowiedzi z upływem czasu. Pamięć umożliwia również przenoszenie kontekstu między interakcjami, w tym gdy kilka agentów współpracuje przy jednym zadaniu, dzięki czemu system pamięta, czego faktycznie chce użytkownik.

Biorąc pod uwagę odpowiedni kontekst oraz aktualny wpis, agent może wybrać jedną z kilku opcji: użyć narzędzia, zadać użytkownikowi pytanie wyjaśniające lub od razu odpowiedzieć. To właśnie pamięć przekształca go z czysto reaktywnego odbiorcy informacji w asystenta, który zachowuje spójność w swoich działaniach.

Poniżej przedstawiono cztery strategie wykorzystania pamięci, uszeregowane od najprostszej do najbardziej zaawansowanej: wysyłanie pełnej historii, okno czasowe, wyszukiwanie podobieństw w poprzednich wiadomościach oraz graf wiedzy.

Opcja 1: wysłanie całej historii

Obecne modele podstawowe obsługują bardzo duże okna kontekstowe. Rodzina GPT-5.4 na przykład może przetwarzać aż 1,05 miliona tokenów, co wystarcza na całe bazy kodu lub duże zbiory dokumentów. To sprawia, że kuszący wydaje się leniwy podejście: do każdego nowego żądania dodawać wszystkie wcześniejsze wiadomości, być może z kilku sesji, i pozwolić mechanizmowi uwagi się nimi zająć.

messages: Annotated[List[BaseMessage], add_messages]

Łatwo je tworzyć i nadają się do zadań krótkotrwałych. Jednak w miarę wydłużania się rozmów pojawia się coraz więcej problemów:

  • Zbyt dużo nieistotnego kontekstu może przytłoczyć model.
  • Mechanizm uwagi jest nieprzejrzysty, więc wyniki mogą być niespójne.
  • Inżynierowie mają trudności z wyjaśnieniem, dlaczego niemal identyczne dane wejściowe dają różne odpowiedzi.
  • Użycie tokenów rośnie z każdą kolejną rundą, a wraz z nim koszt.
  • Większy kontekst wymaga więcej obliczeń, co powoduje wzrost opóźnień.

Koszt i opóźnienie na zapytanie rosną stopniowo wraz z rozwojem historii rozmów, a w systemach agentów produkcyjnych taki podejście staje się marnotrawne i trudne do zarządzania.

Opcja 2: przesuwane okno kontekstu

Alternatywa to ograniczenie liczby ostatnich interakcji, które są przekazywane. Jest to przesuwane okno kontekstu, którego rozmiar można ustalić na podstawie liczby wiadomości lub tokenów.

Zawieranie jedynie najnowszych interakcji N daje programistom kontrolę nad wydatkami na tokeny, mniejszą opóźnioność oraz przewidywalne rachunki. Pasuje to do zadań kierowanych głównie przez najnowsze kroki. Gdy jednak agent potrzebuje starszych lub długoterminowych faktów, skrócone okno czasowe prowadzi do częściowego zrozumienia i błędnych wyników.

WINDOW_SIZE = 6
#Added a wrapper method for return window messages
def rolling_add_messages(old, new):
  combined = add_messages(old, new)
  return combined[-WINDOW_SIZE:]

class AgentState(TypedDict):
  messages: Annotated[List[BaseMessage], rolling_add_messages]

Opcja 3: wyszukiwanie według słów, a następnie według znaczenia

Inwersyjny indeks to struktura danych stworzona do bardzo szybkiego wyszukiwania pełnego tekstu. Mapuje słowa lub liczby bezpośrednio na miejsca, w których występują w jednym lub kilku dokumentach.

Zastosowanie go do historii rozmów oznacza indeksowanie wcześniejszych wiadomości, a następnie wybieranie tych, które najlepiej odpowiadają słowom nowego zapytania. Model otrzymuje tylko pasujące fragmenty, co znacznie ogranicza kontekst, zachowując jednocześnie istotne informacje, nawet z wczesnej części rozmowy.

Słabością jest dosłowne dopasowanie. Zapytanie może używać różnych słów do opisania tej samej koncepcji, co pomija kontekst i sprzyja halucynacjom, a podobne pytania mogą otrzymać zupełnie różne odpowiedzi. Podstawowy indeks można utworzyć i używać w ten sposób:

def build_inverted_index(messages):
    index = defaultdict(set)

    for i, msg in enumerate(messages):
        words = msg.lower().split()
        for word in words:
            index[word].add(i)
    return index

def search_context(query, index, messages):
    query_words = query.lower().split()

    matched_ids = set()

    for word in query_words:
        if word in index:
            matched_ids.update(index[word])

    return [messages[i] for i in matched_ids]

Szukanie semantyczne eliminuje tę słabość poprzez interpretację intencji i znaczenia, a nie tylko słów kluczowych. Redukuje halucynacje i sprawia, że odpowiedzi są bardziej wiarygodne. Proces przebiega w następujący sposób: zdanie jest dzielone na tokeny, a lekki model embeddingu przekształca je w wektory. Każdy wektor tokena jest dostosowywany na podstawie jego sąsiadów, a następnie wektory tokenów łączone są w jeden wektor reprezentujący całe zdanie. Te wektory przechowywane są w bazie danych wektorowej.

Zapytanie przechodzi przez ten sam proces konwersji i jest porównywane z przechowywanymi wektorami za pomocą podobieństwa kosinowego, czyli kosina kąta pomiędzy dwoma wektorami. Wynik bliski 0,9 oznacza bardzo podobne znaczenie, natomiast wartość poniżej 0,3 zazwyczaj wskazuje na brak związku. Aplikacje mogą ustawić własne progi. Najlepsze dopasowania są następnie przekazywane modelowi podstawowemu.

Kod przykładowy łączy mały, wcześniej przeszkolony model Sentence Transformers z FAISS, bazą danych wektorowych pamięci operacyjnej, w celu odzyskiwania kontekstu na podstawie znaczenia.

from sentence_transformers import SentenceTransformer
import faiss
import numpy as np

# Sample data
sentences = [
    "schedule meeting tomorrow",
    "send project report",
    "prepare meeting agenda"
]

# Load embedding model
model = SentenceTransformer("all-MiniLM-L6-v2")

# Convert sentences into vectors
embeddings = model.encode(sentences)

# Create FAISS index
index = faiss.IndexFlatL2(embeddings.shape[1])
index.add(np.array(embeddings))

# Search
query = "plan meeting"
query_vector = model.encode([query])

distances, indices = index.search(np.array(query_vector), k=2)

print([sentences[i] for i in indices[0]])

Bез takiego odzyskiwania informacji każde zapytanie rozpoczyna się od zera i ignoruje to, czego nauczyły wcześniejsze rozmowy, co skutkuje ubogim i pozbawionym osobowości doświadczeniem. Dzięki temu system przeszukuje wcześniejsze interakcje w poszukiwaniu semantycznie pokrewnego kontekstu za każdym razem, gdy przychodzi zapytanie. Okno kontekstowe zostaje podzielone, aby było miejsce zarówno na najnowszą rozmowę, jak i odzyskany historię. Agent może wtedy odpowiadać zgodnie z preferencjami użytkownika i wcześniejszymi rozmowami, co sprawia wrażenie większej spójności i znajomości. W praktyce wcześniej nabyte informacje stanowią doświadczenie, które poprawia aktualną odpowiedź.

Opcja 4: graf wiedzy z GraphRAG

Znalezienie odpowiedniego kontekstu staje się trudne, gdy wiedza jest rozproszona pomiędzy różnymi interakcjami lub dokumentami. Czyste wyszukiwanie semantyczne może uchwycić tylko część potrzebnych informacji, a także pominąć szczegóły, które różnią się sformułowaniem, ale są logicznie powiązane.

Weźmy pytanie "Dlaczego opóźniono płatność?" Szukanie semantyczne może wyświetlić komunikaty o opóźnieniu płatności lub transakcji w oczekiwaniu, ale nadal może pominąć informacje takie jak "czekamy na zatwierdzenie od zespołu finansowego" lub ">weryfikacja zgodności nie została ukończona". Obie te informacje wyjaśniają opóźnienie, ale ich sformułowanie ma niewiele wspólnego z pytaniem, więc sama podobieństwo nie pozwoli na ich znalezienie.

GraphRAG pomaga w tym przypadku. Modeluje on informacje jako graf, w którym każdy dokument lub pojęcie stanowi węzeł, a relacje – krawędzie, co umożliwia bardziej zorganizowane i powiązane wyszukiwanie. Kosztem jest konieczność regularnej aktualizacji: graf, który musi zmieniać się w trakcie działania systemu wraz z pojawianiem się nowych faktów, generuje duży obciążenie obliczeniowe i wymaga dodatkowych wysiłków projektowych.

Budowa grafu wiedzy zazwyczaj przebiega przez cztery etapy:

  1. Identyfikuj węzły, czyli entity lub koncepcje.
  2. Identyfikuj relacje pomiędzy nimi.
  3. Zdefiniuj ontologię, czyli strukturę i schemat grafu.
  4. Wypełnij graf danymi.

Utworzona w ten sposób struktura dostarcza bogatszego, lepiej połączonego kontekstu niż sama podobieństwo, przy jednoczesnym zmniejszeniu liczby pominiętych powiązań.

Biblioteka GraphRAG firmy Microsoft może automatycznie wykrywać entity i relacje w treści oraz budować graf.

Krok 1: przygotuj projekt. Zainstaluj GraphRAG i utwórz katalog roboczy.

pip install graphrag
graphrag init --root ./graphrag_demo

Polecenie tworzy folder zawierający input/, settings.yaml oraz prompts/. Dokumenty źródłowe trafiają do katalogu input/.

Krok 2: budowanie grafu. Polecenie indeksowania wyodrębnia entity, znajduje relacje i konstruuje graf.

graphrag index --root ./graphrag_demo

Krok 3: zadać zapytanie. Utworzony graf można następnie zapytać.

graphrag query \
 — root ./graphrag_demo \
 — method global \
 “Why was the payment delayed?”

System gromadzi powiązany kontekst w całym grafie, co umożliwia rozumowanie wieloetapowe zamiast polegania wyłącznie na podobieństwie semantycznym.

Jak wszystko się łączy

Dokładne, spersonalizowane agenty wymagają czegoś więcej niż tylko dopasowywania słów kluczowych lub izolowanego podobieństwa. Odwrócony indeks efektywnie redukuje kontekst, a wyszukiwanie semantyczne zachowuje intencję użytkownika, jednak oba te podejścia mogą przeoczyć relacje istniejące pomiędzy kilkoma elementami wiedzy. GraphRAG wypełnia tę lukę, organizując informacje jako powiązane entity i relacje, dzięki czemu rozumowanie może przenosić się pomiędzy kontekstami zamiast zbierać jedynie fragmenty o podobnym wyglądzie. To sprawia, że agenty przesuwają się od powierzchownego wyszukiwania ku zrozumieniu sposobu, w jaki pojęcia ze sobą się łączą.

Rolujące okna, wyszukiwanie semantyczne, pamięć doświadczeń oraz odzyskiwanie danych z grafów łączą się, tworząc agenty, które przypominają sobie istotne szczegóły i na ich podstawie rozumują, dostarczając w ten sposób bardziej kompletnych odpowiedzi, mniej halucynacji oraz stabilniejsze, bardziej spersonalizowane doświadczenie. Pamięć agentów przechodzi od przechowywania informacji ku łączeniu wiedzy, a to umożliwia asystentom AI rozwój od rozumienia kontekstu do jego analitycznego wykorzystywania.