Strona główna / Artykuły

Hybrydowe odzyskiwanie danych w RAG: łączenie wyszukiwania według słów kluczowych, wektorowego i grafowego.

Jak połączyć BM25, wyszukiwanie wektorowe i odzyskiwanie danych z grafów w RAG: fuzja rankingów przy użyciu RRF, w której pomocne jest GraphRAG, oraz architektura polegająca na odzyskiwaniu danych, ich fuzji, rozszerzaniu i ponownym rankowaniu.

Wydawca: REACTAPP.TOP6 min czytania1330 słów

Źródła: Hybrid Retrieval for RAG: Combining Graph, Vector, and Keyword Search

Żaden pojedynczy metod wyszukiwania nie odpowiada na wszystkie pytania. Wyszukiwanie według słów kluczowych jest najlepsze przy dokładnych frazach, wyszukiwanie wektorowe przy znaczeniach, a wyszukiwanie grafowe przy relacjach. Rzeczywiste pytania zazwyczaj wymagają wszystkich trzech naraz, dlatego platformy wyszukiwawcze i systemy GraphRAG preferują obecnie łączenie metod leksykalnych, semantycznych i opartych na grafach, zamiast polegać wyłącznie na jednej technice do obsługi całego obciążenia.

Dlaczego jeden metod jest niewystarczający

Szukanie według słów kluczowych pozostaje niezbędne, ponieważ jest powiązane z terminami, które rzeczywiście występują w danych. Klasyczne systemy odzyskiwania informacji tworzą odwrotny indeks na podstawie słownika i list wpisów, a metody oceny w stylu BM25 udoskonalają proste dopasowywanie terminów, biorąc pod uwagę częstotliwość występowania terminów oraz długość dokumentu. Silniki leksykalne oferują również funkcje sterujące, których systemy semantyczne nie zapewniają naturalnie: frazy w cudzysłowach, operatory logiczne, ograniczenia pola, analizatory tokenów oraz przewidywalne dopasowywanie. Gdy dokładne sformułowanie ma takie samo znaczenie jak znaczenie samego tekstu, te funkcje sterujące okazują się decydujące.

Embeddingi rozwiązują przeciwną słabość. Tekst jest mapowany na wektory, a zapytanie wybiera to, co znajduje się najbliżej, nawet gdy sformułowanie różni się całkowicie od pytania. Artykuł DPR przedstawił to na podstawie liczb: w kilku zestawach danych do odpowiadania na pytania z otwartego domeny, metoda gęstego wyszukiwania osiągnęła wyniki o 9 do 19 punktów lepsze od dostosowanej bazy Lucene BM25, ocenianej pod kątem dokładności top-20. W praktyce niemal każde zastosowanie wykorzystuje indeksy przybliżonego najbliższego sąsiada, często HNSW, dzięki czemu wyszukiwania odbywają się w milisekundach.

Graf dostarcza tego, czego nie mogą dwa pozostałe podejścia: wyraźnej struktury. Węzły mogą reprezentować entity, a krawędzie relacje, przy czym na ich podstawie tworzone są dodatkowe warstwy takie jak społeczności, twierdzenia i ścieżki wielodokumentowe. Badania nad GraphRAG opisują korzyści wynikające z takiej struktury na poziomie entity jako precyzję i kompletność. Implementacja Microsoftu oddziela wyszukiwanie lokalne, skierowane na pytania dotyczące jednej entity, od wyszukiwania globalnego, przeznaczonego dla pytań dotyczących całego korpusu. KG²RAG pokazuje kolejne zastosowanie: wprowadzane są semantycznie dopasowane fragmenty tekstu, a graf wiedzy rozwija je w spójny, zróżnicowany zbiór dowodów wspierających.

Dwie znaczenia słowa „graf”

Słowo „graf” jest tu nadużywane. HNSW, będący jedną z najczęściej stosowanych metod przybliżonego wyszukiwania najbliższych sąsiadów, sam w sobie stanowi graf, zaprojektowany tak, aby wyszukiwanie mogło szybko przechodzić do wektorów o podobnych wartościach. Dokumentacja indeksu wektorowego w Neo4j przedstawia jego ustawienia: vector.hnsw.m oraz vector.hnsw.ef_construction.

Gdy ludzie mówią o łączeniu wyszukiwania grafowego, wektorowego i opartego na słowach kluczowych, chodzi o dwa różne rodzaje grafów. Jeden to wewnętrzna struktura indeksu, która przyspiesza wyszukiwanie podobieństw. Drugi to zewnętrzny graf wiedzy, który modeluje rzeczywiste entytety oraz powiązania między nimi. Pierwszy pomaga szybko znaleźć podobne wektory, natomiast drugi umożliwia rozumowanie na podstawie powiązanych faktów. Mylenie tych dwóch rodzajów grafów prowadzi do niejasnych dyskusji na temat architektury.

Jak w praktyce działa hybrydowe wyszukiwanie

Zwykłym punktem wyjścia jest jednoczesne przeprowadzenie dwóch wyszukiwań – jednego leksykalnego i jednego semantycznego. Weaviate nazywa swój podejście hybrydowym wyszukiwaniem: uruchamiane są zarówno zapytania wektorowe, jak i oparte na słowach kluczowych, a ich zbiory wyników są łączone. OpenSearch osiąga ten efekt za pomocą pipeline’ów wyszukiwawczych, które albo normalizują wyniki, albo łączą je według rankingu przed ich zwróceniem. Neo4j wykorzystuje HybridRetriever, który przeszukuje indeks wektorowy oraz indeks pełnego tekstu, a następnie łączy oba wyniki w jedną uporządkowaną listę. Każda z tych metod pokrywa słabe strony drugiej. Słowa kluczowe dostarczają dokładnych dowodów, natomiast embeddingi – fragmenty tekstu o tym samym znaczeniu, ale wyrażone innymi słowami.

Łączenie list

Następnym wyborem jest sposób łączenia rankingów. Reciprocal Rank Fusion (RRF) jest dobrym standardowym rozwiązaniem, ponieważ opiera się na pozycjach rankingowych, a nie na surowych wynikach. Dokumentacja Elastic opisuje go jako metodę wymagającą niewielkiej lub żadnej kalibracji oraz nie wymagającą porównywalnych skali wyników. Jest to istotne, ponieważ wyniki BM25 oraz podobieństwa embeddingów zazwyczaj znajdują się w zupełnie różnych zakresach liczbowych.

Gdy chcesz większej kontroli, dostępną opcją jest znormalizowana fuzja ważona. Weaviate obsługuje fuzję opartą na wynikach, natomiast OpenSearch oferuje zarówno procesory oparte na normalizacji, jak i fuzję opartą na rankingach. Elastic zwraca również uwagę, że kombinacja liniowa może przewyższyć RRF, jeśli wagi zostaną dobrze skalibrowane, choć wymaga to dokładnej normalizacji i eksperymentowania.

Rola grafu

Kwarstwa grafowa jest zazwyczaj łączona po pierwszym etapie wyszukiwania. Narzędzie HybridCypherRetriever w Neo4j ilustruje tę koncepcję: kandydaci pochodzą z wyszukiwania wektorowego i pełnotekstowego, a następnie przeszukiwanie grafu dostarcza bogatszy kontekst wokół nich.

Lokalne wyszukiwanie GraphRAG firmy Microsoft podąża podobną ścieżką, łącząc kontekst z grafu z oryginalnym tekstem. Wyszukiwanie globalne obiera inną drogę i odpowiada na pytania dotyczące całego zbioru danych na podstawie raportów społeczności obliczonych z góry. To jest krok poza „BM25 plus embeddings”: znajdź odpowiedni węzeł lub fragment, a następnie rozszerz poszukiwania i zebraj fakty, których nie zawierał dopasowany fragment tekstu.

Kiedy GraphRAG jest opłacalny

Metoda wyszukiwania uwzględniająca grafy jest skuteczna, gdy pytanie dotyczy powiązań pomiędzy elementami, a nie pojedynczych fragmentów tekstu. Dokumentacja Microsoftu wyjaśnia podział funkcji: wyszukiwanie lokalne służy do znajdowania konkretnych elementów, wyszukiwanie globalne do rozumowania na podstawie całego zbioru danych, DRIFT do rozumowania lokalnego rozszerzonego o kontekst społeczności, natomiast zwykłe wyszukiwanie jest odpowiednie dla pytań, na które już dobrze odpowiada prosta metoda wyszukiwania wektorowego. Grafy są najbardziej przydatne wtedy, gdy użytkownik chce, aby system łączył poszczególne elementy, wykrywał zależności, podsumowywał tematy lub analizował kilka poziomów powiązań między danymi.

Nie są to jednak bezpłatne ulepszenia dotyczące trafności wyników. Nowszy artykuł badawczy GraphRAG pyta wprost, kiedy grafy są przydatne, i stwierdza, że GraphRAG może wykazywać gorsze wyniki niż zwykły RAG w wielu zadaniami z rzeczywistego świata. Jego główny wniosek brzmi, że struktura grafu jest korzystna wtedy, gdy zadanie naprawdę wymaga hierarchicznego wyszukiwania, rozumowania uwzględniającego relacje lub szerokiej syntezy kontekstowej. W przypadku prostych, lokalnych zapytań tworzenie grafu, przemierzanie go i jego podsumowywanie mogą przynieść niewiele korzyści. Dobry projekt hybrydowy powinien być selektywny, a nie maksymalny.

Architektura referencyjna

Najpierw przychodzi przygotowanie. Podziel dokumenty na fragmenty, wyodrębnij entity i relacje tam, gdzie to ma sens, oraz utrzymuj uporządkowany zapis mapujący każdy fragment na obiekty grafu, o których mówi. Następnie obok siebie znajdują się trzy struktury: indeks leksykalny do dopasowywania tokenów, indeks wektorowy do reprezentacji znaczenia oraz warstwa grafu służąca do przemieszczania się po grafie lub rozszerzania grup.

Zapytania obejmują cztery kroki: pobieranie danych, łączenie wyników, rozszerzanie informacji oraz ponowna klasyfikacja. Najpierw przeprowadzane są wyszukiwania leksykalne i wektorowe, a ich wyniki są ze sobą łączone. Tylko najbardziej wiarygodne wyniki są rozszerzane za pomocą grafu, a narzędzie do ponownej klasyfikacji uporządkowuje te rozszerzone dane przed tym, zanim dotrą one do generatora. Koszt pozostaje ograniczony, a zarówno dokładność odzyskiwania informacji, jak i jakość kontekstu są zachowane.

Kierunek rozwoju

Dostawcy i badacze skupiają się na zintegrowanych rozwiązaniach. Elastic, Weaviate, OpenSearch i Neo4j oferują hibrydowe metody wyszukiwania jako standardową funkcję, a nie jako tymczasowe rozwiązanie. Milvus dokumentuje hibrydową konfigurację opartą na modelu BGE-M3, którego opis mówi o gęstych, rzadkich oraz wielowektorowych wynikach uzyskiwanych z jednej sieci. Trend wskazuje na coraz mniej odrębnych metod wyszukiwania oraz coraz więcej systemów, które wykorzystują kilka sygnałów istotności z tych samych danych i łączą je po otrzymaniu zapytania.

Praktyczne porady

Największym błędem jest traktowanie hibrydowego wyszukiwania jako jednego algorytmu. To strategia:

  • Zacznij od precyzji słów kluczowych połączonej z semantycznym odzyskiwaniem informacji.
  • Skorzystaj z RRF, gdy skale ocen się nie pokrywają.
  • Przejdź na ważoną fuzję po stworzeniu danych do oceny.
  • Dodawaj rozszerzanie grafu tylko tam, gdzie relacje są istotne.

Relevancja również nie jest jedynym ograniczeniem. Indeksy wektorowe wymagają dużo pamięci i powodują opóźnienia, a dokumentacja Neo4j wskazuje, że jego indeksy wektorowe oparte na Lucene w dużej mierze korzystają z pamięci cache systemu operacyjnego. Umiejętność decydowania, kiedy lepiej postawić na prostotę, jest częścią projektu.

Hybrydowe metody wyszukiwania działają skutecznie, ponieważ odzwierciedlają sposób, w jaki ludzie szukają wiedzy. Czasami pamiętamy dokładną frazę, czasami tylko ideę, a czasami to łańcuch powiązań wyjaśnia, jak dwa fakty są ze sobą powiązane. Wyszukiwanie za pomocą słów kluczowych, wektorów i grafów służy odpowiednio każdej z tych potrzeb, a najskuteczniejsze systemy wyszukiwania celowo łączą je ze sobą.

Literatura pokrewna

  • RAG Distractors: Dlaczego zwiększanie k kupuje konkurentów, a nie odpowiedzi — Pozycje od drugiej do dziesiątej na liście wyników to elementy rozpraszające uwagę. Dane Chromy, ponowne wyświetlanie kontekstu oraz obliczenia tokenów z jednej sesji obsługi pokazują, jak je usunąć.