Siedem wzorców RAG wykraczających poza podstawowe chatboty oraz sytuacje, w których każdy z nich jest odpowiedni.
Przewodnik po prostych, hybrydowych, korygujących, samorefleksyjnych, wieloetapowych, graficznych oraz kontekstualnych rozwiązaniach RAG: jaki brak każde z nich wypełnia, jakie są ich komponenty i jak je wybrać.
Źródła: Beyond the Chatbot: The Sophisticated Maturation of RAG Architectures
Generowanie wzbogacone o wyszukiwanie wykroczyło już poza fazę eksperymentalną. Na początku polegało to na umieszczeniu pliku PDF w bazie danych wektorowej i proszeniu chatbota o streszczenie. Obecnie branża zmierza w kierunku złożonych systemów AI, w których proces wyszukiwania stanowi warstwową architekturę poznawczą, a nie pojedynczy krok. Na skalie przedsiębiorstw proste podejście nadal zawodzi pod względem dokładności, opóźnień i rozumowania wieloetapowego, w związku z czym pojawił się zestaw specjalistycznych wzorców. Poniżej znajduje się mapa tych wzorców oraz sposób ich wyboru.
Dlaczego projekty wciąż się mnożą
Bazowy RAG dzieli dokumenty na stałe fragmenty, wstawia je do modelu, wybiera najlepsze k elementów na podstawie podobieństwa kosinowego i przekazuje je modelowi językowemu. To wystarcza do prostych pytań często zadawanych. Metoda ta zawodzi przy dokładnych identyfikatorach, długich raportach pełnych niejednoznacznych zaimków, pytaniach obejmujących kilka dokumentów oraz w dziedzinach o wysokim znaczeniu, gdzie halucynacje są niedopuszczalne.
Każda nowsza wersja adresuje jeden lub więcej z tych problemów:
- Niska skuteczność przy dosłownych terminach, takich jak identyfikatory polityk, numery części czy odniesienia do sekcji.
- Fragmenty z szumem lub niepowiązane tematycznie, które trafiają do modelu.
Baza porównawcza: prosty RAG
To wzorzec stanowi punkt wyjścia i już sam w sobie zmniejsza ilość halucynacji w porównaniu z modelem opartym wyłącznie na danych, poprzez powiązanie odpowiedzi z odzyskanym tekstem.
Dokumenty są dzielone na fragmenty o stałej wielkości, na przykład 512 tokenów. Model gęsty, taki jak bge-large lub text-embedding-3-large, embeduje je, a uzyskane wektory są przechowywane w systemach takich jak Qdrant, Weaviate lub Pinecone. Podczas wyszukiwania embedding zapytania jest porównywany z embeddingami fragmentów za pomocą podobieństwa kosinowego, a trzy do pięciu najlepszych fragmentów jest przekazywanych razem z pytaniem do modelu LLM.
Metoda ta nadaje się do bazy wiedzy wewnętrznej dotyczącej jednego tematu, prostego wyszukiwania w FAQ oraz prototypów, gdzie szybkość jest ważniejsza od precyzji. Typowe elementy to dzielenie na fragmenty o stałej wielkości z niewielkim lub żadnym nakładaniem się, jeden indeks wektorów gęstych, brak lub prosty mechanizm ponownego rankowania oraz generator dostosowany pod konkretne instrukcje.
Słabości są przewidywalne. Dokładne zapytania oparte na słowach kluczowych i akronimy sprawiają mu problemy, granice fragmentów tekstowych utrudniają uzyskanie kontekstu, a nic nie wykrywa błędnych wyników wyszukiwania przed rozpoczęciem generowania.
Wyszukiwanie hybrydowe z użyciem cross-encodera do ponownego rankowania
Jedyny gęsty indeks przegapia zbyt wiele informacji, gdy zapytania łączą niejednoznaczne znaczenia z dosłownymi identyfikatorami, takimi jak numery polityk, ID sekcji, SKU czy cytaty przepisów. Testy pokazują, że hybrydowe metody wyszukiwania w połączeniu z sieciowym mechanizmem ponownego rankowania przewyższają metody jednoetapowe w przypadku dokumentów mieszanych, zawierających tekst i tabele.
Dwa psy rasy retriever biegną obok siebie. Słabozaawansowane metody leksykalne, takie jak BM25 czy SPLADE, dopasowują dokładne terminy. Zaawansowane metody semantyczne uwzględniają podobieństwo koncepcyjne. Lista rankingowa powstała w ten sposób jest łączona za pomocą metody Reciprocal Rank Fusion lub kalibrowanego schematu wagowego. Następnie pięćdziesiąt do stu najlepszych kandydatów trafia do narzędzia cross-encoder reranker, które ocenia każdą parę zapytania i fragmentu łącznie i wskazuje bardziej precyzyjną listę pięciu do dziesięciu najlepszych wyników. Te fragmenty wraz z zapytaniem trafiają do LLM wraz z metadanymi cytacji.
Sprawdza się w dokumentach regulacyjnych, gdzie istotne są dokładne odniesienia do sekcji, w podręcznikach technicznych pełnych numerów części i kodów błędów, w dokumentach finansowych z tabelami oraz precyzyjnymi pytaniami liczbowymi, a ogólnie w każdym systemie produkcyjnym, gdzie jakość wyszukiwania wpływa na jakość odpowiedzi. Typowe komponenty to stałe lub semantyczne dzielenie na fragmenty wraz z metadanymi, algorytmy BM25 lub SPLADE w połączeniu z intensywnym bi-encoderem, metody fuzji typu RRF lub uczone modele fuzji, cross-encoderzy takie jak bge-reranker, Cohere Rerank lub Jina Rerank, oraz model LLM obsługujący cytaty.
Korygujące RAG
Celem jest zapobieganie temu, by system odpowiadał z pewnością na podstawie słabych lub nieistotnych fragmentów. Po procesie wyszukiwania następuje kontrola jakości, a w przypadku niewystarczającej ilości danych z wewnętrznego korpusu istnieje alternatywna ścieżka działania.
Po odzyskaniu danych lekki evaluator ocenia fragmenty pod kątem zapytania i wydaje etykietę pewności: poprawny, niejednoznaczny lub błędny. Następnie router decyduje o dalszym działaniu. Poprawne wyniki są przekazywane do procesu generowania tekstu. Wyniki niejednoznaczne powodują przepisanie zapytania, jego rozłożenie na części lub użycie innej strategii odzyskiwania danych. Wyniki błędne uruchamiają wyszukiwanie w internecie lub korzystanie z innych zewnętrznych źródeł, dzięki czemu błędne fragmenty nigdy nie są używane.
Obsługa klienta to naturalne środowisko, w którym brakujące informacje nie powinny przeradzać się w wymysły. Kolejnym przykładem jest często aktualizowana dokumentacja techniczna zawierająca luki. Podobnie jest w każdej dziedzinie, gdzie uczciwa odpowiedź „Nie wiem” wraz z kontekstem z sieci jest lepsza od pewnej się, błędnej odpowiedzi. Składniki tego systemu to hybrydowy lub zaawansowany mechanizm wyszukiwania, mały klasyfikator lub model sterowany pytaniami, który ocenia istotność informacji, router oparty na regułach lub na modelach językowych, mechanizm awaryjny taki jak API do wyszukiwania w sieci lub drugorzędne źródło danych, oraz generator, który ma za zadanie podawać źródła i przyznawać do niepewności.
RAG samorefleksyjne
Taki projekt przenosi operacje wyszukiwania i weryfikacji informacji prosto do samego procesu generowania odpowiedzi. Model uczy się, kiedy należy wyszukać informacje, czy to, co znalazł, jest istotne, oraz czy jego własna odpowiedź ma podstawy w dostępnych dowodach.
Działa jako pętla cykliczna, napędzana specjalnymi tokenami lub ustrukturyzowanymi instrukcjami. Model decyduje, czy zapytanie w ogóle wymaga wyszukiwania informacji, ocenia trafność znalezionych dokumentów, pisze odpowiedź opartą na tych danych, analizuje tę odpowiedź pod kątem uzasadnienia i kompletności, a następnie albo ją poprawia, albo odmawia odpowiedzi, jeśli brakuje wystarczających podstaw. Szkolenie lub instrukcje skłaniają go do preferowania stwierdzeń uzasadnionych danymi i zaznaczania twierdzeń bez podstaw.
Analiza umów prawnych oraz porównywanie klauzul są tu istotne. Podobnie jest z streszczeniami raportów medycznych, wytycznymi klinicznymi, audytami oraz przeglądami zgodności, które muszą być śledzone, a także we wszystkich sytuacjach, gdy nieudokumentowane twierdzenia są kosztowne. Składniki tego systemu obejmują hybrydowy lub specjalistyczny dla danej dziedziny mechanizm wyszukiwania, generator szkolony lub zachęcany do samokrytyki, opcjonalnie zewnętrznego weryfikatora, który sprawdza cytaty w odniesieniu do znalezionych fragmentów, oraz metryki oceny dotyczące uzasadnienia, wierności i zachowania powstrzymywania się od niepotwierdzonych twierdzeń.
RAG z wieloetapowym działaniem agenta i podzapytaniami
Część pytań nie może zostać odpowiedziana przy jednej sesji wyszukiwania: porównywanie metryk pomiędzy różnymi firmami i rokiem, śledzenie zależności między dokumentami lub gromadzenie danych z kilku działów.
Agent otrzymuje złożone zapytanie i dzieli je na kilka podzapytań. Każde z nich jest przetwarzane przez mechanizm wyszukiwania, kolejno lub równolegle. Następnie agent eliminuje sprzeczności, łączy dostępne dowody i tworzy ostateczną odpowiedź; może on ponownie wejść w pętlę, jeśli wyniki pośrednie ujawnią braki.
Typowe zastosowania obejmują porównywanie dokumentów typu 10-K z transmisjami dotyczącymi wyników finansowych, analizę polityk przedstawionych w różnych dokumentach, dochodzenia obejmujące różne działy dużej firmy oraz asystentów badawczych, którzy gromadzą informacje z wielu źródeł. System wymaga agenta planistycznego, który dekomponuje zapytania, jednego lub kilku indeksów o możliwie różnych zakresach, krótkoterminowej pamięci do przechowywania wyników pośrednich, syntezatora łączącego pododpowiedzi, a opcjonalnie etapu sprawdzającego spójność między nimi.
GraphRAG
Pobieranie prostych fragmentów tekstu pomija relacje, które obejmują kilka połączeń, takie jak łączenie podejrzanych kont w działaniach przeciw praniu pieniędzy, śledzenie określonego schematu klinicznego czy zrozumienie złożonej łańcuchowości dostaw.
Sztuczna inteligencja językowa lub proces wydobywania informacji znajduje w dokumentach entity oraz relacje. Są one umieszczane w grafie wiedzy, w Neo4j lub w strukturze pamięci operacyjnej. Następnie zapytania przemierzają ten graf, aby odkryć wieloetapowe połączenia – na przykład to, że dana entity leczy określoną chorobę w konkretnej klinice. Pobrane podgrafy są łączone z fragmentami tekstu i przekazywane do sztucznej inteligencji językowej.
Służy do wykrywania oszustw i zapewniania zgodności z przepisami dotyczącymi przestępstw finansowych, wspierania decyzji klinicznych, mapowania struktury organizacyjnej lub łańcucha dostaw, a także we wszelkich dziedzinach, gdzie powiązania między elementami są równie ważne jak sam tekst. Podstawowymi elementami są narzędzie do wyodrębniania elementów i relacji, magazyn grafów takie jak Neo4j, NetworkX lub zarządzana baza danych grafowych, mechanizm wyszukiwania łączący przeszukiwanie drzewa z opcjonalnym wyszukiwaniem wektorowym opisów węzłów oraz generator, który bierze pod uwagę zarówno tekst, jak i kontekst grafu.
Kontekstowe lub późne dzielenie na fragmenty
Fragment pozbawiony otoczenia może stracić swoje znaczenie. Zdanie „Przychody wzrosły o 15 procent” nie wskazuje, o której firmie, w którym roku czy jakim segmencie mowa.
Rozwiązaniem jest to, aby LLM dodawał na początku każdego fragmentu, przed jego embedowaniem, pięćdziesiąt do stu tokenów kontekstu całego dokumentu. Ten nagłówek może zawierać tytuł dokumentu, sekcję, rok budżetowy, nazwę podmiotu oraz inne istotne metadane. Każdy wzbogacony fragment jest embedowany i indeksowany, dzięki czemu pobierane fragmenty przychodzą wraz ze swoim kontekstem, co zmniejsza liczbę domysłów koniecznych generatorowi.
Daje to efekty w postaci długich raportów PDF zawierających tabele, wykresy i niejednoznaczne zaimki, wieloletnich sprawozdań finansowych i dokumentów regulacyjnych oraz standardów technicznych z powtarzającymi się strukturami sekcji. Krótko mówiąc, każdy zbiór tekstów, w którym pojawiają się wyrażenia takie jak „firma”, „ta warunek” lub „oni” bez jasnego odniesienia lokalnego. Składają się one z narzędzia do dzielenia tekstu, zarządzanego przez LLM lub opartego na regułach, które dodaje nagłówki, hybrydowego lub zaawansowanego narzędzia wyszukiwania, opcjonalnego kodera krzyżowego do ponownego sortowania oraz generatora zdolnego do wykorzystania dodatkowych tokenów kontekstowych.
Wybór wzorca
Traktuj to jako punkt wyjścia, a następnie dostosuj rozwiązanie na podstawie wyników oceny.
- Proste wyszukiwanie wewnętrzne i prototypy: pozostań przy prostym podejściu RAG.
- Systemy produkcyjne, szczególnie te wymagające dokładnych terminów i tabel: przejdź na hybrydowe wyszukiwanie z koderem krzyżowym do ponownego sortowania.
Zaawansowane systemy zazwyczaj łączą kilka z tych rozwiązań. Silna, powszechna konfiguracja w 2026 roku łączy hybrydowe pobieranie danych z fuzją RRF, ponownym sortowaniem za pomocą cross-encodera oraz dzieleniem na kontekstowe fragmenty, przy jednoczesnym użyciu mechanizmu korygującego dla zapytań o niskiej pewności.
Literatura pokrewna
- Dlaczego RAG nie wystarcza: warstwa semantyczna dla zapytań grafowych, SQL i wektorowych — RAG zawodzi przy zapytaniach wieloetapowych, liczbowych oraz niejednoznacznych w środowisku korporacyjnym. Warstwa semantyczna zajmuje się dekompozycją, kierowaniem ruchem i mapowaniem schematów, przy użyciu Apache Ossie dla zwiększenia przenośności.
- Od demonstracji do produkcji RAG: dzielenie na fragmenty, pgvector, ponowne rankowanie i FastAPI — Co faktycznie zawiera backend RAG w środowisku produkcyjnym: procesy ETL i dzielenie na fragmenty, embeddingi w pgvector, indeksy HNSW, ponowne rankowanie za pomocą cross-encodera oraz orkiestrator FastAPI.