Dlaczego istnieje RAG: pamięć parametryczna, gęste wyszukiwanie oraz artykuł z 2020 roku
Dlaczego istnieje RAG: ograniczenia pamięci parametrycznej, jak BM25 i embeddingi doprowadziły do gęstego wyszukiwania, oraz jakie są kompromisy pomiędzy RAG-Sequence a RAG-Token w artykule.
Źródła: What Is RAG? The Story Behind Retrieval-Augmented Generation and Why It Changed AI Forever
Nie istnieje jedyny poprawny sposób na budowę systemu RAG. Każdy problem biznesowy wymaga własnej architektury umożliwiającej skalowanie, a każda strategia wyszukiwania ma swoje wady i zalety, więc projekt odpowiedni dla bota obsługowego może zawieść w badaniach prawniczych. Ten obszar rozwija się również szybko. W 2020 roku, gdy po raz pierwszy pojawiła się generacja wzbogacona o wyszukiwanie, modele językowe były znacznie słabsze niż obecnie. Od tamtej pory rozumowanie, wykonywanie instrukcji, rozumienie multimodalne, okna kontekstowe oraz używanie narzędzi znacznie się udoskonaliły. RAG nadal pozostaje kluczową techniką dla niezawodnych aplikacji AI, ponieważ nawet najsilniejszy model nie może znać wszystkiego ani zawsze mieć dostęp do najnowszych informacji. Wyszukiwanie istotnej wiedzy z zewnętrznych źródeł zmniejsza ilość halucynacji i zapewnia, że odpowiedzi opierają się na wiarygodnych danych.
Dziś ta technologia leży u podstaw platform wsparcia i korporacyjnych chatbotów, asystentów do programowania, narzędzi do badań prawniczych, aplikacji klinicznych, systemów finansowych oraz narzędzi pomagających w zarządzaniu wiedzą wewnętrzną. Mimo to wiele tutoriali od razu przechodzi do bazy danych wektorowych, embeddingów lub kodu LangChain, nie pytając nigdy, dlaczego w ogóle stworzono RAG. Odpowiedź na to pytanie zaczyna się od pierwotnych badań i przechodzi do koncepcji inżynieryjnych leżących u podstaw nowoczesnych systemów produkcyjnych, w tym do tego, dlaczego dokonano określonych wyborów projektowych, jakie one wiążą się z kosztami i jak się zmieniały.
Ograniczenia wiedzy modelu
Gdy modele w stylu GPT po raz pierwszy pokazały imponujące umiejętności rozumienia języka, wielu ludzi założyło, że potrafią odpowiedzieć na niemal wszystko. W pewnym stopniu rzeczywiście tak było. Szkolenie na ogromnych zbiorkach danych nauczyło je faktów z historii, nauki, programowania, matematyki i literatury. Jednak wszystko, co model „wiedział”, zostało skompresowane w jego parametrach podczas szkolenia, a po zakończeniu tego procesu ta wiedza uległa zamrożeniu.
Ludzie pracują w dość podobny sposób. Eksperci nie polegają wyłącznie na pamięci. Kardiolog, który spotyka rzadką chorobę lub nowo zatwierdzone leczenie, najpierw sprawdza aktualne wytyczne kliniczne lub literaturę medyczną. Doświadczony programista Pythona, któremu proponuje się przeniesienie dużej aplikacji na Java, nie zna automatycznie wszystkich frameworków Java ani najlepszych praktyk umożliwiających to bez pogorszenia wydajności czy doświadczenia użytkownika. Czyta dokumentację Java, wybiera framework taki jak Spring w zależności od zakresu aplikacji i przez cały czas konsultuje się z przewodnikami migracji oraz dokumentacją projektu. Umiejętności są już obecne, a materiały zewnętrzne dostarczają kontekstu niezbędnego do dokładnego rozwiązania problemu.
Modele językowe borykają się z tym samym problemem. Ich ogólna wiedza jest duża, ale jeśli zapytamy o coś po terminie ich szkolenia, np. o wewnętrzny dokument firmy lub najnowszą politykę organizacji, nie mają żadnych informacji, na których mogliby się oprzeć. Co gorsza, tam gdzie człowiek przyznałby się do niepewności, model często udziela płynnej, pewnej siebie, ale faktograficznie błędnej odpowiedzi, co obecnie powszechnie nazywa się halucynacją.
Szkolenie modeli na nowo za każdym razem, gdy pojawiają się nowe informacje, również nie było realne, ponieważ zaawansowane modele wymagają ogromnych zasobów obliczeniowych, pieniędzy i czasu. Badacze potrzebowali sposobu, aby model mógł przeczytać istotne informacje z zewnątrz w momencie odpowiadania, bez konieczności ponownego szkolenia. Ta potrzeba doprowadziła do powstania techniki Retrieval-Augmented Generation i położyła podwaliny pod wiele dzisiejszych technik inżynierii kontekstu, których celem jest dostarczenie modelowi właściwych informacji we właściwym czasie.
Dwa rodzaje pamięci
Aby zrozumieć, dlaczego RAG miało takie znaczenie, pomocne jest rozróżnienie dwóch typów pamięci. Pamięć parametryczna to wiedza przechowywana w nauczonych parametrach modelu: wzorce, koncepcje, umiejętności językowe oraz fakty nabyte podczas treningu. Ma ona rzeczywiste ograniczenia:
- Nie można jej łatwo aktualizować.
- Może być przestarzała.
- Rzadkie fakty mogą zostać zapomniane.
- Żaden model nie może zapamiętać każdego kiedykolwiek napisanego dokumentu.
RAG wprowadziło pamięć nieparametryczną: wiedzę przechowywaną poza modelem, w dokumentach, bazach danych lub indeksowanym korpusie, który jest wyszukiwany podczas odpowiadania modelu. Zamiast polegać wyłącznie na tym, co zostało zapamiętane miesiące wcześniej, model pobiera istotne materiały na żądanie przed napisaniem odpowiedzi. Ta prosta koncepcja zmieniła sposób, w jaki systemy AI mogą radzić sobie z wiedzą, która ciągle się zmienia.
Wyszukiwanie przed modelami językowymi
Techniki wyszukiwania istniały już przed modelemi językowymi o dużej mocy obliczeniowej. Silniki wyszukiwania od dawna borykały się z podobnym problemem: przy milionach dokumentów, które z nich są najbardziej istotne dla zapytania użytkownika? Wczesne systemy porównywały słowa, licząc, jak często terminy z zapytania występowały w dokumencie. TF-IDF (Częstotliwość terminu – Odwrotna częstotliwość dokumentu) ulepszył ten podejście, nadając większą wagę słowom istotnym i mniejszą słowom powszechnym. BM25 stał się później standardem branżowym w rankowaniu, dzięki bardziej udoskonalonej funkcji oceny, która uwzględnia zarówno częstotliwość terminów, jak i długość dokumentu, i nadal stanowi kluczową część wielu systemów wyszukiwania w użyciu.
Te metody dobrze funkcjonują, gdy dokładne słowa kluczowe występują w dokumencie. Mają trudności, gdy dwa fragmenty wyrażają tę samą ideę innymi słowami, a właśnie ta luka otworzyła drogę do wyszukiwania semantycznego.
Gdy sieci neuronowe się udoskonalały, badacze zaczęli reprezentować tekst jako gęste wektory, znane jako embeddingi. Embedding to liczbowa reprezentacja słowa, zdania lub dokumentu w przestrzeni wysokowymiarowej, często nazywanej przestrzenią embeddingów lub ukrytą przestrzenią. Pojedyncze liczby same w sobie niewiele znaczą. Razem jednak oddają znaczenie, dzięki czemu teksty o podobnym znaczeniu znajdują się blisko siebie, a niepowiązane ze sobą koncepcje są daleko od siebie. Dzięki temu klasterowaniu wyszukiwanie może opierać się na znaczeniu, a nie na dokładnym dopasowaniu słów kluczowych.
Weźmy użytkownika, który pyta, jak poprawić wydajność sieci neuronowej. Dzięki embeddingom taka zapytanie może nadal znaleźć dokument zatytułowany „Techniki optymalizacji modeli uczenia się głębokiego”, mimo że ani „sieć neuronowa”, ani „wydajność” nie występują w jego treści. Po umieszczeniu zarówno zapytań, jak i dokumentów w formie embeddingów, wyszukiwanie staje się poszukiwaniem wektorów dokumentów najbliższych wektorowi zapytania. Ta koncepcja leży u podstaw Dense Passage Retrieval (DPR), przedstawionego w 2020 roku. DPR pokazał, że gęste wyszukiwanie semantyczne przewyższa tradycyjne wyszukiwanie według słów kluczowych w wielu testach dotyczących odpowiadania na pytania w domenie otwartej, i stało się jednym z elementów, które umożliwiły powstanie RAG.
Od znajdowania dokumentów do odpowiadania na pytania
Retrywalizacja semantyczna obejmowała tylko połowę zadania. Ludzie nie chcą listy dokumentów, chcą odpowiedzi, co prowadzi do odpowiadania na pytania w domenie otwartej. System w domenie zamkniętej czerpie odpowiedzi z ustalonej bazy wiedzy lub zestawu danych. Odpowiadanie na pytania w domenie otwartej wymaga przeszukania milionów dokumentów w poszukiwaniu przydatnych informacji przed udzieleniem odpowiedzi. W przypadku pytania takiego jak „Kto wygrał Nagrodę Nobla w fizyce w 2024 roku?”, system najpierw przegląda ogromną kolekcję w poszukiwaniu najlepszych dowodów, a następnie tworzy na ich podstawie swoją odpowiedź.
To daje dwuetapowy proces:
- Pobierz najbardziej istotne dokumenty.
- Stwórz odpowiedź na podstawie tych dokumentów.
To podejście typu „pobierz, a następnie wygeneruj” stanowi koncepcyjne podstawy współczesnego RAG. Artykuł z 2020 roku zatytułowany Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks sformalizował je, łącząc intensywny mechanizm wyszukiwania z modelem generowania sekwencji w jednej architekturze end-to-end. Jego główna idea była prosta: nie należy prosić modelu językowego o odpowiadanie wyłącznie na podstawie jego wewnętrznych parametrów. Najpierw należy pobrać najbardziej istotne dokumenty zewnętrzne, a następnie kierować proces generowania na podstawie tych fragmentów. Mechanizm wyszukiwania nie zastąpił modeli językowych – wzmocnił je, zapewniając lepszą dokładność faktograficzną, lepsze wyniki w zadaaniach wymagających dużych ilości wiedzy oraz wiedzę, którą można odświeżyć poprzez zmianę zbioru dokumentów, bez konieczności ponownego trenowania modelu.
RAG-Sequence versus RAG-Token
W artykule zaproponowano dwie strategie wyszukiwania. RAG-Sequence pobiera raz, przed rozpoczęciem generowania, ustalony zbiór dokumentów istotnych dla tematu, a te pozostają niezmienne przez całą odpowiedź. Jest to rozwiązanie efektywne pod względem obliczeniowym i łatwe do wdrożenia; stanowi ono podstawę większości systemów RAG używanych w praktyce.
RAG-Token jest bardziej dynamiczny. Model może pobierać różne dokumenty w miarę generowania poszczególnych części odpowiedzi, co teoretycznie umożliwia mu pozyskiwanie aktualnych informacji w momencie potrzeby dodatkowego kontekstu i może prowadzić do bardziej trafnych odpowiedzi.
Zdjęcie przedstawiające pisanie raportu badawczego. W przypadku RAG-Sequence cały materiał referencyjny jest zebrany przed pierwszym zdaniem. Z kolei RAG-Token pozwala autorowi przerywać pisanie raportu w dowolnym momencie, aby sprawdzić coś, gdy pojawi się nowe pytanie. Drugi podejście jest bardziej elastyczne, ale wymaga znacznie więcej operacji wyszukiwania, generuje większe obciążenie obliczeniowe i powoduje opóźnienia. Dlatego większość systemów produkcyjnych wybiera prostszy model RAG-Sequence i koncentruje swoje wysiłki na samej procedurze wyszukiwania, wykorzystując hybrydowe metody wyszukiwania, ponowne sortowanie wyników, przepisywanie zapytań oraz filtrowanie metadanych.
Gdzie zawiodł pierwotny projekt
Mimo swojej rewolucyjności, pierwotna architektura miała wady, które ujawniły się po jej wdrożeniu w rzeczywistych warunkach:
- Jakość generowanego tekstu była ograniczona jakością wyszukiwania informacji.
- Nieodpowiednie dzielenie tekstu na fragmenty pogarszało dokładność wyszukiwania.
- Okna kontekstowe ograniczały ilość danych, które można było dostarczyć.
- Metoda gęstego wyszukiwania czasami pomijała ważne dopasowania dokładnych terminów.
- Wyszukiwanie odbywało się przed generowaniem tekstu, co powodowało opóźnienia.
- Wsparcie dla danych strukturalnych, tabelarycznych i multimodalnych było ograniczone.
Te problemy doprowadziły do lat dalszych badań, a ostatnie pięć lat całkowicie przekształciło technologię RAG. Modele językowe stały się znacznie bardziej zdolne, modele embeddingowe ulepszyły się, a bazy danych wektorowych dojrzały. Szukanie hybrydowe łączy wyszukiwanie leksykalne z semantycznym, a narzędzia cross-encoder rerankers ulepszają wybór dokumentów. Nowsze systemy dodają filtrowanie metadanych, przepisywanie zapytań, kompresję kontekstu, adaptacyjne wyszukiwanie oraz procesy pracy oparte na agentach, natomiast badacze zaproponowali takie podejścia jak GraphRAG, Self-RAG, Corrective RAG (CRAG), RAPTOR oraz wyszukiwanie multimodalne. Te ulepszenia naprawiają wiele błędów występujących we wczesnych rozwiązaniach, ale żadne z nich nie zastępuje kluczowego kroku polegającego najpierw na znalezieniu odpowiednich informacji.
Dzisiejsze architektury produkcyjne bardzo różnią się od prostego procesu z 2020 roku, jednak podzielają jego podstawową zasadę: znajdź istotną wiedzę przed sformułowaniem odpowiedzi.
Zmiana sposobu myślenia
Najbardziej uderzające jest to, że RAG nie sprawił przede wszystkim, że modele językowe stały się mądrzejsze. Zmienił raczej sposób, w jaki ludzie nimi korzystają. Zamiast oczekiwać, że model zapamięta coraz większą ilość wiedzy, RAG traktuje informacje z zewnątrz jako coś, co można pobrać w momencie potrzeby. Ta zmiana umożliwiła stworzenie systemów bardziej dokładnych, bardziej niezawodnych i zdolnych do radzenia sobie z ciągle zmieniającymi się informacjami.
Znajomość początków RAG to coś więcej niż lekcja historii. Wyjaśnia, dlaczego nowoczesne systemy wyglądają w taki sposób i dlaczego określone decyzje architektoniczne są istotne po wprowadzeniu ich do produkcji. Zespół, który rozumie pierwotne motywacje, potrafi określić, które nowe techniki adresują rzeczywiste słabości, a które jedynie dodają złożoności.
Pozycje pokrewne
- RAG z pierwszych zasad: jak faktycznie działa generacja wzmacniana wyodrębnianiem danych — Przewodnik oparty na pierwszych zasadach generacji wzmacnianej wyodrębnianiem danych: dlaczego istnieje, jak porównuje się ją z dopasowywaniem modeli, jej rozwój, procesy offline i online oraz możliwe błędy.
- Praktyczne notatki: Co to jest generacja wzmacniana wyodrębnianiem danych (RAG)? Praktyczny przewodnik — Szczegółowy przewodnik po temacie: Co to jest generacja wzmacniana wyodrębnianiem danych (RAG)? Praktyczny przewodnik: kontrakty, sprawdzenia oraz gotowe fragmenty kodu dla zespołów wdrażających ten model.