Параўнанне 16 архітэктур RAG: які патэрн для якой задачы

Чатботы, які створуюць вымышленыя факты, забываюць усё між паведамленнямі або не можу знайсці правільны дакумент, зазвычай страждаюць ад той самай корэннай проблемы: каналу адзыскання дакументаў, які быў спраектаваны занадта проста для выканання задачы. Існуе шысцьце архітэктураў RAG — ад простэйшаг каналу адзыскання да федэрацыйных сістэм, якія захоўваюць прыватнасць, і кожная з іх усунець адпаведную слабасць. У наступным раздэле будзе рассказана, што такое кожная з іх, калі яна падходзіць і што яе адрознівае ад іншых.

Тры проблемы, якія стояць за RAG

Мадэлі большых мов ўражаюць, пры тым тры базовыя недагоды робяць іх ненадзеянымі ў рэальных застосоўаннях.

Паўначальна проблема — галюцынацыі. Мадэль са впэўненасцю выкладвае некальтэкстнае інфармацыю, і не час а час, а рэгулярна, таму што яна не мае уявлення пра тое, чаго не ведае. Другая проблема — канец веды: кожная мадэль застаецца на этапы свайго навчання і не ведае нічога пра тое, што адбылася пасля. Трэцяя проблема — слепасць да прыватных дадзэнняў. Внутрашнія дакументы, базы дадзэння продуктам і контракты з кліентамі ніколі не былі часткай яе навчання.

RAG рашае ўсе тры проблемы, даўаючы модэлі спісак рэальных дакументаў прытым, прытым як яна адпавядае. Пораўняйце гэтыя два спосабы дзеяння. Без адзысквання:

Without RAG:
  User: "What's our refund policy?"
  LLM:  "I believe you offer a 14-day return..." (guessing)

І ўсё, што з ім:

With RAG:
  User: "What's our refund policy?"
  → Step 1: Search internal docs → Finds: "Refunds within 30 days..."
  → Step 2: LLM reads the doc and answers accurately
  LLM:  "Your refund policy allows returns within 30 days..."

Канцэпцыя простая, а рэзультаты — сільныя, хоць сістэма становіцца болей складнойя ў меру збільшэння колькасці сцэнарыяў выкарыстоўвання. Чатыроэтапны працэс, які лежыць у основе кожнага варыянта, складаецца з індэксавання, выявлення, дапраўлення і стварэння.

Шысцьціна шаблонаў у чатырох рангах

Сортаванне шаблонаў па ўплыве на рэальны свет дазволяе выдзеліць чатыро рангі. Першы ранг пакрывае тое, што патрэбна прыблізна 80% сістэм у працэўным рэжыме, а пасляўшыя рангі спрамованы на рашэнне спецыялізаваных проблем.

Ранг 1: неабходнае для ведання

1. Стандартны RAG — аднойчына падстава

Рывень складнасці: пачаткавік. Найкрашчы для тых, хто толькі пачынае. Кожны праект RAG пачынаецца звярху, і гэты падход складаецца з чатыроэтапна:

1. Індэксавання: раздзеліце дакументы на часткі, ператворыце іх у эмбедынгі і зберыце ў базе дадзеных вектараў.
2. Выявлення: ператворыце запіт корыстніка на эмбедынг і шукайце супадзяючыя часткі.
3. Дапраўлення: уключыце выявленыя часткі ў запрошэнне.

Стварэнне: LLM адпавяда на пытанні на адпаведным кантэксце.

Цэнтральны цыкл складаецца з прыблызна дзесяці ліній:

# The core loop in ~10 lines
query_embedding = embed(user_query)
relevant_docs = vector_store.search(query_embedding, top_k=5)
context = "\n".join(relevant_docs)
prompt = f"Answer using this context:\n{context}\n\nQuestion: {user_query}"
answer = llm.generate(prompt)

Гэта проста, яна справляецца з большасцю рэальных сцэнарыяў выкарыстоўвання, а ўсе іншае будуецца на ёй. Аднойчы яна падыйдзе, калі трэба стварыць першага бота для адпаведзення на запытанні на адной з дакументаў компаніі, PDF-файлаў, заяваў на падтрымку чы ў будзь-якай статычнай базе знанняў.

2. Гібрыдны RAG – найбольшы прырост якасці

Рывень складнасці: пачаткавік. Найкрашча падходзіць, калі важліва якасць выкарыстоўвання інфармацыі. Семантычны пошук за дапамогою эмбедынга не знаходзіць точных зусваймаў ключоўых слоў, а пошук за ключоўымі словамі з BM25 не врачынае значэння, таму гібрыдны метод выкарыстоўвае аба падходы.

User: "React useState hook"
→ Semantic search finds: "state management in React components"
→ BM25 finds: docs with exact string "useState"
→ Hybrid (RRF fusion): gets the best of both

Фузыя взаімных рангаў (RRF) спаўнаюе два спіскі з рангаванням без неабходнасці нормалізаваць іх балы, што робіць яе элегантной і эфектывной. Ёсць багато команд, якія адзначаюць падышак точнасці на 10–20 процэнтоў ліш чырпаючы ўжо гэты падход. Яна падходзіць для будзь-якай сістэмы вырабоцтва, у чыяму ўпэўненасці ў точных тэрмінах і значэннях мае важлівое значэнне, у тым чысла для дакументацыі коду, тэхнічных інструкцыяў і правовых дакументаў.

3. Кантэкстуальнае выкарыстоўванне дакументаў RAG, створанае для дыялогу

Складнасць: сярэдняя. Выберыце яе, калі з’явяцца дапаможныя запытанні. Частая прычына нявярнага рэзультата — калі хтось запытаеся пра пакет Premium, а потым — скількі ён коштае. Стандартны RAG шукае ўтварэнні на кшталт „скількі коштае“ і не знаходзіць нічага корыстнага. Штосьце такое рашэнне перапісвае запыт, выкарыстоўваючы історыю дыялогу, прытым як шукае.

User turn 1: "Tell me about the Premium plan"
User turn 2: "How much does it cost?"

Before search, rewrite → "How much does the Premium plan cost?"
Now retrieve → finds the pricing document ✓

Этап перапісву, які частая называюць кантэкстуалізацыя запытку, ўсёж неабходны ў будзь-ям чатбоце з кальцамі пераказоў, адколі дыялог руйнуецца ў той момент, калі хтось вжывае займеннік. Якшто корыстувачы можаць ставіць дапаможныя запыткі, гэта ўмовна.

Рэгіон 2: конкурэнтная перадача

4. Agentic RAG – популярны трэнд 2025 і 2026 гадоў

Складнасць: сярэдняя. Найкрашча, калі ваш чатбот павінен робіць больш, чым проста шукаць. Стандартны RAG толькі запоўнюе документы, тады як agentic RAG дае модэлю набор абяцэй і дазваляе ям выбіраць сярод іх.

User: "What was NVDA's stock return last quarter vs its historical average?"

Agentic RAG decides:
  → Use web_search tool for current stock data
  → Use calculator tool for return calculation
  → Use document_retrieval tool for historical reports
  → Synthesize all three into one answer

Агент выконваець прыем Рэакт, тое ўзроумляючы і дзеячы: думае пра тое, што трэба зрабіць, зрабляе гэта, спазірае на рэзультат і зноў думае. Гэта адпавядае планаванню і запошуку ў цікле. Гэта падходзіць для фінансавых асістэнтав, інструментаў для даследжэнняў і інструментаў для распрацоўшчыкаў, там, дзе ўжоўчы ўчастваюць калькі джэрэл дадзенаў або актуальная інфармацыя.

5. Сэльф-РАГ, калі пакрыткі непрыемныя

Складнасць: прыглыбока. Аптальна, калі точнасць мае важылыя наследкі. Контроль якосці ўжо ўбудованы ў сам працэс, і сістэма не дае адпаведзі ў спрытку пасля пошуку. Тэкст праходзіць праз чатыры контрольныя точкі. Першая контрольная точка пераканваецца, чы взагалі патрэбен пошук для данага запіту. Другая — пераканваецца, чы знайдзены дакумент дэйсна рэлевантны. Трэця — пераканваецца, чы адпаведзь адпавядае фактам, знайдзеным пад час пошуку, а чатвертая — пераканваецца, чы адпаведзь ёсць корыстной. Адмова ў праходзе ў якую-небудзь з контрольных точак означае, што сістэма зноў выконвае пошук, праверае інфармацыю або адмовляецца даўаць адпаведзь. Медычныя сістэмы, юрыдычныя AI і фінансавыя кансалтанты — гэта натуральныя сферы прыменення, там, дзе халюцынаваная адпаведзь можа завесты да рэальных наследкаў.

6. HyDE RAG, мост між слоўнікамі

Складнасць: адвансаваная. Найкрашча, калі корыстувальнікі вядуць інакша мова, чым у вашых дакументах. HyDE — гэта Hypothetical Document Embeddings. Уявіце, калі корыстувальнік запытаецца, чаму рэчы падаюць, а дакументы гавораюць пра прыгнічэнні светлы важару 9,81 м/с². У яных практычна няма спяльнай лексікі, таму пошук за анкорамі, шчыльна, не дасе рэзультата. Секрэт HyDE — спачатку стварыць фальшывы адказ і прабавіць зьнайсці яго за дапамою гэтага адказа.

User: "Why do things fall down?"
→ LLM generates hypothesis: "Objects fall due to gravitational force..."
→ Search with the hypothesis (technical vocabulary)
→ Find the actual document about gravitational acceleration
→ Answer using the real document

Няма патрэбы ў трэніраванні, і ён працуе без дадатковых налаштаванняў з будзь-якім LLM. Ён падходзіць для продуктав, назначаных для спожыццаў, дзе звычайныя корыстувачы шукаюць тэхнічную дакументацыю.

Ранг 3: спецыялісты з высокым адносам уплыву

7. Graph RAG, для рэляцыйнага аналізу

Рыжысць: сярэдняя. Ідзеальна, калі трэба адпаведзець на пытанні пра зв’язак між X і Y. Вектарны пошук знаходзіць сэроднія дакументы, але не можа адпаведзець на пытанні на кшталт: «Калія компаніі з’яўляюцца ў зв’язку з аднам чалавекам праз прынеймна двух члена рады дырэктараў?», што вымагае аналізу графа. Graph RAG стварае граф знанняў на адной з дакументаў, дзе аб’екты выступаюць у ролі вузлаў, а зв’язкі — канцоў, а запыткі праходзяць па гэтым графе.

Text: "Dr. Chen collaborated with Dr. Patel on a 2022 study funded by NIH."

Graph nodes: Dr. Chen, Dr. Patel, 2022 study, NIH
Graph edges: COLLABORATED_WITH, FUNDED_BYQuery: "Who funded Dr. Chen's work?" → traverse: Chen → study → NIH

Найбольшую парадыгму адчыняюць сабэстоянне з законам, кантролл веды, навуковая літэратура і арганізацыйскія сеткі.

8. RAG з падаўненнем памяці – бот, які запамячае вас

Складнасць: сярэдняя. Яго можна выкарыстоўваць тады, калі чат-бот павінен запамячаць своіх корыстувачаў між сесіямі. У стандартным боце кожная розмова пачынаецца з нуля. У гэтым варыянце ёсць тры відменнікі памяці: памяць розмовы для тэкушчай беседы, сэмантычная памяць для фактов пра корыстувача, такіх як праганак тэхнічных адказоў, і эпізодычная памяць для пакананых сесій, напрыклад, запытанне пра які-небудзь тэму, заданае два тыдзены раней.

user_profile = memory.get_user_facts(user_id)
recent_context = memory.get_recent_conversations(user_id, k=3)
answer = rag_with_context(query, user_profile, recent_context)
memory.update(user_id, query, answer)

Програмы для індывідуальных заняццяў, боты для падтрымкі кліянтаў і асістэнты для паўтарнай выдатнасі даходзяць да найбольшых рэзультатаў.

9. Модульны RAG: можна заменіць будзь-яю частку без перапісву.

Рывень складнасці: сярэдні. Ідэальна для быстрой ітэрацыі. Цэя архітэктурная філасофія дазволяе незалежна заменяць кожны компонент паўтарнай выдатнасі. Пераход з FAISS на ChromaDB адбываецца за адну лінію коду, а тэставанне BM25 протыпа ўмоўкнутага спосабу выкарыстоўвання не трэбуе рэфакторавання.

Standard RAG:   [fixed retriever] → [fixed reranker] → [fixed LLM]

Modular RAG:    [pluggable retriever] → [pluggable reranker] → [pluggable LLM]
                     ↑ swap anytime         ↑ swap anytime        ↑ swap anytime

Цэлевым аудыянтам являюць команды, якія актыўна эксперыментуюць, дзеяць над доследжэнням размацоў, а таксама будзь-якія праекты, структура якіх, як спадзяваюцца, будзе развівацца.

10. RAG спецыяльна для певнай галузі, створаны для адпаведнай працы

Рыгорк: адвансаваны. Выберыце яго для медыцыны, права чыста фінансаў. Абракатура MI для кардыялага абазуецца на інфаркцы ў серцы, але чат-бот, які не мае спецыяльных знанняў, спрыяе яго як назву штата Мічыган. Звычайны RAG не функцыонуе ў спецыялізаваных галузях, і не таму, што працэс выкарыстоўвання інформацыі ўскладнены. Сістэма проста не розумее спецыялістычнай тэрміналогіі, прававых трэбаванняў чыста абмежэнняў безпекі. Тры дадатковыя элементы ствараюць розніцу: слоўнік галузі з саеўскімі тэрмінамі, абракатурамі чыста сінонімамі; правілы салідарнасці, такія як адключэнне застэрэжэнняў чыста цітаванне адказоў да істочнікаў ў кожны раз; чыста меры безпекі, напрыклад, адмова ад прымыслу конкрэтных доз чыста направленне корыстніка да спецыяліста. Тыповыя сферы выкарыстоўвання — клінічная падтрымка рашэнняў, прававыя даследжэння, фінансавы аналіз чыста контроль салідарнасці.

11. Расшырэны RAG, тры істочнікі чыста адказ

Складнасць: прыглыбока. Найкрашча, калі патрэбны як структураваныя, так і неструктураваныя даныя адночасна. Адна запіта з’еднае SQL або іншыя структураваныя базы дадзеных для точных цыфр, графы знанняя для взаінасоўанняў, а таксама эмбеддынгі дакументаў для наратыўнага кантэксту.

Query: "Tell me about the Mars Exploration Program"

→ SQL: "Mars: 1.52 AU from sun, 687-day orbit"
→ Graph: Mars → explored_by → Curiosity Rover, Perseverance
→ Text: "Mars is the fourth planet... known as the Red Planet..."→ Fused Answer: Combines all three for comprehensive, expert-level response

Інструменты науковых ісследавань, платформы фінансавайго аналізу і корпаратывныя базы знаёмых з разнымі тыпамі дадзейных выгадваюць ад гэтага.

12. Рэкурсыўны або багатыяпрыемны RAG для складных запытанняў

Складнасць: высокая. Выберыце яго, калі адна ліш тэрмінальная пашуковая операцыя не можа адпаведаць запытанню. Дзеяныя запытання выклікаюць патрэбу ў ланцузе знаёмых. Чым саме адкрыцце транзістара прынесла сучасную штучную інтэлігэнцію, можна зрозумець толькі праз прынеймна пяць ўзлётаў: транзістар, інтэграваныя меркавыя схемы, CPU, GPU, глыбокая навучэння, LLM-ы. Рэкурсыўны RAG аднарава знаходзіць, выучаецца і зноў аднарава знаходзіць інформацыю.

Round 1: Retrieve about transistors → learn about miniaturization
Round 2: Retrieve about integrated circuits → learn about computing power
Round 3: Retrieve about GPUs → learn about parallel processing
Round 4: Retrieve about deep learning → learn about compute requirements
Round 5: Synthesize the full chain into a coherent answer

Памагчыкі для даследжэнняў, акадэмічныя інструменты, стратэгічны аналіз і любыя запытанні, якія выклікаюць калькуляцыі з калькольніка, выклікаюць яго неабходнасць.

Ранг 4: спецыялізаваныя сцэнарыі выкарыстоўвання

13. ODQA RAG – адпаведзь на будзь-што

Рыжысць: сярэдняя. Найэфектывнейша, калі база знанняяў вельмі вялікая і нефіксаваная. Адпаведзанне на запытанні з адкрытых домэнаў – цэх RAG у масштабах, якія пакрываюць науку, гісторыю, геаграфію і культуру. Адзінныя вызванні – гэта не якасць выкарыстоўвання дакументаў, а ўправлінне масштабамі і вядомасць пра тое, калі адпаведзь невядома. ODQA дадае оцэнку доверлівасці, таму, калі знайдзеныя дакументы не маюць хорашай адпаведзі, сістэма прызнае, што яна не ўпэўнена, і не стварае халюцынацый. Яго выкарыстоўваюць памагчыкі загальнага назначэння, боты для трывіі, платформы для даследжэнняў і внутрашнія базы знанняяў разных домэнаў.

14. Multi-Modal RAG – тэкст, адпрыемкі і адгулкі разам

Складнасць: прыглыблена. Найэфектывнейша, калі база знання ўключае адпраўкі, дыяграмы чы ўсёга аудыя. Большасць сістэм RAG обрабоцвае толькі тэкст, аднак рэальныя знанні таксама могу выражацца праз анатамічныя дыяграмы, фота продуктав, запісі чы статыстычныя дыяграмы. Мульты-модальная сістэма стварае адну прастору укладкі, якая ўзаемна выкарыстоўваецца для розных фарматаў дадзеных, тады запіт на тэкст можа знайсці адпраўку, а запіт на адпраўку — дакумент.

User (text): "Show me the anatomy of the heart"
→ Retrieves both: text descriptions AND anatomical diagrams
→ Response includes both text explanation and relevant image

Медычная адукацыя, каталогі продуктав, платформы для электроннага навучэння і архіўы медыя ўзгодныя для такога прыменення.

15. Стрымінгавы RAG, знанні ў рэальны час

Складнасць: сярэдняя. Найкрашча працюе, калі інфармацыя зміняецца кожныя калькі хвілін. Запыт, заданы о 9 ранку і знову о 11 ранку, заслуговае на разныя адпаведзі, калі змяніліся даны, на якіх ён базуецца. Стрымінгавы RAG падтрымлівае постаўна апдэйтаваную базу знанняў, індэксуючы новыя дакументы ў момент ўраджэння.

Time 9:00 AM: "What's happening with NVDA?"
→ Retrieves this morning's earnings report

Time 11:30 AM (after news breaks): "What's happening with NVDA?"
→ Retrieves the breaking news from 11:15 AM

Памяць для новых фінансавых спадчынакоў, боты для жывой падтрымкі, а таксама панелі кантролю за заходамі і ўпрацоўкай дадзеных выкарыстоўваюць яе.

16. Федэрацыйны RAG, прыватнасць на першым месцы і кантроль з калькі лякаў

Рывень складнасці: высокі. Найэфектывней калі дадзеныя не можаць пакінуць свой адпаведны істочнік. Яна рашае базовую проблему ў корпаратыўнай штучнай інтэлекту: калькі власнікаў дадзеных хочуць спільную сістэму, але ніхто не можа даліць сырыя дадзеныя. Тыповым прыкладам ёсць лікарні, якія дапамагаюць медычным асістэнтам, адтолькі ўсі запісы паціентав не можна централізаваць. Кожны істочнік выкарыстоўвае свой сае локальны механізм пошуку, запыткі надаюцца ўсім істочнікам адразу, і толькі адзінкі дадзеных, а не сырыя дадзеныя, прабіваюць у цэнтральную сістэму.

Central Query: "What's the survival rate for treatment X?"

→ Hospital A retriever: returns relevant anonymized snippets
→ Hospital B retriever: returns relevant anonymized snippets
→ Hospital C retriever: returns relevant anonymized snippets
→ Central LLM synthesizes — never saw raw patient recordsResult: HIPAA/GDPR compliant, collaborative AI

Цілью ўсё тыя сеткі здравоцохранення, фінансавыя кансорцыумы, правовыя базы дадзэнняў і будзь-якія багатоорганізацыйныя структуры, якія маюць трэбаванні да керавання дадзэннямі.

Парадак стварэння месяц за месяцам

Не патрабуецца ўсе шысцьнаць элементаў з самага пачатку. Большасць прымэтных сістэм развіваецца поступова.

Month 1:  Standard RAG           ← Get something working
Month 2:  + Hybrid RAG            ← Biggest retrieval quality win
Month 3:  + Contextual Retrieval  ← Multi-turn conversations work now
Month 4:  + Self-RAG              ← Stop hallucinations
Month 5:  + Agentic capabilities  ← Tools beyond just search

This covers 80-90% of production RAG needs.

Спалучэнне шаблонаў

Сістэмы вырабоцтва практычна завжды выкарыстоўваюць калькі шаблонаў. Калькі прыкладаў:

• Корпаратыўны чатбот спалучае Стандартны, Гібрыдны, Кантэкстуальны і Мемарыяльны шаблоны для багатоэтапных размов, эфектывнага пошуку і персаналізаціі.
• Медычны асістэнт спалучае Шаблоны, спецыяльныя для певных домэнаў, Self-RAG і Расшырэнныя шаблоны, адтолькі як важна точнасць і участвуюць структураваныя даны.
• Інструмент для даследжэнняў спалучае Агентны, Гібрыдны і Рэкурсыўныя шаблоны для складных запытанняў, калькі крокаў і інструментаў.
• Служба падтрымкі кліянтаў спалучае Стандартны, Кантэкстуальны і Стрымінгавы шаблоны для далейшага адстаўлення і рэальнага часу апошніх змян.
• Правовыя даследжэнні спалучаюць Шаблоны, спецыяльныя для певных домэнаў, Графічныя шаблоны і Гібрыдныя шаблоны для выявлення адносаў між ентытамі і точных цітатаў.
• Аналізатор новасей спалучае Стрымінгавы, ODQA і Мультымадальныя шаблоны для даных у рэальны час, шырокіх тэм і адпраўкі зображэнняў.

Кароткі выбір

Для першага бота для адміністрацыя пытанняў над дакументамі пачніце з Standard RAG. Для лепшага пошуку ў працэйнай асяроддзя дадаце Hybrid. Бот для чату з калькамі патрабуе Contextual Retrieval, а бот, які выклікае інструменты чыста API, патрабуе версію з агентамі. Высокая тачнасць у медыцыне чыста праве вялікія Self-RAG, а простыя корыстувальнікі, якія маюць справу з тэхнічнымі дакументамі, патрабуюць HyDE. Для пытанняў, якія залежаць ад адносаў, патрэбен Graph RAG; для персаналізаванага асістэнта — Memory-Augmented; для эксперыментаў з разнымі комплектамі — Modular; а для рэгулюемых галоў — Domain-Specific. Сумешаны структураваны чыста неструктураваны даны падходзяць для Enhanced RAG; пытанні з калькамі — для Recursive RAG; а загальнапраграмовыя Q&A — для ODQA. Для зображэнняў чыста аудыю патрэбен Multi-Modal; для жывых даных — Streaming; а для мнагаорганізацыйных наладак пад HIPAA чыста GDPR — Federated.

Адкліканне прыкладаў

Кожная рэалізацыя прызначаная для безпосерэдньага запуску: клонуйце рэпазітары, установіце неабяжлівыя элементы, задаце кантэкст ключа API OpenAI і пачніце з першага шаблона.

# Clone the repo
git clone https://github.com/Manjunadh86/RAG-Materials.git
cd RAG-Materials

# Install dependencies
pip install -r requirements.txt# Set your OpenAI API key
export OPENAI_API_KEY="sk-your-key-here"# Run your first RAG system
cd 01-Standard-RAG
python hands_on.py

Кожны модуль мае файл README, які пояснюе концэпцыю, архітэктуру і калі яго належы выкарыстоўваць, а таксама запускаемы скрыпт для змены, з адзінкамі да кожнага крока.

RAG продовжае развівацца стрэмганова. Агентныя сістэмы становяцца болей здатнымі, тэхналогіі мультымадальнага пошуку розвіваюцца, а федэраваныя падходы стаюць крытычнымі ў меру паўнейшага строгага рэгулювання AI. Найлепшы спосаб развіцца ў RAG — гэта яго стварэнне.