Чому існує RAG: параметрична пам’ять, щільний пошук та стаття 2020 року.
Чому існує RAG: обмеження параметричної пам’яті, як BM25 та ембеддинги призвели до щільного пошуку, та які компроміси існують між RAG-Sequence та RAG-Token у цій статті.
Джерела: What Is RAG? The Story Behind Retrieval-Augmented Generation and Why It Changed AI Forever
Не існує єдиного правильного способу створення системи RAG. Кожна бізнес-проблема потребує власної архітектури для масштабування, а кожна стратегія пошуку має свої компроміси, тому дизайн, який підходить для бота підтримки клієнтів, може зазнати невдачі під час юридичних досліджень. Ця галузь також розвивається дуже швидко. У 2020 році, коли вперше з’явилась технологія Retrieval-Augmented Generation, мовні моделі були значно слабкішими, ніж зараз. З того часу здатності до міркувань, виконання інструкцій, багатомодального розуміння, роботи з контекстними вікнами та використання інструментів значно покращилися. RAG залишається ключовою технікою для надійних ШІ-застосунків, адже навіть найсильніша модель не може знати все чи завжди мати доступ до найновішої інформації. Отримання релевантних знань з зовнішніх джерел зменшує галюцинації та забезпечує, щоб відповіді ґрунтувалися на надійному матеріалі.
Сьогодні ця технологія лежить в основі платформ підтримки клієнтів та корпоративних чат-ботів, асистентів з кодування, інструментів для юридичних досліджень, клінічних додатків, фінансових систем та внутрішніх помічників з інформацією. Проте багато навчальних матеріалів одразу переходять до векторних баз даних, ембеддингів чи коду LangChain, не пояснюючи, чому взагалі було створено технологію RAG. Відповідь на це питання починається з первісних досліджень та продовжується розглядом інженерних ідей, що лежать в основі сучасних продуктів, включаючи причини обрання певних рішень, їхні витрати та способи змін.
Межі того, що знає модель
Коли моделі у стилі GPT вперше продемонстрували вражаюче розуміння мови, багато хто припускав, що вони можуть відповісти майже на все. Певною мірою вони справді могли. Навчання на величезних наборах даних навчило їх фактам з історії, науки, програмування, математики та літератури. Але все, що знала модель, було стиснуте у її параметрах під час навчання, і коли навчання закінчилося, ці знання застигли.
Люди працюють досить схоже. Експерти не покладаються лише на пам’ять. Кардіолог, який стикається з рідкісною хворобою чи ново схваленим методом лікування, спочатку перевіряє актуальні клінічні рекомендації чи медичну літературу. Досвідчений розробник на Python, якого просять перенести великий додаток на Java, не завжди знає кожну Java-фреймворк чи найкращі практики для цього, щоб не погіршити продуктивність чи користувацький досвід. Він читає документацію до Java, обирає фреймворк, наприклад Spring, залежно від масштабів додатку, та постійно звертається до посібників з міграції та документації проекту. Навички вже є, а зовнішні матеріали надають контекст для точного вирішення проблеми.
Моделі мови стикаються з тією самою проблемою. Їхні загальні знання є сильними, але якщо поставити запитання про щось після кінця періоду навчання, наприклад про внутрішній корпоративний документ чи найновішу політику організації, у них немає нічого, на що можна було б спиратися. Ще гірше те, що там, де людина визнала б свою невпевненість, модель часто дає вільну, впевнену, але фактично неправильну відповідь, що сьогодні широко називається галюцинацією.
Поновне навчання щоразу, коли з’являлася нова інформація, також було нереалістичним, оскільки передові моделі вимагають величезних обчислювальних ресурсів, грошей та часу. Дослідникам потрібен був спосіб, щоб модель могла читати відповідну зовнішню інформацію у момент відповіді без поновного навчання. Ця потреба призвела до появи технології Retrieval-Augmented Generation та стала основою для багатьох сучасних методів роботи з контекстом, метою яких є надання моделі правильної інформації у правильний час.
Два види пам’яті
Щоб зрозуміти, чому RAG мав значення, корисно розрізнити два типи пам’яті. Параметрична пам’ять — це знання, які зберігаються у навчених параметрах моделі: шаблони, концепції, мовні навички та факти, отримані під час навчання. Вона має реальні обмеження:
- Її неможливо легко оновити.
- Вона може бути застарілою.
- Рідкісні факти можуть зникнути з пам’яті.
- Жодна модель не може запам’ятати кожен документ, який коли-небудь був написаний.
RAG додав непараметричну пам’ять: знання, які зберігаються поза моделлю, у документах, базах даних чи індексованих корпусах, які шукаються під час відповідей моделі. Замість того, щоб покладатися лише на те, що було запам’ятано кілька місяців тому, модель отримує необхідні матеріали за потреби перед тим, як написати відповідь. Саме ця проста ідея змінила спосіб, яким системи ШІ можуть працювати з постійно змінюваними знаннями.
Отримання інформації перед моделями мови
Методи пошуку існують ще до появи великих мовних моделей. Пошукові системи вже давно стикалися з подібною проблемою: серед мільйонів документів які є найбільш релевантними для запиту користувача? Ранні системи порівнювали слова, підраховуючи, як часто терміни запиту зустрічалися в документі. TF-IDF (Частота терміна – Обернена частота документа) покращив цей підхід, надаючи більший вагомість інформативним словам та меншу — поширеним. BM25 згодом став стандартом галузі для ранжування, завдяки більш вдосконаленій функції оцінки, яка враховує як частоту терміна, так і довжину документа, і досі залишається ключовою частиною багатьох промислових пошукових систем.
Ці підходи ефективні, коли в документі присутні точні ключові слова. Вони дають проблеми, коли два уривки виражають одну й ту саму ідею різними словами, і саме ця прогалина стала основою для семантичного пошуку.
У міру вдосконалення нейронних мереж дослідники почали представляти текст у вигляді щільних векторів, відомих як ембеддинги. Ембеддинг – це числове представлення слова, речення чи документа у високовимірному просторі, який часто називають простором ембеддингів або прихованим простором. Окремі числа самі по собі майже нічого не означають. Разом вони передають сенс, тож тексти з схожим змістом знаходяться близько один до одного, а непов’язані між собою концепції – далеко одна від одної. Завдяки такій кластеризації пошук може ґрунтуватися на сенсі, а не на точному збігу ключових слів.
Візьмемо користувача, який запитує, як покращити продуктивність нейронної мережі. За допомогою ембеддингів такий запит все одно може знайти документ під назвою „Техніки оптимізації моделей глибокого навчання“, хоча в ньому не згадуються ні „нейронна мережа“, ні „продуктивність“. Після того, як як запити, так і документи були ембеддовані, пошук перетворюється на пошук векторів документів, які найбільш близькі до вектора запиту. Саме ця ідея лягла в основу методу Dense Passage Retrieval (DPR), представленого у 2020 році. DPR показав, що щільний семантичний пошук перевершує традиційний пошук за ключовими словами у багатьох тестах на відповіді на запитання з відкритих доменів, і став одним із елементів, які зробили можливим метод RAG.
Семантичне пошукове забезпечення охоплювало лише половину завдання. Люди не хочуть списку документів, вони хочуть відповідей, і це призводить до відповідей на запитання в відкритій області. Система з закритою областю черпає відповіді з фіксованої бази знань або набору даних. Система для відповідей у відкритій області повинна шукати серед мільйонів документів корисний матеріал перед тим, як дати відповідь. Якщо поставлено запитання на кшталт «Хто виграв Нобелівську премію з фізики у 2024 році», система спочатку сканує величезну колекцію документів у пошуках найкращих доказів, а потім формує свою відповідь на їхній основі.
Це призводить до двоступеневої процедури:
- Отримати найбільш релевантні документи.
- Сформувати відповідь на основі цих документів.
Ця схема «отримання даних, а потім генерація» є концептуальною основою сучасних технологій RAG. У статті 2020 року Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks вона була сформалізована шляхом поєднання інтенсивного механізму пошуку та моделі генерації послідовностей у єдній архітектурі «від початку до кінця». Її основна ідея була простою: не просіть мовну модель відповідати виключно на основі її внутрішніх параметрів. Спочатку отримайте найбільш релевантні зовнішні документи, а потім використовуйте ці фрагменти як умови для генерації тексту. Механізм пошуку не замінив мовні моделі — він їх посилив, забезпечивши кращу точність фактів, кращі результати у завданнях, що вимагають глибоких знань, а також можливість оновлення знань шляхом заміни колекції документів без повторної налаштування моделі.
RAG-Sequence проти RAG-Token
У статті було запропоновано дві стратегії пошуку інформації. RAG-Sequence один раз, ще до початку генерації, завантажує фіксований набір відповідних документів, які залишаються незмінними протягом усього відповіді. Цей підхід є ефективним з точки зору обчислень та простим у реалізації, і саме він лежить в основі більшості продакшн-систем RAG.
RAG-Token є більш динамічним. Модель може знаходити різні документи під час генерації різних частин відповіді, що теоретично дозволяє їй отримувати актуальну інформацію щоразу, коли потрібен додатковий контекст, і це може призводити до більш обґрунтованих відповідей.
Зображення, що ілюструє написання дослідницького звіту. За допомогою RAG-Sequence вся довідкова інформація збирається до першого речення. За допомогою RAG-Token автор може зупинитися посеред звіту, щоб щось знайти, коли виникає нове питання. Другий підхід є більш гнучким, але вимагає значно більшої кількості операцій з пошуку, споживає більше обчислювальних ресурсів та створює затримки. Саме тому більшість продакшн-систем обирають простіший дизайн RAG-Sequence та зосереджують свої зусилля на самій системі пошуку, використовуючи гібридний пошук, переранжування, переписування запитів та фільтрацію метаданих.
Де провалився початковий дизайн
Хоча початкова архітектура була революційною, у неї були недоліки, які проявилися після її впровадження в реальних умовах:
- Якість генерації була обмежена якістю пошуку інформації.
- Неправильне розділення тексту на частини погіршувало точність пошуку.
- Вікна контексту обмежували кількість інформації, яку можна було надати.
- Метод щільного пошуку іноді пропускав важливі точні збіги термінів.
- Пошук відбувався перед генерацією, що збільшувало затримку.
- Підтримка структурованих, табличних та багатомодальних даних була обмеженою.
Ці проблеми стали причиною багаторічних подальших досліджень, і за останні п’ять років технологія RAG зазнала значних змін. Моделі мови стали набагато потужнішими, моделі ембеддингу вдосконалилися, а бази даних векторів досягли більшої зрілості. Гібридний пошук поєднує лексичне та семантичне пошукове функціонування, а інструменти переранжування документів допомагають обирати найкращі варіанти. Новіші системи додають фільтрацію метаданих, переписування запитів, стиснення контексту, адаптивне пошукове функціонування та агентські робочі процеси; крім того, дослідники запропонували такі підходи, як GraphRAG, Self-RAG, Corrective RAG (CRAG), RAPTOR та багатомодальний пошук. Ці доповнення виправляють багато помилок ранніх версій цієї технології, але жодне з них не замінює основного етапу — отримання необхідних даних.
Сучасні промислові архітектури сильно відрізняються від простої схеми 2020 року, проте вони діляться її основним принципом: отримувати релевантні знання перед тим, як генерувати відповідь.
Зміна способу мислення
Найбільш помітним є те, що RAG не стільки робить мовні моделі розумнішими, скільки змінює спосіб їх використання. Замість того, щоб очікувати від моделі запам’ятовування все більшої кількості знань, RAG розглядає зовнішню інформацію як щось, що можна отримати за потреби. Ця зміна дозволила створювати системи, які є більш точними, надійними та здатними справлятися з постійно змінною інформацією.
Знання про походження RAG — це більше, ніж урок історії. Це пояснює, чому сучасні системи виглядають саме так, і чому певні архітектурні рішення мають значення після впровадження. Команда, яка розуміє первісні мотиви, може визначити, які нові техніки вирішують справжні проблеми, а які лише додають складності.
Пов’язана література
- RAG від перших принципів: як насправді працює Retrieval-Augmented Generation — Огляд концепції Retrieval-Augmented Generation з точки зору перших принципів: чому вона існує, як вона порівнюється з процесом тонкої налаштуваності, її еволюція, офлайн та онлайн процеси обробки даних, а також можливі причини невдач.
- Практичні нотатки: що таке Retrieval-Augmented Generation (RAG)? Практичний посібник — Детальний посібник з практичних аспектів концепції Retrieval-Augmented Generation (RAG): контракти, перевірки та готові фрагменти коду для команд, які впроваджують цю технологію.