Сім способів, якими відповідь RAG може бути неправильною, та як визначити етап, у якому виникла проблема.
Практичний спосіб діагностики неправильних відповідей RAG: сім причин невдачі, розділених на три етапи, чотири поля для запису та один тест, який визначає причину проблеми.
Джерела: The RAG Pipeline as Building Blocks: Seven Ways an Answer Goes Wrong
Коли система RAG дає неправильну відповідь, проблема виникає саме в одному з семи місць, і саме це визначає, що потрібно змінити. Навіть якщо налаштувати ту частину, яка раніше працювала коректно, відповідь залишається такою ж неправильною.
Запит проходить через етапи парсингу та розділення на частини, створення ембеддингів та індексування, пошук інформації, формування контексту та генерація відповіді. Будь-який з цих етапів може зламатися, і результат буде однаковим у будь-якому випадку. Без знання причини збою виправлення є лише припущенням: зміна розміру частин, використання іншої моделі ембеддингів чи зміна алгоритму ранжування впливають на кожен запит одночасно.
Далі наведений метод діагностики. Він вказує сім місць, де може виникнути проблема з відповіддю, групує їх у три етапи, відповідальні за її виправлення, та перелічує чотири показники, які допомагають їх розрізнити.
Погана відповідь приховує свою причину
Кожен з семи етапів призводить до того, що відповідь є вільною від помилок, впевненою, але все одно неправильною чи неповною. У результаті немає жодних ознак, які б вказували на конкретний етап, що зламався.
- Усі сім варіантів виглядають однаково після отримання. Абзац, якого ніхто не писав, фрагмент, захований на восьмому рівні, та модель, яка читала неправильний стовпець таблиці, усі вони стають однією переконливою відповіддю.
- Проте ці рішення не передаються. Процес обробки визначає, що існує, процес пошуку — що знаходиться, процес складання — що надсилається, а запит — що з цим відбувається. Зусилля, витрачені на неправильний рівень, нічого не змінюють у тому, що не функціонує.
- Здогадки коштують дорожче, ніж сама помилка. Перезавантаження всього корпусу даних для виправлення проблеми форматування займає дні та залишає проблему без змін.
Краще запитати, де останнім часом текст відповіді залишався цілим, та на якому етапі він був втрачений.
Сім невдач у трьох етапах
Ці сім випадків взяті з опублікованого дослідження систем RAG у робочому стані (arXiv 2401.05856); тут вони перейменовані за причиною виникнення проблеми. Вони класифіковані за місцем розташування елементів, необхідних для виправлення, тож виявлення несправності в певній групі вже звужує можливі варіанти.
Прийом даних: відсутній контент
Необхідна інформація так і не перетворилась на текст, який індекс міг би пошукати. Можливо, жоден джерельний документ її не містить, або вона зникла під час парсингу, очищення чи розділення на частини.
- Відсутній контент. У внутрішній вікі запитують про батьківську відпустку в Ірландії. Була написана лише інформація про політику США, проте система все одно надає відповідь.
Обидві причини призводять до одних і тих самих симптомів, але вимагають різних способів виправлення. Якщо цей факт ніхто ніколи не записував, система повинна мати змогу відмовити у відповіді. Якщо дані були пошкоджені під час прийому, потрібно перевірити парсер, правила очищення чи завдання синхронізації, яке тихо зупинилося.
Отримання та контекст: не отримано, вирізано перед запитом, прочитано неправильне значення
Факт знаходиться десь у певному фрагменті, проте модель отримала щось інше.
- Не отримано. Фрагмент є в індексі, але пошук просто не виявив його. Уявіть собі значення крутного моменту у таблиці характеристик у посібнику, яке втрачає пріоритет перед загальною сторінкою з усуненням несправностей.
- Вирізано перед запитом. Пошук повернув його, але він так і не потрапив до контексту. Дванадцять заявок на підтримку відповідають запиту про невдалі імпорти, а ліміт токенів залишає п’ять.
- Прочитано неправильне значення. Фрагмент був у запиті поруч із дублікатом, застарілою версією чи сильним шумом, і модель використала неправильне джерело. При цьому з’являються як сам контракт, так і його скасована поправка, а дата продовження походить від старої версії.
Порядок також має значення, як і відповідність. Дослідження довгих контекстів (arXiv 2307.03172) показують, що моделі краще використовують матеріал на початку та в кінці, ніж у середині, тож частина тексту може дістатися до запиту, але все одно залишитися непоміченою.
Чому тут з’являється неправильне значення? Модель створила помилку, тож це схоже на проблему з генерацією. Але виправлення майже завжди відбувається на ранніх етапах: потрібно видалити дублікати, позбутися застарілих версій, прибрати шум, переупорядкувати контекст. Переписування запиту рідко допомагає.
Генерація: неправильний формат, неправильний обсяг, неповність
Модель бачила все необхідне, але все одно створила погану відповідь.
- Неправильний формат. Правильні факти у неправильній формі: просили перелік, а надійшов абзац.
- Неправильний діапазон. Відповідь є занадто широкою або занадто вузькою. Запит щодо ліміту витрат отримує відповідь, пов’язану з політикою для всього персоналу, хоча запитувач — фрілансер, для якого діють інші правила.
- Неповний. Пропущена одна з частин багаточастинного запиту. Хтось запитує про чотири черги обробки заявок, а отримує дані лише для трьох.
Неповність — це те, що люди ігнорують під час читання, оскільки нічого написаного не є хибним. Перевірка посилань допомагає це виявити: якщо джерело було включене до запиту, але не цитується, це означає, що щось було пропущено. Оскільки контекст є правильним, виправлення потрібно внести у сам запит, формат відповіді або інтерфейс.
Як діагностувати
Записувати чотири поля за кожним запитом
Діагностика означає відтворення запиту заново після того, як через кілька годин надходить скарга. Повторне виконання запиту вручну не є заміною, оскільки індекс, ймовірно, змінився, і проблема може не відтворитися. Достатньо чотирьох полів:
- Оригінальне запитання, до будь-якої переробки, адже сама переробка є точкою можливих помилок.
- Те, що повернуло пошук: кожен кандидатський фрагмент із його
chunk_id,doc_id,versionта оцінкою. - Те, що було надано моделі: значення
chunk_id, які залишилися після застосування ліміту токенів. - Кінцева відповідь, символ за символом.
# The retrieved list and the prompt list stay separate. Collapsed into one,
# a chunk lost at ranking and a chunk lost at the token budget leave the
# same record, and no later reading of the log can separate them.
log_request({
"question": question,
"retrieved": [
{"chunk_id": c.chunk_id, "doc_id": c.doc_id,
"version": c.version, "score": c.score}
for c in candidates
],
"in_prompt": [c.chunk_id for c in context],
"answer": answer,
})
Тримайте списки отриманих даних та запитів окремо. Журнал, який містить лише сформульований запит та відповідь, не може відрізнити проблему з ранжуванням від проблеми з бюджетом.
Один тест, три результати
Виберіть уривок, який мав би вплинути на відповідь. Знайдіть його у записі журналу та відзначте, на якій стадії обробки він опинився. Існує лише три точки зупинки, кожна з яких відповідає одній стадії.
- Уривок не знайдено в жодному фрагменті: це проблема процесу отримання даних. У корпусі його немає або він був втрачений до індексації.
- Текст знаходиться у фрагменті, який так і не дістався до запиту. Відповідальність за це несуть процеси отримання даних та формування контексту: алгоритм ранжування не повернув цей фрагмент або бюджет не дозволив його використати.
- Уривок знайдено у запиті, але відповідь все одно неправильна: у моделі були всі необхідні дані. Якщо вона обрала неправильне значення, перевірте верхні етапи на наявність дублікатів чи шуму. Якщо форма, обсяг чи повнота даних неправильні, перевірте процес генерації відповіді.
Що не охоплюють ці сім критеріїв
Ці сім критеріїв визначають, чи була відповідь правильною. Кілька факторів, які роблять систему непридатною до використання, залишаються для них невидимими.
- Дозволи. Відповідь, у якій цитується документ, який запитувач не може прочитати, є правильною, але неприйнятною. Для цього потрібно зберігати
acl_principalsпоруч із кожним фрагментом та використовувати фільтр під час обробки запиту. - Отруєні документи. Файл, що містить інструкції, спрямовані до моделі, може пройти всі сім перевірок, оскільки відповідь залишається вірною тому, що їй було надано.
- Власність даних. Проблема з появою фрагментів клієнта А у відповіді клієнта Б вирішується за допомогою
tenant_id, який вказується як для збережених фрагментів, так і для кожного запиту, а не завдяки формулюванню запиту. - Масштаб та витрати. Затримка та витрати на обробку запиту при великому обсязі корпусу даних зовсім не розглядаються в цих семи критеріях.
Усі сім варіантів можуть пройти, навіть якщо дані все ще витікають. Ця схема пояснює неправильні відповіді; вона мовчить щодо безпеки.
Підводні камені
- Розширення пошуку відповіді, чия частина вже була включена до запиту. Більше результатів означає більше шуму, що підвищує ймовірність сприйняття неправильного значення.
- Фіксування лише отриманого запиту. Неотримані та необроблені дані виглядають ідентично запиту, тож ви налаштовуєте пошук, коли проблема полягає у бюджеті, або навпаки.
- Використання відмови як рішення. Якщо відповідь знаходиться в таблиці, яку парсер спростив, відмова у відповіді лише приховує помилку обробки за допомогою ввічливості.
- Додавання метаданих до частин після запуску. Введення версії чи шляху до розділу пізніше переписує кожну частину, а повторна обробка є дорогою процедурою.
- Суперечки щодо обсягу відповіді залежать від смаку. Питання про те, чи є відповідь занадто загальною, залишається предметом дискусії, доки тестове запитання не дасть саме тієї відповіді, яку воно мало б надати.
Застосування на практиці
Уявіть цей процес як ланцюг: неправильна відповідь означає збій у певному етапі, а діагностика полягає у визначенні останнього етапу, де відповідь ще збереглася.
- Спочатку почніть записувати чотири поля, перш ніж змінювати будь-які налаштування. Один запис на запит дозволяє завершити більшість дискусій ще до їх початку.
- Спочатку проведіть один тест: чи знаходиться уривок без частин, у частині, яка пропустила запит, чи безпосередньо у самому запиті? Ця відповідь визначає етап та тип виправлення, який, ймовірно, спрацює.
- Надайте системі можливість сказати, що вона не знає відповіді. Набір тестів, де кожне запитання має відповідь, ніколи не виявить відсутнього контенту.
- Зберігайте
doc_id,version,section_pathтаupdated_atу кожному фрагменті з моменту першого завантаження, додаючиtenant_idтаacl_principals, якщо це важливо для доступу. - Відкладіть обробку решти даних до моменту, коли це стане необхідним через конкретну проблему. Графовий, багатомодальний та агентний підходи до пошуку кожен мають свої особливості, і жоден з них не повинен бути стандартним.
Етапи обробки відрізняються залежно від вашої архітектури пошуку, але чотири записувані поля залишаються незмінними у всіх випадках.