Выбір базы дадзеных для vector RAG: параболік восьмі варыянтав.

Выбір базы дадзеных вектараў для RAG зводзіцца да кальколькі працоўных пытанняў пра габарыты, фільтрацыю, умовы адпрацоўкі дадзеных і тое, сколькі операцый можа адрабатваць ваша команда. Цяпер кароткая версія, перш чым перэйсці да дэтаўнаў. Chroma і pgvector падходзяць для маленькіх праектаў. Qdrant і Milvus — стандартны выбар для самастойнага аператыўнага розмішчэння. Pinecone — гэта варыянт з повным кераваннем. Калі у вас ужо ёсць Postgres, pgvector не карае ніякіх дадатковых расходаў, а калі вы проста хочаце локальнае рашэнне, якое запускаецца за кальколькі хвілін, Chroma можна установіць за дапамою адной команды pip.

Адмініструемыя на відкрытым кодзе двыжкі, такія як Qdrant, Milvus і Weaviate, можа конкуруваць з платнымі платформамі за показнікамі выкарыстоўвання даных і часу адпаведзення, пры чым кожны з іх праставляе сабою бесплатны варыянт для самастойнага размешчэння паляглі ў спіну з неабавязковым платным варыянтом у воблаку. Ішчо адна цыфра, якую варта запамятаць: спалучэнне ўжоўткнутага адшуку вектараў з розрозненым пошукам за ключовымі словамі BM25 падняло показнік Recall@10 з прыблізна 78% да прыблізна 91% у стандартных тэстах, і самэ гэта прычына, чаму гібрыдны пошук прысутны ў столькіх з наведзеных ніжэй варыянтаў.

Базы даных вектараў являюцься шаром адшуку, які стоіць за большасцю програм на базе генератыўнага ІІ. Яны дазволяюць компаніям апісаць мовныя мадэлі на сасвойых даных, тады калі адпаведзенні застаюцца точнымі і прыкладзенымі да конкрэтнай галіні. Калі колькасць неструктураваных даных зрастае, адшук стае галоўным бутылчыным горлам для якосці, і правільны выбор значыць розумець алгорытмы індэксавання, прыемы фільтрацыі і вартасць інфраструктуры.

Што на самай працы робіць база даных вектараў

База дадзеных вектараў зберагае высака-вымерныя эмбеддынгі і ранжуе збераглія рэядкі па тым, насколькі яны знаходзяцца блізу да вектара запіту, выкарыстоўваючы косінусавую сэмплірнасць, скалярны добутак або адстань L2. Механізм асоцыяцыі паўтарае точныя токены, а метод BM25 ацэнюе ступень перакрыцця тэрмінаў. Вектарны пошук можа вярнуць дакументы пра «прыемныя автомабілі» для запіту «дышэчыя автомабілі», таму што гэтыя два фразы знаходзяцца блізу адзін да другога ў прасторэ эмбеддынга.

Ёсць аднак. Пошук кальколькі найбліжэйшых суседаў заўсёды коштае O(N·d) за кожны запіт, што робіць яго непрактычным пасля кальколькі соткаў тысяч вектараў. Базы дадзеных вектараў рашаюць гэтыя проблемы, прыймаючы невялікія втраты ў ступені вярнага аднаходжэння дадзеных у вымяну на апрыксіматычныя індэксы найбліжэйшых суседаў, якія даюць адпаведныя рэзультаты за прыблізна лагарынамічны час.

Што мерыць пры выборэ

Команды, якія прыхоўваюць ацэнку, часта сталкваліся з узгорнутымі проблемамі пад час працы. Чатыры аспекты заслуговуюць на увагу.

Якасць адзыскання і час адзыскання. Показнік Recall@K паказвае, як часта аплявае сістэма справжная найлепшыя падпадкі сярод сваіх топ-K рэзультатаў. Вышыя показнікі recall азначаюць, што модэль отрымае найкрашчую наявную інфармацыю. Час адзыскання, выражаны ў мілісекундах, таксама мае важлівасць, і інжынеры стараюцца атрымваць показнікі p95 або p99, адколькі яны відбіваюць найслабшыя умовы, з якімі сталквуюцца корыстувальнікі.

Фільтрацыя метаданоў. Часта запыт неабходна сузіць за дапамою структураваных атрыбутаў. Пошук па фразе „палітыка компаніі“ можа вымагаць перагляду толькі дакументаў, здабытых пасля певной даты, або дакументаў ад аднаго аддзела. Якісная фільтрацыя не дазволяе нерэлевантным або неавтарызаваным запісам прабрацца ў рэзультаты. Базы дадзеных з празвычайнай фільтрацыяй зазвычай лепшыя, адколькі яны адкладаюць небяспечныя запісы ўсё раней, чым пачынаецца вектарны пошук, чым парадкаваецца точнасць.

Адаптаванне да экасыстэмы. База дадзеных тэкста становіцца болей корыстной, калі яна гарна працуе з рэштам комплекта AI. Канектары для LangChain і LlamaIndex скарацуюць час стварэння рабочага каналу RAG. Бібліятэкі для кліента на разных мовах і падтрымка AWS, GCP і іншых хмараў вялікай меры вплываюць на тое, насколькі гладкая будзе інтэграцыя з існуючым корпаратыўным програмным забавам.

Гатовасць да эксплуатацыі. Гэта стосуецца можлівасці сістэмы працаваць у складных умовах працы:

• Масштабаванне, тыяму, што дазволяе працаваць з мільярдамі вектараў і вялікім трафікам запытанняў.
• Ізоляцыя корыстувачаў у програмах з калькуляцыяй кількох тэнантов.
• Салідарнасць з стандартамі, такімі як SOC 2, HIPAA і GDPR.
• Магчымасць абзірвання, якія дазволяюць сочыць за выконаннем пошуку і выкарыстоўваннем рэсурсаў.

Бесплатныя і адкрытыя за кодам варыянты

Энжыніі адкрытага кода дазваляюць вам запускаць савой інфраструктуру і адхіліццаць ад парадных платаў за прыемку. Энжыніі, указаныя ніжэй, размешчаны прыблізна ад самых лёгкіх да самых важкіх.

Chroma

Chroma — гэта база дадзеных для вбудоввання, створаная для прышвычкі распрацоўшчыкаў. Гэта найштоўкшы шлях ад порожньяго рэпазітарыя да рабочага пратыпу RAG, і багато людзей выкарыстоўваюць яе як свой першы вектарны хранальнік. Яна падходзіць для хакатонаў, локальнай разработкі і шырокіх эксперыментаў, дзе прыемнасць важнейшая за распадзеланую масштабаванасць.

Што яна прысутніць: маленькі Python API, які пераходзіць ад тымчасовых локальных тэстаў да стацыонарнага рэжыму кліент-сервер, локальныя храненнія, падтрымваныя SQLite, таму не трэба ствараць сервер базы дадзеных, і вбудованыя функцыі вбудоввання, якія пад час дадзення ператвараюць сырый тэкст у вектары за дапамою стандартных настройкаў, такіх як all-MiniLM-L6-v2. Яна падключаецца да LangChain, LlamaIndex, OpenAI і Hugging Face.

З позытывайных сторон, інсталяцыя адбываецца проста — простае запісве pip install chromadb; пераклад тэксту ў вектары відбываецца без дадатковага коду, а праца локальна дае паўны контроль над данымі і інфраструктурой. З негатывайных сторон, ён не мае функцыяў безпекі і падтрымкі калькуляцыі для кальколяў, неабходных у строгіх корпаратыўных срэдах, і не можа конкуруваць з спецыяльна створанымі распадзеленымі сістэмамі, калі колькасць вектараў перасягае каля калякіх мільёнаў.

Основная база дадзеных ў бесплатныя пад згадкай Apache 2.0, а таксама існуе версія, якая працюе ў воблаку, для масштабавання пад час працы.

Milvus

Milvus — гэта хмарна, высока распадзелена база дадзеных вектараў, якая аддзеля вычысленні ад зберагачвання. Яна падходзіць для організацыяй, якія працуюць з вельмі вялікімі об’ёмамі дадзеных — сотнямі мільёнаў чы нават мільярдамі вектараў, дзе масштабавання ёсць обав’язковым, а не факультатыўным.

Ягоя архітэктура дзельніцьвае вузлы даных, вузлы запытак і вузлы індэксаў. Ён падтрымлівае многа тыпаў індэксаў, уключаючы HNSW, IVF і DiskANN, таму можна налаштаваць яго пад конкрэтны апарат, а таксама ёсць супершыя можлівасці індэксавання і пошуку з прышвартаваннем GPU. Вузлы можна дадаць або адключыць у рэальны час без перыяду працы.

Перавагі: наборы даных у мільярдах ейкаў працуюць прыгадна, без розкіх падвышэнняў паздзейнення p99; строгая ізоляцыя вузлаў дазволяе выконванню вычыслаў вядомым чынам там, дзе яго патрэбуе навантажэнне; асоцыяцыя з адкрытым кодам вялікая, з множыццю дакументацыі і плагінаў. Недастаткі: развёртванне, налаштаванне і адработка сістэмы на базе Kubernetes выклікае значны інжынерны зусіллі, а для простага прыкладу RAG дадатковыя элементы, такія як etcd і Kafka, ёсць непатрэбным навантажэннем.

Энжынер вялікі безкоштовна пад ліцензіяй Apache 2.0. Компанія Zilliz, якая яго стварыла, продае адарожваны хостынг пачынаючы з $155 на месцы.

Qdrant

Qdrant — гэта дварчынак для пошуку вектараў на адкрытым кодзе, напісаны на мове Rust; яго прыорытэтамі ёсць безпека памяці, працэздатнасць і высокая якасць фільтрацыі дадзеных. Команды, якія прагнуць шырокай швайнасці і надзеямоўнасці, часта выбіраюць яго, у чырвоным рэгіянальна для рэшэнняў тыпу RAG з розгульнымі фільтрамі метададзэнаў, індывідуальнымі крытэрамі ацэнкі і строгімі лімітамі затрымкі.

У основе лежыць дварчынак для зберагчэння дадзеных на мове Rust пад назвай Gridstore, налаштаваны для працы з вектарамі. Дзякуючы модульнай структуры пошуку, адна запытка можа аб’еднаваць ў сабе ўжо заполненыя вектары, розрэджаныя вектары і фільтры метададзэнаў. Фільтрацыя выканана ў самай структуры графа пад час праходжэння алгорытму HNSW, што запобегае падышанню рэзультатаў пошуку пасля ўжо выкананай фільтрацыі. Таксама існуе Qdrant Edge — лёгкая версія для вбудованага выкарыстоўвання ў мобільныя прыстроі і роботыку.

Тыповыя значэнні затрымкі p50 станавяцься ад 4 да 5 мс, фільтрацыя застаецца точной нават пад строгімыя абмежэннямі, а ліцэнцыя (Apache 2.0) ўмоžнівае вольнае выкарыстоўванне. Адносны недагоды: удзел у розрабоце ядра Rust значыць неабходнасць аднаваць своія навыкі, а для падтрымкі оптымальнай працы HNSW трэба рэгулярна налаштовваць параметры памяці і індэксаў.

Версія з адкрытым кодам ўжо ў бесплатнае выкарыстоўванне. Qdrant Cloud праслугуе бесплатным кантэйнерам з 1 ГБ прыемлівай памяці, а таксама платнымі кластэрамі, якія залежаць ад ступеня выкарыстоўвання.

Weaviate

Weaviate — гэта адкрытыя база дадзэння, створаная спецыяльна для AI, якая організавана адносамі між об’ектамі, якія нагадваюць графы, і спалюе разныя стылі пошуку і тыпы дадзэння ў аднам запіце. Яна падходзіць тады, калі трэба зрэлы гібрыдны спосаб пошуку, складныя адносы між об’ектамі і робочы працэс AI, які ўжо ўбудованы ў базу дадзэння.

Ён натычна спяўнаяе ў сабе як высокую ступень сэмантычнай аднаковасці, так і метод ранжыравання ключоўых слоў BM25. Модулі вектарызацыі падключаюцца да OpenAI, Cohere і Hugging Face і атрыбутуюць тэкст для вас. Даныя зберагаюцца ў схеме, заснованай на класах, прызначанай для выражэння адносаў, пры чым ўключаныя ўстановкі із ізоляцыяй і рэплікацыяй для калькольнікаў.

Працоўныя прынтэры — гэта меншая колькасць стандартнага коду, адколькі пераклад тэксту ў вектары вядзецца ўнутрь базы дадзенаў; налаштавальныя гібрыдныя параметры, якія збалансаваныя між точнасцю ключоўых слоў і шырокім сэмантычным воспамінанням; а таксама стабільныя адпаведзі, якія даходзяць за мілісэкунды, нават для сотняў мільйонаў об’ектаў. Каштамі ёсць першачынны труд у прыстосаванні да схемы на класах і большы розмер, чым у варыянтах з вбудаванымі функцыямі.

Програмнае забезпечэнне ёсць безкоштовным пад ліцензыяй BSD-3. Weaviate Cloud працавае з планамі без адпаведальнасці за сервер за $45 на месцы.

pgvector для PostgreSQL

Пашырэнне pgvector ператварае PostgreSQL у моцны склад для вектараў, дзе эмбеддынгі зберагаюцца разам з звычнымі транзакцыйнымі дадзенымі. Бно ўзьяточны выбар для команд, якія вялікай мерай выкарыстоўваюць Postgres і не хочуць ствараць яшчэ адну базу дадзенаў.

Ён дадае власны тып столбца для вектараў у стандартныя схемы SQL, падтрымлівае косінусавую схожасць, абэртанне L2 і внутраній добутак, стварае індэксы HNSW і IVFFlat, а таксама выконвае запыты на схожасць у межах стандартных транзакцый ACID.

Галоўная перавага — адсутнасць додатковых выкаленняў на аператыўнай працы, пераглядаў безпекі і тыповага адтрымання аддзельной сістэмы. Існуючыя функцыі манітарынгу, архіваў і рэплікацыі Postgres застаюцца без змян, а фільтрацыя метадаў — гэта проста звычайная клаза WHERE разам з функцыяй вычысцэння адстані. Недзеянні — гэта вышэйшы спрабоўванне памяці і слабейшая можлівасць масштабавання паўтароўкі, чым у двыжках, створаных толькі для вектараў, а таксама значны адрыхленне часу адпаведзення пасля пераходу за 50 мільйонаў вектараў, калі толькі не было дадана такая спецыяльнасць, як pgvectorscale.

Этот расшырэнні ў бесплатны і з адкрытым кодам. Сума, яку вам паказвацца, залежыць ад таго, як вы хостуеце Postgres.

Аплыткія і кераваныя варыянты

Кераваныя базы дадзеных забезпечваюць мінімум адтрымання, таму каманда можа сфокусавацца на самай аплікацыі, а не на серверах.

Pinecone

Pinecone большая частка стварыла катэгорыю кераванаваных баз дадзэнайў вектарных даных за дапамою дызайну без сервераў і без неабходнасці ўтратачэння, які маскіруе всю аблогавую інфраструктуру. Яна падходзіць для команд, якія хочуць шыбкаа перайсці да працы без керавання серверамі, кластэрамі чы рэгулярнымі параметрамі індэксаў.

Яна працуе выключна як хмарны SaaS, дзе слоі чытання, запісу і зберагчэння ўскладненыя так, каб кожны з іх могаў масштабавацца незалежна, падтрымлівае модэлі для вбудоўвання і пераранжавання даных праз Pinecone Inference, а таксама падтрымлівае ўжоўтучаныя, розрозненыя вектары і эфектывае фільтраўванне метададзэнайў. У вялікай меры гэта значыць, што не трэба займацца аблогавай інфраструктурой, патчаваннямі чы перабудовай індэксаў, а таксама ёсць шырокае супарадненне з іншымі фрэймворкамі і хмарамі, а таксама высокая доступнасць з прыцягнучымі парадамі працы пад навантажэннем.

Недзеяннія заключаюцца ў тым, што гэта закрыты код, што значыць рэальнае прыкрэпленне да прадавца, і ў тым, што цены за выкарыстоўванне быстра растуць для завадак, дзе ёсць вялікае колькасць операцый чытання і запісу.

Цены, як указана: безкоштовны ўровень Starter (2 ГБ, 1 млн запытоў, толькі AWS us-east-1); ўровень Standard з мінімумам у $50 на месцы, цена — $0,33 за ГБ-месцы, плюс прыблізна $4–$4,50 за мільйон елементаў запісу і $16–$18 за мільйон елементаў чытання; ўровень Enterprise з мінімумам у $500 на месцы; а такса HIPAA — $190 на месцы.

Turbopuffer

Turbopuffer — гэта безсерверны пошуковы двухклас, створаны непасрэдна на хмарным сховішчы об’ектаў, і ключовая асоблівасць — яго эконамічная эфектыўнасць. Бн ўзьміцца за найболей падходзячы варыянт для продуктав SaaS і AI з вялікай колькасцю прастора імен, дзе трэба контролаваць вітраты.

Ён адзінаецца ад звычайных дыскав і шукае безпосерэдзя ў сістэмах хранення об’ектаў, можа обрабоцваць мільярды вектараў без жадных лімітав у назвах прастораў, выкарыстоўвае індэкс SPFresh, настроены для шукання, і рэзультаты запісаў стаюць віднымі негаразды. Косты хранення і запытоў значна ніжэй, чым у старэйшых кераваных службах; ухіляецца ад сістэмы цэнавак па кожным падмножыку, якая карае дызайны з калькуляваннем за колькісць корыстувачаў, а стандартныя пакеты включаюць састаноўкі SOC 2 і HIPAA.

З іншай боку, ён мае закрыты код, мае меншы стаж, чым усталеныя конкурэнты, а яго экасістэма плагінаў і інтэграцыяў ў меньшай меры розвіты. Расчыткі ведуцца выключна на адной основе выкарыстоўвання, пры чым стандартныя пакеты маюць мінімальную цэну 64 долара ў месяц, а большыя прасторы назваў атрыбуюцца зніжкі за велікую колькасць запытоў.

TiDB Vector Search

PingCAP-а TiDB Vector Search спаўнае распадзеленыя SQL-база дадзэнняў з сае апаратам для стварэння эмбедынга, таму большыя транзакцыйныя навантажэння і семантычны пошук выкананы ў адной сістэме з можлівасцю расшырэння. Гэта мае сэнс, калі патрэбна вельмі вялікая горызонтальная масштабаванасць разам з складным фільтраўванням за дапамогою SQL і пошукам у вектарах на тых сабе дадзэннях адразу.

Эта платформа спаўнае схованне эмбедынга і распадзеленыя SQL, стварае звычайныя індэксы SQL палягліва HNSW-індэксы для вектараў, распрадзеляе запыткі між вузламі для высокай доступнасці, а таксама падтрымлівае гібрыдны пошук і точнае падпаданне ключоў разам з падобнасцю вектараў. Гэта усуняе проблемы сінхронізаціі і ланцоў між базай дадзэнняў прыкладнення і аддзельным сховішчам вектараў, дазволяе адбывацца сільна фільтруваным пошукам для калькуляцыі дадзэнняў для калькуляцыі дадзэнняў за дапамогою з’еднанняў SQL, і дазволяе расшырэння без затрымкі запыткаў.

Для лёгкага прайсупуту RAG, які выкарыстоўвае толькі вектары, гэта занадта, а для паштучнай налады выконвання неабходна глыбока абаротка распадзеленага SQL.

У пакеце TiDB Cloud Starter бесплатны ўровень ўсё самы шчэдрый у сваёй катэгорыі: 5 Гіб для хранення радоў, 5 Гіб для хранення столбцоў і 50 мільйонаў еўранітоў запытоў на кластэр, пры чым адна організацыя можа мець да 5 кластэраў. Цэла адпавядае 25 Гіб для радоў, 25 Гіб для столбцоў і 250 мільйонаў еўранітоў запытоў на месцы, без даплатаў. Перад гэтым лімітам стоімасць складае 0,10 долара за мільйон еўранітоў запытоў і 0,20 долара за Гіб-месцы для хранення радоў у рэгіоне us-east.

Дзе вектарны прайсупут RAG не падходзіць

Вектарны пошук ёсць моцным, але ў яго ўсё ж ёсць слабасці, якія паграждаюць точнасцю у корпаратыўным выкарыстоўванні.

• Зныклы кантэкст. Стандартныя вектарныя методы RAG дзеляюць дакументы на маленькія фрагменты, каб яны запасаліся ў вікнах кантэксту. Што прыводзіць да знішчэння структуры складных дакументаў, а маленькі фрагмент лёгка тыяе звязакі з загаловкамі чы раздзеламі, якія надавалі ўсё значэння.
• Неточнасць. Адналёгчэнне інфармацыі залежыць ад блізкасці ў вектарнай прасторы, таму падобныя тэрміны чы назвы продуктав з аднаковым формулюваннем плутаюцца. Некарэктныя факты потрапляюць у запіт, і пасля гэтага выдаюцца халюцынацыі.
• Дорогія абнаўленні. Пераход на лепшыя мадэлі эмбеддынгу значыць перэмбеддынг усяго корпусу дакументаў і пачатковую стварэнне вялікіх індэксаў, што падвайнае вартасці апрацоўкі дадзеных і расходы.

Graph RAG — адзін з альтэрнатыўных вароў. Ён мадэлюе точкі дадзэння як вузлы, а адносы — як рэшткі, пры чым такія інструменты, як Writer Knowledge Graph, падтрымліваюць явныя звязкі між дакументамі. эта можлівасць спрыяе мнагакратнаму аналізу, зменшвае галюцынаціі і дазволяе командзе адкорэктаваць адзін факт без парадзельнага запісу всіх дадзэнняў.

Практычны спосаб выбору

Пачніце з таго, што вжо вы вікорыстоўвайце. У сістэме Postgres з прыблізна 10 мільйонаў вектараў pgvector справляецца з задачай без дапамогі новых залежнасцей, а pgvectorscale расшыруе яго можлівасці да 50 мільйонаў і больш. У MongoDB вікорыстоўваюце Atlas Vector Search. У Elastic чыста OpenSearch — адколі OpenSearch 3.0 зменшыў большасць прычын для замены. У Redis вікорыстоўваюце вучоную падтрымку вектараў у Redis 8 з параметрам FT.HYBRID.

Пачынаючы з нуля, важыце тры аспекты:

1. Масштаб і працэздатнасць. Стварэнне пратэтапных версій з 1 млн вектарных точак паводзіць да Chroma. Самастаўленая сістэма з высокай эфектывасцю фільтрацыі паводзіць да Qdrant. Работа у мільярднам масштабе або з вікорыстаннем GPU паводзіць да Milvus. Управляемая сістэма, якая трэбуе сарабітання па стандартам, паводзіць да Pinecone або Weaviate Cloud.
2. Форма костоў. Для сітуацый з велікай колькасцю тэнантов, дзе большасць з іх не актыўныя, Turbopuffer дапамагае заўсёды заошчадзіць 10–100 разоў, хоць запыты, якія не ўжо відбуліся, выконваюцца прыблізна за 500 мс. Для сістэм, чутлівых да костоў, з 50 млн вектарных точак і прыкладным навантажэнням, падходзіць pgvector у поўнай сувязі з pgvectorscale.
3. Трэбаванні да логікі. Для запытоў з калькуляцыямі на калькольных ўзлётах, калі неабходна пояснення або структура адносаў, трэба дадаць граф знанняў, такі як Neo4j, Memgraph або FalkorDB, і выконваць Graph RAG разам з вектарамі, а не заместа іх.

Частыя запытанні

Як створыць базу даных вектараў для RAG? Раздзеліце дакументы на часткі, створыце эмбедынгі за дапамою модэлю, такога як OpenAI або BGE, а пасля зберагучы вектары, індэксавацыяя іх у такіх супрацоўніках, як Qdrant, Milvus або pgvector. Для абсалютна локальнай наладкі можна выкарыстоўваць Chroma або FAISS, якія працуюць на адной машыне без удзеле воблака.

Якую ролю яна выпалюе? Гэта механізм адзыскання, які знаходзіцца між вашымі дакументамі і LLM. Яна зберагае эмбедынгі, а пад час запіту вяртае найболей рэлевантныя часткі, каб модэль могла адпавядаць на адной падставе рэлевантнага кантэксту, а не толькі на адной падставе памяці.

Калькуюю базу даных трэба выкарыстоўваць? Гэта залежыць ад масштабу і тэхнічнай структуры. Chroma і pgvector — найлепшыя безкоштовныя варыянты для малых і сяродніх праектаў; Qdrant і Milvus — для самастойна адмаўляючыхся продакшна-сістэм; а Pinecone — найкрашчы варыянт з адміністрацыяй, калі хочаце, каб не было жадных дадатковых задач.

Як вектары выкарыстоўваюцца ў цыкле апрацоўкі? Мадэль умяшчэння ператварае фрагменты тэксту на вектары з высокай размернасцю. База дадзеных яе зберагае, а калі прыходзіць запіт, яна за дапамой пошуку па схеме ANN знаходзіць найбліжэйшыя вектары да вектара запіту і пасылае гэтыя фрагменты ў інструкцію для обработкі.

Чы роўна ўсёвычас трэба вектарная база дадзеных? Не, хоць гэта застаецца стандартам у галузі. Сістэмы без вектараў, такія як PageIndex, зовсім не выкарыстоўваюць мадэлі умяшчэння. Яны ператвараюць дакументы на іерархічныя дрэвы і дазволяюць большым мовам модэляў аналізаваць ўхідную структуру, каб знайсці адпаведзі. Багато корпаратыўных команд таксама выкарыстоўваюць графовыя базы дадзеных для тэхнологіі GraphRAG, выкарыстоўваючы якія яны запошчаюць кантэкст праз явныя зв’язкі, а не праз прасторовую сэмантыку.

Калі семь тыпаў RAG? Naive RAG (проста выявленне потым стварэнне), retrieve-and-rerank (звычны падход у працэўнай асяроддзя), hybrid RAG (адночасны ўжоўткнуты і розрознены пошук), multimodal RAG (тэкст, адпраўкі і аудыя ў адной парадографіі), Graph RAG (пераследаванне графа знаёмых для стварэння рэляцыйных запытанняў), agentic RAG (агент LLM выбірае найкрашчую стратэгію выявлення для кожнага запытання) і HyDE RAG (мадэль спачатку практыкуе гіпотэтычны адпаведны адказ, а потым выявляе інфармацыю на яго адлік).