Як вибрати модель ембедингів для RAG: ціна переходу важливіша за ціну

У 2026 році моделі ембедингів часто порівнюють ретельно, але при цьому розв'язують питання, яке майже нічого не важить. У таблицях — ціна за мільйон токенів. Тести пошуку ганяють пліч-о-пліч на двох сотнях документів-зразків. Тиждень іде на розмірність векторів. Потім модель обирають, система йде в прод, а за пів року команда натрапляє на витрати, яких ніхто не закладав у бюджет.

Ось аргумент, який спершу звучить хибно, але витримує перевірку. Для більшості продакшен-RAG-систем різниця у щомісячних витратах між хмарними варіантами ембедингів близька до похибки округлення. Насправді архітектуру визначає те, скільки коштуватиме згодом змінити курс. Уся аргументація тримається на арифметиці, тож почнімо з неї.

Три осі, які зазвичай зважують навпаки

Моделі ембедингів різняться за трьома параметрами, і команди часто ранжують їх у неправильному порядку.

• Якість пошуку бенчмаркають першою. Її публічно вимірюють на MTEB, і різниця реальна, але розкид серед лідерів набагато менший, ніж натякає маркетинг.
• Вартість потрапляє в презентацію. Її зазвичай вказують за мільйон токенів, і через це вона здається головною змінною. Це не так, що й показують цифри нижче.
• Експлуатаційний бік майже ніколи не оцінюють. Хто запускає модель? Що буде, коли провайдер виведе її з обігу? Скільки триває повна перебудова індексу? Чи зможе модель узагалі працювати, якщо комплаєнс вимагатиме, щоб документи не залишали мережу?

Теза така: різниця в якості серед лідерів замала, щоб змінити результат продукту, різниця у вартості замала, щоб змінити бюджет, а експлуатаційний бік — та вісь, яка непомітно вирішує, наскільки сильно ви опинитеся прив'язані.

Скільки насправді коштують ембединги

Ціна задає точку відліку для всього, тож почнімо з неї. text-embedding-3-small від OpenAI коштує $0.02 за мільйон токенів, що робить її одним із найекономніших хмарних варіантів у 2026 році.

Тепер застосуймо це до реалістичного навантаження. Візьмімо корпус на сто мільйонів токенів — це справді велика внутрішня база знань — і проіндексуймо його повністю:

corpus_tokens      = 100_000_000
price_per_million  = 0.02            # text-embedding-3-small
index_build_cost   = corpus_tokens / 1_000_000 * price_per_million
# 2.0

Два долари. Це весь рахунок за API, щоб один раз побудувати ембединги для корпусу на сто мільйонів токенів.

З боку запитів картина схожа. За п'ятсот тисяч запитів на місяць на text-embedding-3-small ембединги запитів коштують приблизно $3.25 на місяць. На тлі рахунку за інференс, рахунку за векторне сховище й одного робочого вечора інженера це шум.

А що з більшою text-embedding-3-large? Вона дорожча за токен і вища на публічних бенчмарках. Чесне правило, коли до неї вдаватися: лише після того, як ви виміряли провал пошуку, який виправили б якісніші ембединги. Якщо верхній результат хибний через погано нарізані чанки або тому, що запити не схожі на документи з погляду косинусної подібності, сильніший енкодер не допоможе. Він лише зробить хибний результат пошуку трохи впевненішим.

Те саме міркування стосується питання старої ada-002 проти 3-small. 3-small дешевша й загалом сильніша, тож для проєкту з нуля відповідь проста. Якщо індекс уже побудовано, ціна взагалі не відіграє ролі — чому, пояснює розділ про міграцію нижче.

OpenAI проти Cohere

Це порівняння спливає майже на кожному архітектурному рев'ю, і його зазвичай подають як питання якості, хоча насправді це питання відповідності задачі. Одне застереження: актуальних опублікованих цін і бенчмарків Cohere тут немає, тож жодних цифр не вигадано. Можна сказати інше — де відрізняється сама форма рішення.

Cohere позиціонувала Embed v3 як модель для багатомовного пошуку й релевантності, а не як найдешевший енкодер загального призначення. Для справді багатомовного корпусу, особливо коли користувачі питають однією мовою, а документи написано іншою, саме цю вісь і варто перевіряти на власних даних, а не довіряти лідерборду. Міжмовний пошук — те місце, де вибір моделі досі змінює те, що бачать користувачі, бо модель, яка погано з ним дає раду, не деградує плавно. Вона повертає впевнено нерелевантні документи.

Практичний висновок вузький. За одномовного англійського навантаження порівняння здебільшого академічне, тож вирішуйте з експлуатаційних міркувань. Усім іншим варто зібрати оцінювальний набір приблизно зі сотні запитів реальними мовами й прогнати його до ухвалення рішення, адже саме тут бенчмарки узагальнюються найгірше.

Локальні моделі змінюють саме питання

Одна цифра змінює картину: локальні моделі ембедингів на кшталт Nomic Embed і BGE поступаються text-embedding-3-large на MTEB не більш ніж на п'ять відсотків і за великого обсягу знижують вартість за токен до нуля.

Це п'ять відсотків на публічному бенчмарку, який і так перебільшує, наскільки вибір моделі впливає на результати на конкретному корпусі.

Тому локальний запуск моделі — не про економію. Рахунок за хмарний API і так був мізерним, а самостійний хостинг моделі в стилі sentence-transformers на власній GPU теж коштує грошей: інстанс, деплой і той, хто чергує біля нього о третій ночі.

Самостійний хостинг виграє за трьома пунктами, і всі вони експлуатаційні:

1. Резидентність даних. Якщо документи не можуть залишати вашу інфраструктуру, суперечку закінчено, і відкритим лишається тільки питання, яку локальну модель обрати.
2. Передбачувана пропускна здатність. Запити обмежують лише обрані вами налаштування, і не треба прогнозувати рахунок за тарифом. Конвеєр, який перебудовує індекс цілодобово, виграє від цієї стабільності більше, ніж від відмови від плати за токени.
3. Контроль над власним векторним простором — те, що найважливіше й обговорюється найменше.

Справжня ціна переходу

Кожен вектор в індексі отримано від однієї конкретної моделі. Вектори різних моделей не можна порівнювати, і способу перевести одні в інші немає. Змініть модель — і кожен збережений вектор втрачає сенс щодо нових запитів.

Отже, заміна моделі означає перебудову всього індексу. Тут звична подача вартості вводить в оману. За повторну побудову ембедингів великого корпусу називають страхітливі суми, але за реальних цін на токени частка API невелика. Візьмімо сто мільйонів токенів по $0.02 за мільйон: це два долари, і навіть модель удесятеро дорожча залишить підсумок у межах кількох сотень.

Справжня вартість — не рядок у бюджеті токенів. Це все, що довкола нього:

• Конвеєр, який має знову витягти кожен документ зі сховища й застосувати ту саму схему нарізання на чанки, яка могла й не зберегтися.
• Паралельний індекс, що має працювати, поки живі обидві версії, адже продакшен-векторне сховище не можна атомарно підмінити в робочий час.
• Оцінювання пошуку, яке доведеться переробляти з нуля, бо кожен поріг релевантності налаштовували під старий векторний простір.
• Два-три тижні уваги інженерів, які припадуть на той квартал, коли спливе проблема.

Ось у чому пастка. Вона приходить не несподіваним рахунком. Вона приходить несподіваним проєктом.

Звідси просте правило вибору: віддавайте перевагу моделі, яку у вас найменш імовірно висмикнуть з-під ніг. Репутація провайдера, зрозуміла політика виведення моделей з обігу й можливість закріпити версію важать більше, ніж зайвий пункт у бенчмарку, бо від них залежить, чи доведеться взагалі мігрувати вимушено. Краще чотири роки тримати трохи слабшу модель, ніж узяти трохи сильнішу й кинути її за півтора року.

Коротка шпаргалка з вибору

• Англійський корпус, нова система: text-embedding-3-small. Це найдешевший гідний старт, і за реальних обсягів його вартість мізерна.
• Виміряні провали пошуку, які виправив би сильніший енкодер: text-embedding-3-large, але тільки за наявності доказів.
• Багатомовний чи міжмовний пошук: Cohere Embed v3 з перевіркою на власних даних, адже тут вибір моделі досі помітний у користувацькому досвіді.
• Документи, що не можуть залишати мережу: самостійно розміщені Nomic Embed або BGE. Тут вирішує комплаєнс, а не вартість.
• Дуже великий обсяг безперервного переіндексування: локальна модель, яка прибирає з архітектури ліміти запитів і оплату за кожен запит.

Лише два з цих рядків визначає сама модель. Решту вирішують обмеження, які існують за будь-якого вибору моделі.

Часті запитання

Яка модель ембедингів найдешевша у 2026 році? Серед хмарних варіантів text-embedding-3-small за $0.02 за мільйон токенів перебуває майже в самому низу за ціною, лишаючись гідною. У локальних варіантів на кшталт Nomic Embed і BGE плати за токен немає взагалі, але ви платите залізом і супроводом. Хай там як, суми настільки малі, що для більшості команд ціна не має вирішувати питання.

Брати ембединги в OpenAI чи в Cohere? Для навантажень лише англійською вирішуйте з експлуатаційних міркувань, адже продукт обмежуватиме не різниця в якості. Для багатомовних чи міжмовних навантажень зберіть оцінювальний набір реальними мовами й перевірте обидві, бо саме тут користувачі бачать різницю.

Скільки коштує повторно побудувати ембединги великого корпусу? У платі за API — менше, ніж думає більшість: близько двох доларів за сто мільйонів токенів по $0.02 за мільйон. Болить робота довкола: повторне витягування й нарізання кожного документа, підтримка двох індексів на час перемикання й повтор усіх оцінювань пошуку в новому векторному просторі. Плануйте в тижнях, а не в токенах.

Висновок: порівнюйте моделі, але зекономлену тривогу витратьте на шлях міграції, а не на прайс-лист. Вибір моделі — менше рішення, ніж здається. Індекс, побудований довкола неї, — рішення значно більше.