Статті для тих, хто
виводить стек у прод
Матеріали про React, Node.js, TypeScript і AI. Перекладений текст показується, якщо він є. Якщо ні — ви бачите англійський текст і примітку про це.
Тег: Redis
Семантичне кешування для агентів LLM за допомогою Redis: скорочення витрат та затримок
Як семантичне кешування зменшує витрати та затримки у роботі ШІ: ембеддинги, порогові значення, Redis та RedisVL, налаштування точності та кешування підзапитів у межах робочих процесів агента.
8 хв читанняElastiCache для RAG: як зберігати та запитувати ембеддинги в
ElastiCache для RAG: зберігання та пошук ембеддингів у Redis з використанням Node.js та TypeScript, налаштування кластера, створення векторного індексу та виконання пошуку за схожістю.
13 хв читанняПеремістити стан вектора LangGraph з пам’яті до постійного зберігання в Redis
Замініть стан вектора LangGraph з пам’яті на Redis за допомогою фабрики get_vector_store, зберігаючи метадані сеансу під час отримання даних, здійснюючи фільтроване пошук та видалення за сеансом.
13 хв читанняПотокове оброблення LLM із можливістю відновлення за допомогою Redis Streams як місця зустрічі за кожен крок
Потокове передавання LLM із можливістю відновлення: публікація подій агента у Redis Stream, орієнтований на окремі тури, щоб клієнти могли продовжувати роботу після переривань з’єднання та багатомінутних пауз у роботі інструменту.
9 хв читанняПеремістіть демонстрації векторних даних Redis до спільного індексу Azure AI Search
Перемістіть пошук за векторами LangGraph з демонстрацій Redis у спільний індекс Azure AI Search: оголосіть схему, фільтруйте за сеансом, видаляйте за запитом, залиште інших користувачів.
6 хв читанняPDF-семантичні запитання та відповіді з використанням Document Intelligence, ембеддингів та Redis
LangGraph витягує PDF-файли з розкладом тарифів, дробить їх на частини та інтегрує з Azure OpenAI, а також відповідає на запитання щодо тарифів у природній мові за допомогою локального векторного індексу Redis.
11 хв читанняСемантичне кешування з використанням Redis для пошуку векторів
Зменшіть витрати на API для ембеддингу за допомогою семантичного кешування в Redis: дворівневий кеш, який повторно використовує результати векторного пошуку, коли запити означають одне й те саме, у Node.js.
4 хв читанняRedis поза межами кешування: сесії, обмеження швидкості, черги та Pub/Sub у Node.js
Сім шаблонів використання Redis для бекендів Node.js — кешування з TTL, ключі OTP, обмеження швидкості, завдання BullMQ, сесії, обмеження Pub/Sub та ситуації, коли не варто використовувати Redis.
6 хв читанняВсередині сервісу сповіщень з кількома постачальниками: черги, альтернативні рішення, довіра
Огляд дизайну надійного сервісу сповіщень: зберігання облікових даних, резервні варіанти постачальників, повторні спроби використання BullMQ та механізми DLQ, справедливе розподілення ресурсів між користувачами та перевірка підписів webhook.
12 хв читання
Про ці статті
Оцінка за 24 години
Потрібен такий стек в операторському шарі? Надішліть бриф — оцінка за 24 години.