Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: Redis
Семантическое кэширование для агентов LLM с использованием Redis: сокращение затрат и задержек
Как семантическое кэширование снижает затраты и задержки при работе с большими языковыми моделями: эмбеддинги, пороговые значения, Redis и RedisVL, настройка точности и кэширование подвопросов внутри рабочих процессов агентов.
8 мин чтенияElastiCache для RAG: как хранить и выполнять запросы к эмбеддингам
ElastiCache для RAG: хранение и поиск эмбеддингов в Redis с использованием Node.js и TypeScript, настройка кластера, создание векторного индекса и выполнение поиска по сходству.
13 мин чтенияПеренести состояние вектора LangGraph из памяти в хранилище Redis
Перенос состояния векторов LangGraph из памяти в Redis с использованием фабрики get_vector_store, хранение метаданных сессий при вводе данных, фильтрованное поиск и удаление по сессии.
13 мин чтенияПотоковая обработка LLM с возможностью возобновления с использованием Redis Streams в качестве точки встречи для каждого шага обработки
Потоковая передача LLM с возможностью возобновления: публикация событий агента в Redis Stream, ограниченный конкретным ходом, чтобы клиенты могли продолжать работу после потери соединения и длительных пауз в работе инструмента.
9 мин чтенияПеренесите демо-примеры векторных данных Redis в общий индекс Azure AI Search.
Переместите поиск векторов LangGraph из демонстраций Redis в общий индекс Azure AI Search: определите схему, фильтруйте по сессии, удаляйте по запросу, сохраняя остальных пользователей.
6 мин чтенияСемантические вопросы и ответы в формате PDF с использованием технологий Document Intelligence, эмбеддингов и Redis
LangGraph извлекает PDF-файлы с расписанием тарифов, разбивает их на части и встраивает в Azure OpenAI, а также отвечает на вопросы о тарифах на естественном языке с использованием локального векторного индекса Redis.
11 мин чтенияСемантическое кэширование с использованием Redis для векторного поиска
Сократите расходы на API для встраивания данных с помощью семантического кэширования в Redis: двухуровневый кэш, который повторно использует результаты векторного поиска, когда запросы означают одно и то же, в Node.js.
4 мин чтенияRedis за пределами кэширования: сессии, ограничения скорости, очереди и модель Pub/Sub в Node.js
Семь шаблонов использования Redis для серверных частей на Node.js — кэширование с TTL, ключи OTP, ограничения скорости запросов, задачи BullMQ, сессии, ограничения модели Pub/Sub и случаи, когда не стоит использовать Redis.
6 мин чтенияВнутри сервиса уведомлений с несколькими поставщиками: очереди, резервные варианты, доверие
Пошаговый обзор дизайна надежной службы уведомлений: хранение учетных данных, резервные варианты поставщиков, повторные попытки работы с BullMQ и использование DLQ, обеспечение справедливости для пользователей и проверка подписей webhook.
12 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.