工程笔记
写给真正
交付技术栈的人
关于 React、Node.js、TypeScript 与 AI 的文章。有译文正文时显示译文。没有时显示英文,并注明这一点。
标签:Redis
利用 Redis 实现大语言模型智能体的语义缓存:降低成本与延迟
语义缓存如何降低大语言模型的成本与延迟:嵌入向量、阈值设置、Redis与RedisVL、精度调优,以及在智能体工作流中缓存子问题。
阅读约 8 分钟RAG领域的ElastiCache——如何存储与查询嵌入向量
用于 RAG 的 ElastiCache:从 Node.js 和 TypeScript 中在 Redis 中存储和查询嵌入向量,搭建集群,创建向量索引并执行相似度搜索。
阅读约 13 分钟将 LangGraph 向量状态从内存移至 Redis 进行持久化存储
通过 get_vector_store 工厂函数将 LangGraph 向量状态从内存切换到 Redis,同时支持在数据导入时记录会话元数据、过滤检索以及按会话删除数据。
阅读约 13 分钟利用Redis流作为每轮对话的会合点,实现可恢复的LLM流式处理。
可恢复的LLM流式处理:将智能体事件发布到针对单轮对话的Redis流中,从而使客户端在断开连接或工具暂停数分钟后仍能继续处理。
阅读约 9 分钟将 Redis 向量演示迁移到共享的 Azure AI Search 索引中
将 LangGraph 向量搜索从 Redis 示例迁移到共享的 Azure AI Search 索引:声明架构,按会话过滤,通过查询删除数据,同时保留其他用户的数据。
阅读约 6 分钟结合文档智能、嵌入技术及Redis的PDF语义问答系统
LangGraph提取费用表PDF文件,将其分割并嵌入Azure OpenAI中,同时通过本地的Redis向量索引回答自然语言形式的费用相关问题。
阅读约 11 分钟基于 Redis 的语义缓存用于向量搜索
利用 Redis 中的语义缓存降低嵌入模型 API 开销:在 Node.js 中构建两级缓存,当查询含义相同时重用向量搜索结果。
阅读约 4 分钟超越缓存的Redis:Node.js中的会话管理、速率限制、队列以及发布/订阅功能
适用于 Node.js 后端的七种 Redis 模式——带 TTL 的缓存、OTP 密钥、速率限制、BullMQ 任务、会话管理、Pub/Sub 限制,以及何时不应使用 Redis。
阅读约 6 分钟多提供商通知服务内部:队列、备用方案与信任机制
一种可靠通知服务的设计详解:凭证存储、服务提供商备用方案、BullMQ重试与错误队列机制、租户公平性保障以及Webhook签名验证。
阅读约 12 分钟
常见问题
关于这些文章
是。每篇都是为本站准备的英文原创改写。结构与代码跟随来源;正文重写并做过重合检查。
英文是来源。只有存在该语言的正文译文时才显示其他语言。缺失或空白的译文仍是英文,包括在本地化网址上。
草稿经编辑后进入发布队列。站点导入只收录新的或有变更的 slug,不会重复添加。
示例仅供说明。上线前请核对技术栈与许可。若需交付,请发来简报。