工程笔记
写给真正
交付技术栈的人
关于 React、Node.js、TypeScript 与 AI 的文章。有译文正文时显示译文。没有时显示英文,并注明这一点。
标签:routing
控制工程:为何人工智能智能体成本不断飙升
微软与优步在AI智能体方面面临成本瓶颈。为何它们的代币消耗如此之快,以及四种控制策略:路由调整、预算预警、冗余剔除与监督机制。
阅读约 6 分钟结合MLflow注册表与LLM路由的领域感知RAG系统
领域感知型RAG:先对意图进行分类,从MLflow注册表中加载合适的嵌入模型,搜索匹配的Qdrant集合,随后将内容生成任务交给大语言模型处理。
阅读约 12 分钟LangGraph条件工作流:无需提示词即可实现分支处理
将 LangGraph 的 if-else 路由编码为带有明确状态约束且故障可恢复的命名条件边,而非将分支逻辑塞进提示词中。
阅读约 10 分钟通过LiteLLM令牌路由器削减大语言模型支出
LiteLLM位于应用与服务提供商之间,将简短的提示词路由至低成本模型,将复杂的任务转交给Opus模型——在模拟的一个工程师工作月中可节省约28%的成本。
阅读约 3 分钟有条件停止工具:在LangGraph中,伪影效果优于return_direct
在 LangGraph 中,根据工具调用结果、手工构建的 ReAct 循环以及 create_agent 中间件来决定是停止还是继续,此时 return_direct 无法做出判断。
阅读约 11 分钟基于规则的决定模型与大型语言模型调用:边界处的延迟与稳定性
一项包含240次调用的实验,用于比较Jev所给出的固有概率与大型语言模型自我报告的概率,以及如何将这一差异转化为LangChain模型路由器。
阅读约 12 分钟Next.js 16 升级陷阱:并行路由的默认设置与用于代理的中间件
了解为何 Next.js 16 的并行路由槽需要 default.js,如何安全地将 middleware.ts 迁移至 proxy.ts,以及在确认升级完成前应进行哪些测试。
阅读约 6 分钟为前沿大语言模型调用前的键入式决策路由器定价
如何使用类似Jev的类型化决策模型来建模控制LLM流量的预期成本,设定置信度阈值,并在部署前验证路由质量。
阅读约 12 分钟Next.js 应用中路由路径的单一事实来源
了解如何在 Next.js 中使用编写的中央路由模块替代分散的字符串路径,该模块还提供了用于动态片段和分组路由导出的辅助函数。
阅读约 5 分钟
常见问题
关于这些文章
是。每篇都是为本站准备的英文原创改写。结构与代码跟随来源;正文重写并做过重合检查。
英文是来源。只有存在该语言的正文译文时才显示其他语言。缺失或空白的译文仍是英文,包括在本地化网址上。
草稿经编辑后进入发布队列。站点导入只收录新的或有变更的 slug,不会重复添加。
示例仅供说明。上线前请核对技术栈与许可。若需交付,请发来简报。