工程笔记
写给真正
交付技术栈的人
关于 React、Node.js、TypeScript 与 AI 的文章。有译文正文时显示译文。没有时显示英文,并注明这一点。
标签:Chunking
索引时RAG的质量:片段类型、数据清洗与检索标签
索引时的RAG质量:构建文本、表格和图像块,过滤解析器产生的噪声,并添加由大语言模型生成的检索标签,从而使失败查询的数量减少近一半。
阅读约 12 分钟生产环境中的RAG系统失败的三种原因:上下文碎片化、漂移与滥用。
生产型RAG失败的三种方式:分块导致的上下文碎片化、知识库扩展带来的漂移问题,以及尽管检索效果良好但仍被误用,以及相应的层级级解决方案。
阅读约 11 分钟MultiDocFusion:针对长PDF文档的基于层次结构的RAG数据块划分方法。
MultiDocFusion能在长PDF的每个数据块中保留章节上下文:通过布局检测、OCR技术以及基于标题树的LLM和DFS分组方式,使RAG检索效率提升8-15%。
阅读约 7 分钟RAG中的块大小与重叠:步长、令牌限制及拼接点
如何为RAG将长书分割成块:选择块的大小与重叠比例,理解步长概念,确保不超过嵌入令牌限制,存储元数据,并在实际分割中查看重叠情况。
阅读约 8 分钟生产环境RAG的分块策略:固定大小法、语义分块法及父子结构分块法。
对RAG分块技术的实用介绍,涵盖从固定大小与递归分割到父子结构、命题划分、后期分块、RAPTOR方法、表格应用、代码处理以及基准测试等内容。
阅读约 22 分钟通过父子分段与分层索引提升RAG检索效果
为何小片段虽能赢得匹配却得不到正确答案,以及父子分段、去重扩展和分层索引如何为RAG检索恢复上下文。
阅读约 10 分钟RAG在真实文档中失效的原因:分块、混合搜索、重排序及评估机制。
为什么RAG在真实文档上会失效以及解决该问题的方法:两阶段设计、分块策略、混合搜索、重新排序以及单独评估检索结果。
阅读约 7 分钟从零开始使用LangChain实现RAG:加载器、分块组件、嵌入模型、评估方法。
逐步构建文档问答系统:文件加载、分块处理、嵌入模型、索引与检索阶段,以及如何对检索结果和答案进行评分。
阅读约 8 分钟分块:导致错误答案的被忽视的RAG决策因素
为何拆分文档会严重降低检索质量,结构感知与父子分块如何有所帮助,以及如何衡量分块效果。
阅读约 7 分钟
常见问题
关于这些文章
是。每篇都是为本站准备的英文原创改写。结构与代码跟随来源;正文重写并做过重合检查。
英文是来源。只有存在该语言的正文译文时才显示其他语言。缺失或空白的译文仍是英文,包括在本地化网址上。
草稿经编辑后进入发布队列。站点导入只收录新的或有变更的 slug,不会重复添加。
示例仅供说明。上线前请核对技术栈与许可。若需交付,请发来简报。