Inicio / Artículos

MultiDocFusion: Fragmentación consciente de la jerarquía para RAG en PDFs largos.

MultiDocFusion mantiene el contexto de las secciones en cada fragmento de un PDF largo: detección de layout, OCR, un árbol de encabezados con LLM y agrupación por DFS, para una recuperación RAG un 8-15% mejor.

Editor: REACTAPP.TOP7 min de lectura1503 palabras

Fuentes: MultiDocFusion: From Flat Chunks to Hierarchy-Aware RAG

La mayoría de las configuraciones de RAG parten de la misma suposición casi imperceptible: dividir el documento en fragmentos, incrustarlos, obtener las coincidencias principales y confiar en que el resto funcione por sí solo. Eso funciona hasta que llega un PDF industrial largo que deja claro que los documentos nunca estuvieron diseñados para ser leídos como confeti.

Un sistema típico recupera los fragmentos relevantes y pide a un LLM que responda a partir de ellos. Para que los documentos más extensos sean buscables, deben dividirse en partes más pequeñas, y los métodos habituales de división son rudimentarios: un número fijo de palabras o una división basada únicamente en la similitud semántica. Los documentos reales son más que texto simple; contienen:

  • Títulos y subtítulos anidados, con varias capas de profundidad
  • Tablas, figuras y otros elementos que dependen del diseño de la página
  • Pasajes que continúan de una página a otra
  • PDF escaneados que requieren OCR

Dividir los documentos por longitud es algo similar a cortar un libro de texto al azar. Los títulos quedan separados de sus secciones, los párrafos pierden las tablas que los explican y el contexto relevante desaparece. Como resultado, la recuperación de información brinda evidencias desvinculadas y la calidad de las respuestas disminuye. El daño es mayor en documentos industriales, informes financieros, contratos legales y escaneos.

Tres señales, fusionadas

Para un RAG fidedigno en documentos extensos se necesitan tres tipos de señales que se modelen juntas:

  • El diseño visual, es decir, cómo se ve la página
  • El contenido textual, es decir, lo que dice
  • La jerarquía estructural, es decir, cómo está organizado

MultiDocFusion se basa exactamente en esta combinación. “Fusión” se refiere a la integración del diseño, el texto y la jerarquía, mientras que “MultiDoc” indica el soporte para diversos formatos de documentos y un RAG multi-documento a nivel de corpus.

El proceso que se muestra en la figura funciona de la siguiente manera: extracción del diseño mediante un analizador de documentos, OCR para leer y anotar el texto, construcción de un árbol jerárquico a partir de los encabezados de sección detectados y nodos generales por DSHP-LLM, y luego un paso de agrupamiento basado en DFS que forma bloques jerárquicos coherentes. La codificación por colores distingue la raíz y el título, los encabezados de sección y los nodos generales como tablas, figuras y bloques de texto.

Un divisor de longitud fija divide un libro en los límites entre tokens. MultiDocFusion funciona como una persona reflexiva: reconstruye el árbol estructural del documento en tiempo real, algo similar a la generación de un índice, y agrupa juntos el material que pertenece al mismo grupo. Eso lo hace adecuado para documentos largos y complejos.

Los cuatro pasos

1. Detección del diseño

Cada página se examina primero como una imagen. El sistema determina dónde se encuentran los títulos, subtítulos, texto principal, tablas e imágenes, lo cual constituye el reconocimiento de layout. Se utilizan DETR, DiT y VGT, todos ajustados específicamente en el conjunto de datos DocLayNet. La salida no es solo texto, sino cajas con posiciones, cada una que registra la página, sus coordenadas y un tipo como título o tabla.

2. OCR

Una vez localizadas las regiones, el OCR lee el texto de cada caja. Se compararon EasyOCR, Tesseract y TrOCR en diferentes configuraciones, teniendo en cuenta que los resultados siguen dependiendo de la calidad de la escaneo, las fuentes y el idioma. Ahora el sistema sabe tanto que existe una caja como qué contiene, por ejemplo un encabezado como “2. Método” en una caja y datos de tabla en otra.

3. Construcción de la jerarquía

Este paso representa la contribución central. Se entrena un LLM especializado para comprender las relaciones jerárquicas dentro del documento. Un encabezado como “1 Introducción” puede encontrarse en el nivel superior, “1.1 Antecedentes” debajo de él en el segundo nivel, y los párrafos o tablas específicos se relacionan con los encabezados adecuados.

En lugar de simplemente extraer texto, el sistema reconstruye un índice lógico, revelando el esquema oculto del documento.

Tras comparar varios modelos de peso abierto, entre ellos Llama-3.2 y Qwen-2.5, el equipo eligió a Mistral-8B como la opción más sólida. Fue ajustado mediante LoRA junto con cuantización de 4 bits (la técnica QLoRA). Los datos de entrenamiento y evaluación para DSHP-LLM provinieron de DocHieNet, con 1,673 documentos, y de HRDH, con aproximadamente 1,500 artículos académicos. La única entrada del modelo es la estructurada HeaderList, a partir de la cual se construye el esqueleto del árbol. Una vez que el LLM ha reconstruido ese árbol de encabezados, el sistema recorre cada segmento, bloques de texto y tablas por igual, y ubica cada uno debajo del encabezado correspondiente según sus coordenadas espaciales.

¿Por qué un LLM especializado y no simplemente reglas? Los documentos reales son complicados. Las heurísticas como “un tipo de letra más grande significa título” o “la sección 1.2 debe ir debajo de la sección 1” a menudo fallan en documentos escaneados, PDF antiguos y diseños complejos. Muchos métodos existentes analizan solo el texto o solo el diseño visual, lo que dificulta la recuperación precisa de la jerarquía, especialmente en documentos escaneados o irregulares.

El LLM infiere las relaciones padre-hijo entre los títulos de sección. Otros bloques de contenido se añaden posteriormente mediante el orden espacial y no son predichos conjuntamente por el LLM dentro de la misma tarea de jerarquía.

4. Fragmentación jerárquica

Gracias a este enfoque basado en el árbol, el sistema agrupa el contenido de forma lógica y no lo divide de manera arbitraria. Los títulos, el texto y las tablas de una sección permanecen juntos y solo se dividen cuando lo exige su longitud. Cada fragmento conserva su estructura jerárquica, por ejemplo “Título del documento → Capítulo 1 → Sección 1.1 → párrafo específico”. Por lo tanto, la recuperación devuelve segmentos con su contexto asociado, y al mantener la jerarquía dentro de cada fragmento se reduce la pérdida de información contextual.

Como detalle de implementación, los fragmentos resultantes escriben su estructura jerárquica en forma de encabezados Markdown (#, ##, etc.), incorporando así una estructura en texto plano que puede ser utilizada tanto en la recuperación como en la generación de contenido.

Lo que muestran las cifras

En la mayoría de los conjuntos de datos, MultiDocFusion logra el mejor rendimiento en la recuperación de información, con mejoras especialmente notables en conjuntos más complejos como DUDE, MPVQA y MOAMOB. La precisión en la recuperación aumentó aproximadamente entre un 8% y un 15%. Los sistemas anteriores solían seleccionar fragmentos incompletos dispersos por las páginas. El particionamiento consciente de la jerarquía permite obtener fragmentos estructuralmente coherentes que mantienen el contexto de la sección, incluso cuando toda una sección aún debe dividirse por razones de longitud.

En cuanto a la respuesta a preguntas, los resultados también mejoran en general, con ANLS aumentando alrededor de un 2% hasta un 3%. Esto coincide con la idea de que un contexto mejor estructurado facilita respuestas más adecuadas, aunque el estudio no señala exclusivamente la calidad de la recuperación como única causa de estas mejoras en la respuesta a preguntas.

La verdadera idea clave consiste en convertir documentos largos en una “representación de ruta en árbol” adecuada para la recuperación de información. DSHP-LLM identifica las relaciones entre encabezados, párrafos y tablas basándose en el orden espacial, y luego DFS incorpora los encabezados antepasados en cada fragmento del documento. En efecto, realiza una reescritura estructurada en el momento de indexar.

Dos preocupaciones

  • Una suposición cuestionable. El método considera que cada nodo entre un encabezado y el siguiente pertenece al encabezado actual. Eso no siempre es cierto, especialmente en diseños de dos columnas, barras laterales, tablas o imágenes flotantes, notas al pie que abarcan varias páginas y apéndices con referencias cruzadas. Dos elementos que se encuentran uno al lado del otro en la página no necesariamente están relacionados en su significado.
  • Hinchazón del índice. La copia repetida de encabezados de ancestros en fragmentos hijos genera una gran cantidad de fragmentos, un total de 20,773 con un promedio de 521.65 tokens. La recuperación podría entonces basarse más en los títulos de sección que en la evidencia del texto, especialmente en documentos de plantillas empresariales cuyos archivos comparten encabezados similares. El propio estudio admite este compromiso dentro de sus limitaciones, señalando que duplicar el contexto padre aumenta el tamaño del índice, el costo de almacenamiento y la latencia de recuperación. Se necesitaría un procesamiento en fragmentos consciente del presupuesto o una deduplicación a nivel de nodo a gran escala.

Una analogía con MoDora

MoDora, un enfoque relacionado para convertir fragmentos OCR dañados en un árbol de documentos dinámico, comparte la idea central: reconstruir primero la estructura interna y solo después pasarla a los procesos de recuperación y control de calidad.

  • MultiDocFusion pasa de la análisis del texto y el OCR a un árbol jerárquico mediante DSHP-LLM, y posteriormente a fragmentos jerárquicos a través de DFS. Se trata de un modelado consciente de la estructura y de una creación de fragmentos basada en ella.
  • MoDora reúne primero los elementos del OCR en componentes conscientes del diseño, y luego crea un CCTree. Modela las jerarquías de componentes, las diferencias en el diseño y las relaciones entre ellos antes de realizar la recuperación y el análisis.

Ninguno de los dos enfoques trata el documento como una secuencia plana de texto. Cada uno representa explícitamente la jerarquía como un paso intermedio antes de la recuperación de información.

Leer más

  • RouteRAG: Enseñar a un modelo pequeño cuándo y cómo recuperar información con RL — Cómo RouteRAG utiliza un entrenamiento GRPO en dos etapas para dirigir la recuperación entre pasajes, gráficos e índices híbridos, reduciendo el número de intentos de recuperación mientras ayuda a los modelos pequeños en tareas de QA de múltiples pasos.
  • KohakuRAG: Escalar el árbol de documentos para encontrar la evidencia adecuada — Una explicación de KohakuRAG, un marco RAG con un árbol de documentos de cuatro niveles, recuperación de múltiples consultas, intentos repetidos ante resultados vacíos y sistema de votación, probado en WattBot 2025.
  • Recuperación de información en una wiki de ingeniería: BM25, ventanas densas seguras para tokens y RRF — Recuperación basada en la evaluación para una wiki técnica: objetivos de evidencia exacta, un punto de referencia BM25, un error de truncación en MiniLM, ventanas de tokens y resultados de fusión de rango recíproco.
  • Creación de un asistente de documentación API con RAG utilizando LlamaIndex — Construye un asistente de documentación API con LlamaIndex: carga documentos en formato Markdown, divídelos en fragmentos con SentenceSplitter, genera embeddings, almacénalos en Chroma y realiza consultas con un RAG QueryEngine.