Deje que los términos exactos y su significado trabajen juntos en la búsqueda.
Combinar las listas de candidatos léxicos y semánticos sin considerar que las puntuaciones de búsqueda incompatibles sean intercambiables.
Un desarrollador que busca ERR_CACHE_STALE espera encontrar el código de error correspondiente. Otro desarrollador podría describir el mismo problema como “la aplicación sigue mostrando los datos de ayer”. Una búsqueda basada en conocimientos útiles debería poder atender a ambos tipos de solicitudes.
La recuperación léxica es valiosa cuando la ortografía exacta contiene información. La recuperación semántica puede relacionar diferentes descripciones de una misma idea. Combinar ambas permite que cada método tenga la oportunidad de encontrar pruebas que el otro omita.
La decisión de diseño determina dónde tiene lugar esa combinación.
Proporcionar a cada sistema de recuperación acceso al corpus
Supongamos que la búsqueda semántica obtiene veinte candidatos, y luego un evaluador léxico ordena esos candidatos. Esto puede mejorar su secuencia, pero las coincidencias exactas que no estén entre los veinte iniciales seguirán siendo invisibles.
Para cubrir un mayor número de candidatos, ejecute ambos métodos de recuperación sobre el corpus elegible y fusione sus resultados. Utilice las mismas reglas y filtros de elegibilidad de fuentes en ambos procesos. Un documento excluido debido a que su identidad es incierta no debe volver a incluirse mediante el segundo recuperador.
Esto se basa directamente en el inventario de fuentes: la recuperación debe realizarse con evidencias que esté dispuesto a utilizar.
Fusionar rangos antes de inventar una aritmética de puntuación
Una puntuación BM25 y una puntuación de similitud coseno describen cálculos diferentes. Sumarlas directamente da un número, pero ese número no tiene una interpretación automática como relevancia combinada.
La fusión de rangos recíprocos ofrece una línea base sencilla. Cada lista ordenada aporta un valor según la posición del candidato:
fused_score(document) = sum(1 / (c + rank_in_list))
Los rangos comienzan en uno. Una lista no aporta nada por un documento que no haya recuperado. La constante positiva c controla cuán bruscamente cambia la contribución entre las posiciones.
La ventaja es la simplicidad operativa: la fusión no requiere que las escalas de puntuación subyacentes coincidan. El sacrificio es que se descarta la magnitud de la puntuación. Dos resultados adyacentes reciben contribuciones similares incluso cuando un recuperador los consideró muy diferentes.
Mantenga las constantes y los conteos de candidatos en la configuración, y luego éstos sean evaluados. Se trata de decisiones de diseño, no garantías de relevancia.
Deducir por identidad, no por título
Dos recuperadores pueden devolver el mismo fragmento. Fusione ese fragmento mediante su identificador estable para que ambos rangos contribuyan a un único candidato. No lo considere como dos pruebas independientes.
Los títulos son identificadores débiles. Diferentes artículos pueden compartir un mismo título, y un artículo puede cambiar su título. Una clave de fragmento útil incluye la identidad de la fuente, la versión del contenido y la ubicación del fragmento.
También es necesario distinguir entre candidatos duplicados exactos y fragmentos cercanos dentro de una misma sección. Estos últimos podrían requerir consolidación posterior, como se explica en el método de fragmentación que preserva las pruebas.
Pruebe los tipos de consultas por separado
Utilice al menos tres grupos de preguntas: identificadores exactos, descripciones conceptuales y una combinación de ambos. Compare la búsqueda léxica por sí sola, la búsqueda semántica por sí sola y el resultado obtenido al combinarlas.
Verifique si las pruebas relevantes llegan al conjunto de candidatos antes de evaluar la calidad de las respuestas. Si la fusión ayuda en las consultas conceptuales pero perjudica a las consultas basadas en códigos de error exactos, el promedio general podría ocultar una regresión importante.
Una pequeña biblioteca técnica ya puede funcionar bien con búsquedas léxicas. Añada la recuperación semántica cuando los fallos medidos lo justifiquen. Mantener una línea de base léxica también hace visible el valor del equipo adicional.
Proporcionar una lista corta útil
Fusion genera una lista corta, no un juicio factual. Un documento con alto ranking aún puede estar desactualizado, incompleto o irrelevante para un criterio importante de la pregunta.
La siguiente etapa puede reclasificar a los candidatos utilizando una señal de relevancia más fuerte. Pero ninguna etapa posterior de clasificación puede salvar pruebas que nunca entraron en la lista corta. Mida primero la cobertura de los candidatos; de lo contrario, podría optimizar el orden del material incorrecto.