Hybride Abrufmethode für RAG: Kombination von Schlüsselwort-, Vektor- und Graphsuche.
Wie man BM25, Vektorabfrage und Graphsuche in RAG kombiniert: Rangfusion mit RRF, wobei GraphRAG hilft, sowie eine Architektur aus Abrufen, Fusionsprozess, Erweiterung und Neuranking.
Quellen: Hybrid Retrieval for RAG: Combining Graph, Vector, and Keyword Search
Keine einzige Suchmethode beantwortet alle Fragen. Die Schlüsselwortsuche eignet sich am besten für genaue Wörter, die Vektor Suche für Bedeutungen und die Graphsuche für Beziehungen. Reale Fragen erfordern in der Regel alle drei Methoden gleichzeitig, weshalb Suchplattformen und GraphRAG-Systeme heutzutage eher lexikalische, semantische und graphbasierte Suchverfahren kombinieren, anstatt von einer einzigen Technik zu erwarten, dass sie die gesamte Last trägt.
Warum eine Methode unzureichend ist
Die Schlüsselwortsuche bleibt unverzichtbar, da sie mit den tatsächlich in den Daten vorkommenden Begriffen verbunden ist. Die klassische Informationsabrufung erstellt einen umgekehrten Index aus einem Wörterbuch und Postings-Listen, und eine Bewertung nach dem BM25-Prinzip verbessert die einfache Begriffserkennung, indem sie die Häufigkeit der Begriffe sowie die Länge der Dokumente berücksichtigt. Lexikalische Suchmaschinen bieten außerdem Steuerungsmöglichkeiten, die semantische Systeme nicht nativ bieten: zitierte Phrasen, boolesche Operatoren, Feldbeschränkungen, Token-Analyseure sowie vorhersehbare Abgleiche. Wenn die genaue Formulierung genauso wichtig ist wie die Bedeutung, dann haben diese Steuerungsmöglichkeiten Vorteile.
Embeddings beheben genau das Gegenteil dieses Problems. Der Text wird in Vektoren umgewandelt, und eine Abfrage liefert das Ergebnis, das am nächsten liegt – selbst dann, wenn die Formulierung völlig von der Frage abweicht. Die DPR-Studie untermauerte dies mit Zahlen: In mehreren Datensätzen für die Beantwortung von Fragen aus offenen Domänen erzielte die dichte Suche 9 bis 19 Punkte mehr als die angepasste Lucene BM25-Baseline, gemessen an der Genauigkeit der besten 20 Ergebnisse. In der Praxis werden nahezu alle Implementierungen approximative Nachbarschaftsindexe verwendet, häufig HNSW, sodass Suchanfragen in Millisekunden beantwortet werden können.
Ein Graph bietet das, was weder die anderen beiden Methoden können: eine explizite Struktur. Knoten können Entitäten darstellen und Kanten Beziehungen, wobei Communitys, Aussagen sowie mehrdokumentäre Pfade darüber hinaus hinzugefügt werden. Untersuchungen zu GraphRAG beschreiben den Vorteil als Präzision und Vollständigkeit durch die strukturelle Gliederung auf Entitätenebene. Microsofts Implementierung trennt die lokale Suche, die auf Fragen zu einer einzelnen Entität abzielt, von der globalen Suche, die auf Fragen zum gesamten Korpus abzielt. KG²RAG zeigt eine weitere Anwendung: semantisch abgegliche Ausgangsteile werden eingespeist, und ein Wissensgraphus entwickelt sie zu einem kohärenten, vielfältigen Satz an unterstützenden Beweisen weiter.
Zwei Bedeutungen von „Graph“
Der Begriff Graph ist hier überladen. HNSW, eines der am weitesten verbreiteten approximativen Methoden zur Suche nach dem nächsten Nachbarn, ist selbst ein Graph, der so konstruiert ist, dass eine Suche schnell auf nahe liegende Vektoren zugreifen kann. Die Dokumentation zum Vektorindex von Neo4j gibt die Einstellungen vector.hnsw.m sowie vector.hnsw.ef_construction preis.
Wenn Menschen über die Kombination von Graph-, Vektor- und Schlüsselwortsuche sprechen, sind zwei verschiedene Graphen beteiligt. Einer ist eine interne Indexstruktur, die die Ähnlichkeitssuche beschleunigt. Der andere ist ein externer Wissensgraph, der reale Entitäten sowie die Verbindungen zwischen ihnen modelliert. Der erste hilft dabei, ähnliche Vektoren schnell zu finden, während der zweite das Schlussfolgern auf der Grundlage miteinander verbundener Fakten ermöglicht. Das Verwechseln beider führt zu unklaren Diskussionen über die Architektur.
Wie die hybride Suche in der Praxis funktioniert
Der übliche Ausgangspunkt sind zwei Suchvorgänge gleichzeitig – einer lexikalischer und einer semantischer. Weaviate bezeichnet seinen Ansatz als hybride Suche: Sowohl Vektor- als auch Schlüsselwortabfragen werden ausgeführt, und ihre Ergebnismengen werden miteinander kombiniert. OpenSearch erreicht dieses Ziel über Suchpipelines, die entweder die Bewertungen normalisieren oder die Ergebnisse vor der Rückgabe nach Rang ordnen. Neo4js HybridRetriever fragt einen Vektorindex sowie einen Volltextindex ab und fügt beide zu einer einzigen, nach Rang sortierten Liste zusammen. Jede Methode ergänzt die Blindstellen der anderen. Schlüsselwörter liefern genaue Belege, während Embeddings Abschnitte zurückgeben, die mit unterschiedlichen Worten dasselbe bedeuten.
Verknüpfung der Listen
Die nächste Entscheidung betrifft die Art und Weise, wie die Ranglisten kombiniert werden. Die rekursive Rangfusionsmethode (RRF) ist eine gute Standardlösung, da sie mit Rangpositionen statt mit Rohwerten arbeitet. In Elicasts Dokumentation wird angegeben, dass sie kaum oder gar keine Anpassung erfordert und keine vergleichbaren Werteskalen benötigt. Das ist wichtig, da BM25-Werte sowie Ähnlichkeitsmaße von Embeddings in der Regel in völlig unterschiedlichen numerischen Bereichen liegen.
Falls mehr Kontrolle gewünscht wird, steht die normalisierte gewichtete Fusion zur Verfügung. Weaviate unterstützt die fusionierung auf Basis von Werten, während OpenSearch sowohl normalisierungsbasierte Verarbeitungsmethoden als auch rankbasierte Fusion anbietet. Elicast weist außerdem darauf hin, dass eine lineare Kombination RRF übertreffen kann, sofern die Gewichte gut kalibriert sind – doch das erfordert sorgfältige Normalisierung und Experimente.
Die Rolle des Graphen
Die Graphschicht wird in der Regel nach der ersten Stufe der Abfrageausführung hinzugefügt. Neo4j’s HybridCypherRetriever veranschaulicht dieses Konzept: Die Kandidaten stammen aus Vektor- und Volltextsuche, anschließend liefert eine Graphdurchquerung umfangreicheren Kontext zu diesen Kandidaten.
Microsofts GraphRAG-Lokalsuche verfolgt einen ähnlichen Ansatz und mischt den aus dem Graphen gewonnenen Kontext mit dem ursprünglichen Text. Die Globalsuche geht einen anderen Weg und beantwortet fragebezogene Anfragen auf Basis von im Voraus berechneten Community-Berichten für das gesamte Datensatz. Das ist der Schritt über „BM25 plus Embeddings“ hinaus: Zuerst wird ein geeigneter Knoten oder Textabschnitt gefunden, anschließend werden weitere Informationen gesammelt, die im abgeglichenen Abschnitt nicht enthalten waren.
Wann sich GraphRAG lohnt
Die grafenbasierte Suche lohnt sich, wenn eine Frage sich auf Verbindungen statt auf einzelne Abschnitte bezieht. In Microsofts Dokumentation wird die Einteilung erläutert: lokale Suche für spezifische Entitäten, globale Suche für das Schlussfolgern auf Basis des gesamten Datensatzes, DRIFT für lokale Schlussfolgerungen, erweitert um Kontexte aus der Gemeinschaft, sowie grundlegende Suche für Fragen, die bereits durch einfache Vektorabfragen gut beantwortet werden können. Graphen sind am nützlichsten, wenn der Benutzer vom System verlangt, Zusammenhänge herzustellen, Abhängigkeiten nachzuvollziehen, Themen zusammenzufassen oder mehrere Schritte der Beweisführung zu verfolgen.
Doch es handelt sich dabei nicht um ein kostenloses Upgrade der Relevanz. Ein neueres Benchmark-Paper zu GraphRAG fragt direkt nach, wann Graphen nützlich sind, und stellt fest, dass GraphRAG bei vielen realen Aufgaben schlechter abschneidet als herkömmliches RAG. Der zentrale Punkt ist, dass die Graphstruktur sich lohnt, wenn die Aufgaben tatsächlich eine hierarchische Suche, relationserkennendes Denken oder umfassende kontextuelle Synthese erfordern. Bei einfachen, lokalen Abfragen bringt das Erstellen, Durchlaufen und Zusammenfassen des Graphen möglicherweise nur geringe Vorteile. Ein gutes hybrides Design sollte selektiv statt maximal sein.
Eine Referenzarchitektur
Die Vorbereitung steht an erster Stelle. Teilen Sie die Dokumente in Abschnitte auf, extrahieren Sie dort, wo es sinnvoll ist, Entitäten und Beziehungen sowie führen Sie eine übersichtliche Zuordnung von jedem Abschnitt zu den in ihm erwähnten Graphenobjekten durch. Anschließend stehen drei Strukturen nebeneinander: ein lexikalischer Index zur Abgleichung von Tokens, ein Vektorindex für die Bedeutung und eine Grapheschicht zur Durchquerung oder Erweiterung von Gemeinschaften.
Abfragen folgen vier Schritten: Abrufen, Fusionieren, Erweitern und Neurankieren. Zunächst werden lexikalische und vektorbasierte Suchen durchgeführt, deren Ergebnisse anschließend fusioniert werden. Nur die zuverlässigsten Treffer werden über den Graphen erweitert, und ein Neuranker ordnet die erweiterten Ergebnisse, bevor sie vom Generierer verarbeitet werden. Dadurch bleibt der Aufwand begrenzt, und sowohl die Trefferquote als auch die Qualität des Kontexts bleiben hoch.
Wo es hingehen wird
Anbieter und Forscher konzentrieren sich auf integrierte Lösungsansätze. Elastic, Weaviate, OpenSearch und Neo4j bieten alle hybride Suchfunktionen als Standardfähigkeit an, anstatt sie als Workaround zu verwenden. Milvus dokumentiert eine hybride Konfiguration, die auf BGE-M3 basiert – einem Modell, dessen wissenschaftlicher Artikel dichte, spärliche sowie mehrvektorielle Ausgaben aus einem Netzwerk beschreibt. Die Entwicklung zeigt eine Abnahme separater Suchmodi hin zu Systemen, die mehrere Relevanzsignale aus denselben Daten gewinnen und diese bei einem Suchantrag miteinander verbinden.
Praktische Ratschläge
Der größte Fehler besteht darin, die hybride Suche als einen einzigen Algorithmus zu betrachten. Es handelt sich dabei um eine Strategie:
- Beginnen Sie mit einer Kombination aus Schlagwortgenauigkeit und semantischer Erinnerung.
- Wenden Sie RRF an, wenn die Skalen der Bewertungswerte nicht übereinstimmen.
- Wechseln Sie auf gewichtete Fusion, nachdem Sie Bewertungsdaten gesammelt haben.
- Fügen Sie Grapherweiterungen nur dort hinzu, wo Beziehungen von Bedeutung sind.
Relevanz ist ebenfalls nicht die einzige Beschränkung. Vektorindizes verbrauchen echten Speicher und verursachen Verzögerungen, und die Bedienungsanleitung von Neo4j besagt, dass seine auf Lucene basierenden Vektorindizes stark vom Cache des Betriebssystem-Dateisystems abhängen. Zu wissen, wann man es einfach halten sollte, ist Teil der Konzeption.
Hybride Suchmethoden funktionieren, weil sie dem Verhalten der Menschen bei der Suche nach Wissen entsprechen. Manchmal erinnert man sich an den genauen Satz, manchmal nur an die Idee, und manchmal ist es die Kette von Verknüpfungen, die erklärt, wie zwei Fakten miteinander zusammenhängen. Schlüsselwort-, Vektor- und Graphsuche decken jeweils eines dieser Bedürfnisse ab, und die leistungsstärksten Suchsysteme kombinieren sie absichtlich miteinander.
Verwandte Artikel
- Vector RAG vs. Keyword RAG: Wann sollte man welche Methode verwenden und warum das Hybridsystem vorteilhaft ist — Vergleich der auf Embeddings basierenden Suche mit BM25, SQL und Graphsuche für RAG: Wie jede Methode funktioniert, wo sie versagt, und wie eine hybride Suche mit erneuter Rangfolgegestaltung passt.
- Auswahl einer Vektordatenbank im großen Maßstab: Weaviate vs Pinecone für RAG — Ein praktischer Vergleich von Weaviate und Pinecone für wachsende RAG-Systeme: hybride Suche, Isolierung der Nutzer, Kompromisse bei der Speicherkapazität, Deployment-Möglichkeiten und Methoden zur Leistungsüberprüfung.