Startseite / Artikel

GraphRAG-Gemeinschaftsberichte: Ein Wissensgraph in Antworten umwandeln

Wie GraphRAG aus Text ein Graph erstellt, hierarchische Gemeinschaften mit Leiden findet, Berichte über diese Gemeinschaften erstellt und sie für globale sowie lokale Suchanfragen verwendet.

Verlag: REACTAPP.TOP6 Min. Lesezeit1397 Wörter

Quellen: Building the Graph with GraphRAG: Community Reports and Summaries

Eine große Menge an Dokumenten versagt selten aufgrund mangelnder Informationen. Sie versagt, weil die Bedeutungen verstreut sind. Ein Abschnitt nennt eine Person, ein anderer beschreibt ein Ereignis und ein dritter erklärt das Ergebnis – doch nichts verbindet sie miteinander.

Herkömmliche RAG-Systeme können relevante Abschnitte recht gut auswählen, stoßen aber oft bei umfassenden oder abstrakten Fragen ins Stocken, insbesondere dann, wenn diese ein ganzes Datensatzumfeld betreffen. GraphRAG überwindet dieses Problem, indem es aus dem Text ein Wissensgraphen erstellt, verwandtes Material gruppiert und Zusammenfassungen verfasst, die das Schlussfolgern über den gesamten Datensatz ermöglichen.

Ein Wissensgraph ist ein Netzwerk aus Entitäten und den Verbindungen zwischen ihnen. Formal besteht er aus Entitäten, Beziehungen und Tripeln, wobei jedes Triple zwei Elemente durch eine bestimmte Art von Verbindung miteinander verbindet. Solche Graphen helfen bereits bei der Suche, bei der Überprüfung von Fakten und beim Beantworten von Fragen, weshalb sie für Systeme geeignet sind, die mehr als nur isolierte Textabschnitte benötigen.

Von Rohtext zu Graph

Der Aufbau des Graphen beginnt damit, das Quellmaterial in kleinere Einheiten aufzuteilen. Im Standardprozess von GraphRAG werden Dokumente zu TextUnits, und das System extrahiert aus jeder Einheit Entitäten, Beziehungen sowie manchmal Aussagen. Anschließend werden doppelte Entitäten und Verbindungen zusammengeführt, und ihre Beschreibungen werden zu einfacheren Graphobjekten verdichtet. Das Ergebnis ist ein strukturierter Index mit Tabellen und Embeddings, der die wichtigen Beziehungen bewahrt, anstatt nur eine flache Liste von Fakten zu liefern.

Es klingt einfach, aber ein guter Graph erfordert mehr als nur das Erkennen von Namen. Forschungen deuten darauf hin, dass ein solider Prozessfloss auch Pronomen und Pseudonyme berücksichtigen, Beziehungsphrasen finden sowie diese Phrasen mit den richtigen Entitäten und Aktionen verknüpfen muss. In der Praxis erfordert das die Lösung von Koreferenzproblemen, das Verknüpfen von Entitäten und Beziehungen sowie die Extraktion von Tripeln. Ist eine dieser Schritte schwach, kann der Graph bereits vor einer Zusammenfassung ungenau sein.

Von Entitäten zu Gemeinschaften

Sobald das Entity-Graph fertig ist, besteht die nächste Aufgabe darin, seine Struktur zu ermitteln. GraphRAG gruppiert verwandte Knoten auf mehreren Ebenen mithilfe der hierarchischen Community-Detektion in Clustern. Das Graph wird dabei zu einer Karte von Themen, Unterthemen und lokalen Schwerpunkten statt zu einer Abfrageschlüsseltabelle. In der Dokumentation von Microsoft wird dies als bottom-up-Summarisierung zur Verständnisgewinnung aus dem gesamten Datensatz beschrieben, und Microsoft Research gibt an, dass die Hierarchie von breiten Themen bis hin zu sehr spezifischen Inhalten reichen kann.

Der Clustering-Algorithmus ist von Bedeutung. GraphRAG verwendet die hierarchische Leiden-Community-Detektion, die in der Netzwerkanalyse-Forschung Anwendung findet. Leiden wurde entwickelt, um gut vernetzte Communities zu gewährleisten, und eine Studie in Scientific Reports stellte fest, dass sie oft bessere Partitionen erzeugt als Louvain und zudem schneller arbeitet. Enge Communities führen zu besseren Zusammenfassungen, da das Modell Texte zusammenfasst, die tatsächlich zusammengehören.

Was ein Community-Bericht enthält

Community-Berichte sind es, die den Graphen nützlich machen. Sobald Communities vorhanden sind, erstellt GraphRAG einen Bericht für jede davon. Der übergeordnete Bericht kann den gesamten Datensatz beschreiben, während niedrigere Ebene-Berichte kleinere Gruppen von Entitäten, Beziehungen und Themen abdecken. Laut Microsoft zeigt dies die Struktur der Daten bereits vor dem, dass ein Benutzer etwas fragt.

Ein guter Bericht ist mehr als nur ein kurzer Absatz. In der Standardausgabe von GraphRAG kann er einen Titel, eine Zusammenfassung, den vollständigen Inhalt, eine Relevanzbewertung, eine Erklärung zu dieser Bewertung sowie etwa fünf bis zehn Schlussfolgerungen enthalten. In der Dokumentation heißt es, die Berichte seien für Menschen zum Lesen sowie für Suchsysteme zur Verwendung bestimmt, wobei die kurze Zusammenfassung als schnelle Version für spätere Schritte dient.

Das bietet jeder Gemeinschaft zwei Vorteile: Es hilft den Menschen, zu verstehen, was jeder Teil des Graphen bedeutet, und liefert dem System einen wiederverwendbaren Kontext für neue Fragen. Der Bericht dient sowohl als Erklärung für Menschen als auch als Speicherschicht für die Maschine – deshalb ist die Berichterstattung durch Gemeinschaften kein optionales Extra, sondern ein zentraler Grund dafür, dass GraphRAG Rohdaten in nützliche Antworten umwandeln kann.

Wie Zusammenfassungen globale und lokale Suche antreiben

Gemeinschaftliche Zusammenfassungen sind besonders nützlich, wenn eine Frage gestellt wird. Die Studie zu GraphRAG argumentiert, dass herkömmliche RAG-Methoden bei globalen Fragen, also solchen, die sich auf ein gesamtes Datensatz statt auf einen einzelnen Fakt beziehen, schlecht abschneiden. GraphRAG erstellt die Gemeinschafts-Zusammenfassungen im Voraus und verwendet sie für solche umfassenden Abfragen. Der Abstract der Studie beschreibt deutlich umfassendere und vielfältigere Antworten auf übergeordnete Fragen an Datensätzen mit etwa 1 Million Tokens.

In dem offiziellen globalen Suchprozess werden Berichte im Batch-Modus im Map-Reduce-Stil verarbeitet. Jeder Batch erzeugt Zwischenwerte mit Wichtigkeitsbewertungen, und die am höchsten bewerteten Punkte werden zu der endgültigen Antwort zusammengeführt. In der Dokumentation wird ein Kompromiss erwähnt: niedrigere Ebenen der Hierarchie liefern detailliertere Antworten, erfordern aber mehr Zeit und Rechenleistung, da mehr Berichte gelesen werden müssen.

Für engere Fragen wechselt GraphRAG auf die lokale Suche. In diesem Modus wird das strukturierte Diagramm mit dem relevanten Quelltext kombiniert, sodass das Modell detaillierte Fragen zu spezifischen Entitäten mit besserm Kontext beantworten kann. Die Existenz beider Modi zeigt, warum Community-Zusammenfassungen wichtig sind – sie ermöglichen es dem System, sich auf breite Themen zu konzentrieren oder in Details einzutauchen, ohne jedes Mal den gesamten Kontext neu erstellen zu müssen.

Lektionen für bessere Community-Berichte

Ein solider Graph beginnt mit einer sorgfältigen Extraktion – nicht nur mit einem guten Clustering-Algorithmus. Wenn Entitäten fragmentiert sind, Alias-Namen nicht zugeordnet werden können oder Beziehungen unklar sind, klingt der Community-Bericht in der Regel allgemein, da die Community selbst schlecht definiert war. Extraktion, Zusammenführung, Clustering und Berichterstattung funktionieren am besten als ein zusammenhängender Prozess statt als vier unverbundene Aufgaben – und genau daraus entstehen die stärksten Zusammenfassungen.

Auch die Anzahl der Operationen spielt eine Rolle. Das GraphRAG-Repositorium warnt davor, dass das Indizieren kostspielig sein kann, und empfiehlt, mit einer kleinen Einrichtung zu beginnen. Version 1.0 soll eine einfachere Konfiguration, ein kompakteres Datenmodell sowie einen geringeren Speicherbedarf im Vergleich zu früheren Versionen bieten. Zudem wird empfohlen, die Anfragen anzupassen, da die Standardwerte nicht für jedes Datensatz geeignet sind. In der Praxis entstehen gute Berichte durch Iterationen: Anpassungen der Extraktionsanfragen, Überprüfung der Clusterqualität, Überarbeitung der Berichtsanfragen – erst danach sollte die Skalierung erhöht werden.

Eine weitere Erkenntnis ergibt sich aus der Entwicklung von GraphRAG. Die dynamische Gemeinschaftsauswahl von Microsoft Research fügt einen Filterschritt hinzu. Bevor die vollständige globale Suchphase durchgeführt wird, prüft das System die Berichte der Gemeinschaften und behält nur jene bei, die zur gestellten Frage relevant sind. In einem Test mit Daten von AP News reduzierte diese Methode bei einem bestimmten Niveau die durchschnittlichen Tokenkosten um 77%, während die Ausgabequalität der statischen Methode naheblieb. Eine tiefere Suche könnte mehr Details liefern, kostet aber mehr. Fazit: Nicht alle Berichte verdienen eine gleichmäßige Verarbeitung – daher ist die Auswahl der richtigen Berichte genauso wichtig wie ihre gute Zusammenfassung.

Was daraus resultiert

Die Erstellung des Graphen dient im Grunde der Schaffung von Kontext. Das Verknüpfen verstreuten Textes ist der Beitrag des Graphen. Die Gemeinschaftserkennung ordnet diese Bedeutungen in verschiedene Ebenen ein. Berichte und Zusammenfassungen wandeln diese Ebenen in etwas Umsetzbares für Menschen und Sprachmodelle um. Wenn sie gut gemacht sind, dienen die Zusammenfassungen nicht nur der Dekoration – sie werden zum wichtigsten Instrument, um aus großen, unübersichtlichen Datensätzen Sinn zu gewinnen.

Schnelle Antworten

Was ist ein Gemeinschaftsbericht in GraphRAG? Ein von einem LLM verfasstes Textdokument über einen Cluster des Graphen. Typische Felder sind ein Titel, eine Zusammenfassung, der vollständige Textinhalt, eine Rangfolge mit Begründung sowie einige Schlussfolgerungen. Menschen lesen ihn, und Suchschritte nutzen ihn später erneut.

Warum sollten Community-Zusammenfassungen statt nur Textabschnitten verwendet werden? Einige Fragen sind global und nicht lokal begrenzt. Sowohl die wissenschaftliche Veröffentlichung als auch die Dokumentation argumentieren, dass allgemeine Fragen zu Themen oder Mustern in einem gesamten Korpus durch herkömmliche Vektorabfragen nur unzureichend beantwortet werden können, während vorbereitete Zusammenfassungen einen über das gesamte Datensatz reichenden Überblick bieten, der zu besseren Antworten zusammengeführt werden kann.

Warum ist Leiden wichtig? Eine Zusammenfassung kann nicht besser sein als der Cluster, den sie beschreibt. Leiden erzeugt gut vernetzte Communities und weist in der Praxis sowohl hinsichtlich der Laufzeit als auch der Qualität der Aufteilung gute Ergebnisse auf. Dadurch bildet es eine sinnvolle Grundlage für eine Hierarchie von Berichten.