Zehn selbsthostbare Open-Source-Agentenplattformen, sortiert nach den tatsächlichen Bedürfnissen von Unternehmen.

Ein Inhaber eines kleinen Unternehmens auf Reddit beschrieb eine alltägliche Situation. ChatGPT war bereits Teil der täglichen Routine, und der nächste Schritt bestand darin, die KI damit zu beauftragen, Kundenanfragen nachzugehen, eingehende E-Mails zu sortieren, Erinnerungen an ausstehende Angebote zu senden und wöchentliche Zusammenfassungen zu erstellen. Bei den Recherchen kamen n8n, Zapier, raw APIs, MCP sowie zahlreiche Tools zur Erstellung von Automatisierungsagenten zum Vorschein. Der Unternehmer hatte keine Entwicklungskenntnisse und wollte auch keinen ganzen technischen Stack lernen, nur um einige Automatisierungen umzusetzen. Noch größere Sorgen bereitete ihm die Wartung: Wenn es Wochen dauert, solche Workflows zu erstellen, werden sie dann ständige Aufmerksamkeit erfordern und letztendlich noch komplizierter sein als der manuelle Prozess, den sie ersetzen sollen?

Diese Sorge ist bei Unternehmen, die nach Tools für KI-Agenten suchen, weit verbreitet – teilweise weil der Suchbegriff „KI-Agent“ völlig unterschiedliche Produkte umfasst. Es gibt Entwicklerframeworks wie LangChain, CrewAI und Haystack. Zudem existieren Plattformen zum Erstellen von Agenten, Automatisierungswerkzeuge, RAG-Plattformen sowie Unternehmensanwendungsplattformen, die Geschäftsdaten, Seiten, Berechtigungen und Workflows gemeinsam verwalten.

In dieser Übersicht werden die Möglichkeiten auf zehn Open-Source-Projekte eingegrenzt, die selbst gehostet werden können und bereits eine Kombination aus visuellem Anwendungsbau, Workflows, Wissensbasen oder Funktionen für Geschäftssysteme bieten. Jedes Projekt wird mit einem kurzen Profil vorgestellt, das erklärt, um was es geht, welche KI-Fähigkeiten hervorstechen, wofür es für Unternehmen nützlich ist und für welche Teams es geeignet ist.

Wie die Liste zusammengestellt wurde

Ein Projekt erfüllt die Voraussetzungen, wenn sein Kerncode öffentlich zugänglich und aktiv gepflegt wird, es die Selbsthosting-Möglichkeit bietet, bereits Funktionen für Agenten, Toolaufrufe oder AI-Arbeitsabläufe bereitstellt und mindestens eine der Kategorien visuelle Anwendungen, Automatisierung, Wissensbasen oder Unternehmensgeschäftsprozesse umfasst. Die Beschreibungen stammen hauptsächlich von der Website jedes Projekts, seinem GitHub-Repository sowie den offiziellen Dokumentationen. Es handelt sich dabei nicht um einen Vergleich in einem einheitlichen Testumfeld und auch nicht um eine vollständige Rangliste; daher stellen die untenstehenden Gruppierungen eher eine Übersicht dar als eine echte Rangliste. Die Anzahl der Sterne entspricht denen, die zum Zeitpunkt der Erstellung auf GitHub angezeigt wurden.

Zehn Projekte in drei Gruppen

• KI im Zusammenhang mit Unternehmensdaten, Automatisierung und Geschäftsprozessen: eine no-code-Unternehmensanwendungsplattform (zuerst vorgestellt), sowie Activepieces, Kestra und Windmill.

Visuelle Erstellung von Agenten und KI-Anwendungen: Coze Studio, Langflow und Dify.

Unternehmenswissensbasen und RAG: MaxKB, AnythingLLM und RAGFlow.

Eine schnelle Entscheidungshilfe: Ein Unternehmen, das strukturierte Geschäftsdaten, Berechtigungen und interne Anwendungen verwalten muss, sollte zunächst eine solche no-code-Anwendungsplattform in Betracht ziehen. Wer hauptsächlich daran interessiert ist, viele SaaS-Tools miteinander zu verbinden und Aufgaben zu automatisieren, findet in Activepieces einen starken Kandidaten. Teams, die sich auf die Entwicklung von Agenten und KI-Arbeitsabläufen konzentrieren, werden in Dify, Langflow oder Coze Studio gute Ausgangspunkte finden. Wenn private Dokumenten-FAQs und komplexe Wissensabrufverfahren am wichtigsten sind, eignen sich MaxKB, AnythingLLM oder RAGFlow besser.

Gruppe eins: Unternehmensanwendungen und Geschäftsautomatisierung

Eine no-code-Plattform für Unternehmensanwendungen

Das erste Projekt (etwa 23,9 K GitHub-Sterne) ist eine open-source, selbst gehostete no-code-Plattform für Unternehmensanwendungen. Die meisten Nutzer verwenden sie zur Erstellung von CRMs, Ticketing-Systemen, IT-Verwaltungstools, Genehmigungsworkflows und anderer internen Softwarelösungen. Sie stellt die Grundlagen bereit, die solche Anwendungen benötigen – nämlich Datenmodelle, Seiten, Berechtigungen und Workflows – und ermöglicht es der KI, sowohl bei der Erstellung der Anwendung als auch bei deren späteren Anpassung mitzuwirken. KI-basierte Mitarbeiter können außerdem innerhalb des Systems konfiguriert werden, wodurch aktuelle Geschäftsdaten, Tools und Prozesse kombiniert werden, um Informationen zu analysieren, zu verarbeiten und Aufgaben auszuführen.

Bemerkenswerte KI-Funktionen:

• KI-gestütztes, no-code-Builden. Der Benutzer beschreibt eine Anforderung in einfachen Worten, und die KI erstellt die Tabellen und Beziehungen, die Seiten, die Workflows sowie die Rollenrechte. Es gibt zwei Eingangspunkte: ein no-code-Portal, in dem Geschäftsbenutzer die Anwendung visuell weiter anpassen können, und ein KI-Portal, das sich besser für komplexe Interaktionen und stark angepasste Seiten eignet.
• KI-Mitarbeiter, die im Geschäftsalltag tätig sind. Die KI übernimmt in der täglichen Arbeit definierte Aufgaben, wie beispielsweise das Analysieren von Daten, das Organisieren von E-Mails oder das Extrahieren von Informationen. Sie kann die Tools und Workflows des Systems nutzen, um Datensätze abzufragen, Formulare auszufüllen oder Geschäftsprozesse zu starten.

Eine Unternehmens-Wissensdatenbank. KI-Mitarbeiter können das Unternehmenswissen automatisch oder auf Anfrage abrufen, wobei der zugängliche Inhalt nach der Rolle des aktuellen Benutzers gefiltert wird. Support-Mitarbeiter, Verkäufer oder interne Assistenten können anschließend mit den eigenen Materialien der Organisation arbeiten.

Berechtigungen und Ausführungskontrolle. KI-Mitarbeiter erben die Datenerweiterungen des aktuellen Benutzers, und sensible Aktionen wie das Ändern von Daten können zunächst eine Bestätigung erfordern, wodurch verhindert wird, dass ein Agent über die Befugnisse der Person hinter ihm hinausgeht.

Häufige Anwendungsbereiche umfassen CRM-Systeme, die Details aus Kunden-E-Mails oder Meetingnotizen ordnen, Vorschläge für Nachfassungen erstellen und den Vertrieb mit Daten zu Kunden, Kontakten und Geschäftsmöglichkeiten unterstützen; Support- und Ticketing-Systeme, in denen die KI eingereichte Probleme prüft, Kategorien und Prioritäten festlegt, Antworten aus der Wissensdatenbank erstellt und Ticket-Arbeitsabläufe unterstützt; IT-Management-Systeme, bei denen die KI aus der eigenen Beschreibung eines Mitarbeiters den Anfragetyp, die Priorität sowie Handlungsanleitungen ableitet und mit Daten zu Assets, Wartung und Genehmigungen arbeitet; sowie weitere interne Systeme für Einkauf, Genehmigungsverfahren, Projektmanagement und Betriebsabläufe, wobei die KI-Mitarbeiter je nach Rolle konfiguriert werden.

Es eignet sich für Teams mit klar definierten Anforderungen wie CRM, Support-Ticketing, IT-Management oder Genehmigungsprozessen, die von KI erwarten, dass sie den Aufbau beschleunigt – anstatt ein ganzes Unternehmenssystem von Grund auf zu entwickeln. Geschäftsanwender können den größten Teil der Konfiguration mit no-code-Tools und KI durchführen und das System anschließend über APIs und Plugins erweitern. Es ist geeignet für interne Systeme, die voraussichtlich über einen langen Zeitraum bestehen und sich weiterentwickeln sollen.

Activepieces

Activepieces (etwa 24,0 K Sterne) ist eine open-source-, selbst gehostete KI-Automatisierungsplattform zur Vernetzung der bereits von einem Unternehmen genutzten Anwendungen, Daten und Prozesse. Sie bringt Agenten, Automatisierungsworkflows und Daten in eine einzige Umgebung zusammen, was sich für Vertrieb, Support, Betrieb sowie andere Aufgaben eignet, die mehrere Tools umfassen.

Bemerkenswerte KI-Funktionen:

• Kreierung visueller Agenten. Definieren Sie die Aufgabe des Agenten, sein Modell sowie die verfügbaren Tools und platzieren Sie ihn anschließend in einem Automatisierungsworkflow. Bestehende Workflows können ebenfalls als Tools für Agenten dienen.
• Bau anhand einer Beschreibung. Geben Sie das Ziel in natürlicher Sprache an, damit die KI einen Agenten oder einen Workflow erstellt, und bearbeiten Sie diesen danach visuell mithilfe von Bedingungen, Schleifen und Code-Schritten.
• Verbindungen zu Unternehmenswerkzeugen. Mehr als 700 Anwendungen werden unterstützt, darunter CRM-Systeme, E-Mail-Tools, Zusammenarbeitstools und Tabellenkalkulationen. Über MCP können die auf der Plattform erstellten Funktionen an andere MCP-fähige KI-Clienten bereitgestellt werden.

Häufige Anwendungsbereiche: Bearbeitung von Verkaufsleads, bei der neue Leads über E-Mails oder Formulare erfasst werden, nach Kundentyp und Priorität kategorisiert, im CRM eingetragen und mit Nachfollgetexten versehen werden; Kundenservice-Prozesse, bei denen eingehende Anfragen gelesen, kategorisiert und zusammengefasst werden, Tickets zugewiesen sowie Daten zwischen Support-Tools und dem CRM synchronisiert werden; sowie tägliche Abläufe wie das Sortieren von E-Mails, das Extrahieren von Details, die Synchronisierung von Tabellenkalkulationen oder Datenbanken sowie die Erstellung von täglichen oder wöchentlichen Berichten und Benachrichtigungen aus mehreren Systemen.

Es eignet sich am besten für kleine und mittelgroße Teams oder Abteilungen, die bereits mehrere SaaS-Tools nutzen, aber nur begrenzte Entwicklungskapazitäten haben. Mitarbeiter aus den Bereichen Vertrieb, Marketing, Support und Operations, die ständig Daten verschieben, Nachrichten senden und Aufgaben über verschiedene Systeme hinweg verfolgen, können mit visuellen Workflows beginnen und bei wachsenden Anforderungen API-Anbindungen oder maßgeschneiderte Integrationen hinzufügen.

Kestra

Kestra (etwa 28.000 Sterne) ist eine open-source-, selbst gehostete Workflow-Orchestrierungsplattform für Automatisierung, die Daten, KI und Infrastruktur umfasst. Agenten laufen direkt als Aufgaben innerhalb eines Workflows, rufen Tools auf, führen andere Aufgaben aus oder triggern bestehende Abläufe je nach ihren Zielen.

Bemerkenswerte KI-Funktionen:

• Agenten innerhalb von Workflows. Ein KI-Copilot kann auf Basis einer Anfrage in Alltagssprache einen neuen Workflow erstellen oder einen bestehenden überarbeiten. Agenten können ebenfalls in bereits vorhandenen Workflows integriert werden, wo sie Modelle, Speicher, Tools sowie bestehende Kestra-Aufgaben und -Abläufe nutzen und anschließend den nächsten Schritt anhand der Ausgabe der Ausführung wählen.
• Visuelle und kodbasierte Entwicklung. Über die Benutzeroberfläche können Workflows erstellt und angepasst werden, während anspruchsvollere Anforderungen mithilfe von YAML, Python, Docker und benutzerdefinierten Skripten erweitert werden.

Aufspürbare Ausführungen. Agenten und gewöhnliche Aufgaben teilen sich eine Laufzeit, sodass Status, Protokolle und Fehlerprotokolle an einem Ort überprüft werden können, was die Fehlersuche und Wartung erleichtert.

Typische Anwendungen: Automatisierungen im Datenverarbeitungsbereich, die aus dem Zustand der Daten die nächsten Schritte bestimmen und vorhandene Workflows für die Reinigung, Analyse und Aggregation aufrufen; IT- und Betriebsabläufe, die Alarme oder Systemereignisse analysieren und anschließend Überprüfungen, Benachrichtigungen oder weitere Maßnahmen ausführen; sowie komplexe Geschäfts- und KI-Prozesse, die Modelle, Tools, Freigabeverfahren, Datenverarbeitung sowie mehrstufige und dynamisch entscheidende Aufgaben zwischen Systemen kombinieren.

Kestra eignet sich für Teams, die bereits eine Automatisierungsgrundlage haben und Entwickler, Dateningenieure oder Betriebsspezialisten einbeziehen. Seine Stärken in der Orchestrierung zeigen sich, wenn Workflows länger werden und Abhängigkeiten, Wiederholungen, Zustandsverfolgung sowie mehrstufige KI-Beschlüsse erforderlich sind. Ein kleines Team, das nur einige einfache Automatisierungen schnell umsetzen möchte, könnte ein vollständiges Workflowsystem als überflüssig empfinden.

Windmill

Windmill (etwa 17,7 K Sterne) ist eine open-source-, selbsthostete Plattform für Entwicklung und Automatisierung, die Scripts, APIs, Workflows sowie interne Anwendungen an einem Ort ausführt. Sie unterstützt neben Code in Python, TypeScript, Go, SQL und anderen Sprachen auch visuelle Orchestrierung, wodurch sie sich an Teams mit technischen Fähigkeiten richtet.

Bemerkenswerte KI-Funktionen:

• Agenten als Arbeitsablaufschritte. Ein Agent wird als einzelner Schritt ausgeführt und kombiniert Bedingungen, Freigaben, Fehlerbehandlung sowie weitere Knoten für Aufgaben, die eine KI-Beurteilung erfordern.
• Nutzung vorhandener technischer Ressourcen. Agenten können Skripte, Datenbanken, APIs sowie andere bereits vorhandene Windmill-Arbeitsabläufe nutzen und sich außerdem an MCP-Tools anschließen, wodurch bestehender Code sowie interne Dienste direkt wiederverwendet werden können.
• Berechtigungen, Freigaben und Protokolle. Teams können einschränken, welche Ressourcen ein Agent nutzen oder ausführen darf, eine menschliche Freigabe für wichtige Aktionen erforderlich machen sowie die Toolaufrufe, Eingaben, Ausgaben, Protokolle und den Status jeder Ausführung überprüfen.

Typische Anwendungsbereiche: Automatisierung von IT- und Betriebsprozessen, bei der ein Alarm oder der Systemzustand eine Analyse auslöst, anschließend Skripte Überprüfungen, Reparaturen und Benachrichtigungen durchführen; Datenverarbeitung, bei der ein Agent die Ausgabe einer Datenbankabfrage oder eines bestehenden Datenskripts prüft und spätere Workflows auslöst; sowie interne KI-Tools, die Agenten, Backend-Skripte und Anwendungsinterfaces zu Datenassistenten und Betriebswerkzeugen kombinieren.

Windmill eignet sich für Unternehmen mit Entwicklern, Datenexperten oder Betriebsingenieuren, insbesondere solche, die über eine Menge an Skripten, Datenbanken, APIs und internen Diensten verfügen, die sie für Agenten wiederverwenden möchten. Für ein Team ohne technisches Personal, das einige einfache visuelle Workflows benötigt, kann eine auf Entwicklung ausgerichtete Plattform zu aufwendig erscheinen.

Gruppe zwei: visuelle Agenten-Builder

Coze Studio

Coze Studio (etwa 21,5 K Sterne) ist die Open-Source-, All-in-One-Plattform von ByteDance zum Entwickeln von Agenten. Sie konzentriert sich darauf, Agenten visuell zu erstellen, zu debuggen und einzusetzen, indem Modelle, Wissen und Tools direkt kombiniert werden – was sich für Kundenservice-Assistenten, Wissens-FAQs, Inhaltsassistenten und ähnliche Anwendungen eignet.

Bemerkenswerte KI-Funktionen:

• Visuelle Agenten und Workflows. Legen Sie Modelle, Anweisungen und Tools in der Benutzeroberfläche fest oder zeichnen Sie mehrstufige Workflows auf einer Leinwand, wobei Sie bei Bedarf Verzweigungen und Datenverarbeitung hinzufügen können.
• RAG und Wissensbasen. Verbinden Sie Unternehmensdokumente mit Wissensdaten, damit Agenten aus festgelegtem Inhalt antworten können.
• Plugins und externe Tools. Agenten rufen über Plugins externe Dienste auf, wodurch Suchfunktionen, Abfragen und Datenverarbeitung in einen Ablauf integriert werden.

Ein Ort für Entwicklung, Debugging und Bereitstellung, der den Wechsel zwischen Tools reduziert.

Typische Anwendungen: KI-basierte Kundenservice-Systeme, die Fragen zu Produkten, Dienstleistungen und After-Sales-Themen aus Wissensbasen beantworten, während Plugins zusätzliche Geschäftsdaten abrufen; unternehmensweite Wissensassistenten, die Mitarbeitern Fragen beantworten, Dokumente suchen und Informationen aus internen Materialien organisieren; sowie Content- und Marketing-Hilfsmittel, die Suchfunktionen, Erstellungstools und Workflows für Recherche, Materialorganisation und erste Entwürfe kombinieren.

Es eignet sich für Teams, die gerade mit KI-Assistenten beginnen und schnell Kundenservice-, Q&A- oder Content-Assistenten ohne eigene KI-Entwickler benötigen. Produkt-, Betriebs- oder Geschäftsabteilungen können Ideen visuell testen und später Wissensbasen, Plugins sowie komplexere Workflows hinzufügen.

Langflow

Langflow (etwa 153,9 K Sterne) ist eine Open-Source-Visuellplattform zum Erstellen von KI-Anwendungen, hauptsächlich Agenten und KI-Arbeitsabläufen. Modulare Komponenten verbinden Modelle, Tools, Daten sowie weitere Agenten, wobei weiterhin die Erweiterbarkeit mit Python gegeben ist – was sich für Szenarien eignet, die ständiges Experimentieren und Iterieren erfordern.

Bemerkenswerte KI-Funktionen:

• Drag-and-drop-Bauweise und Mehr-Agenten-Komposition. Konfigurieren Sie Agenten auf einer Leinwand und verbinden Sie Modelle, Anfragen, Tools sowie Komponenten zu vollständigen Abläufen. Komponenten und Abläufe können als Agenten-Tools dienen, und mehrere Agenten können Aufgaben wie Abruf, Analyse und Organisation aufteilen.
• MCP-Unterstützung. Verbinden Sie sich mit externen MCP-Diensten oder stellen Sie einen Langflow-Arbeitsablauf anderen MCP-kompatiblen Anwendungen zur Verfügung.

Modelle und Python-Erweiterungen. Modelle und Datensätze können frei miteinander kombiniert werden, wobei benutzerdefinierte Python-Komponenten Lücken schließen, indem sie Unternehmens-APIs und Verarbeitungslogik verbinden.

Häufige Anwendungsbereiche sind: Wissens- und Dokumentenanwendungen, die interne Dokumente, Suchfunktionen, Modelle sowie Agenten für Fragen und Antworten kombinieren, sowie Dokumentenanalyse und -extraktion; mehrere-Agenten-Arbeitsabläufe, bei denen verschiedene Agenten im Rahmen eines Prozesses Suchvorgänge, Analysen und Organisationstätigkeiten übernehmen; sowie Prototypen von Support-Assistenten, Forschungsassistenten und Inhaltsgeneratoren, die später über APIs mit bestehenden Produkten verbunden werden.

Es eignet sich für Teams mit technischem Know-how, die häufig mit Modellen und Agentenstrukturen experimentieren. Produkt- oder Datenmitarbeiter können visuell arbeiten, während Entwickler durch Python, benutzerdefinierte Komponenten und APIs Tiefe hinzufügen. Es ist besonders geeignet für Prototypenentwicklung und kontinuierliche Experimente. Für Teams ohne technisches Personal, die einfach schnell funktionierende, feste Geschäftsworkflows benötigen, kann die spätere Wartung stark auf Entwickler angewiesen sein.

Dify

Dify (etwa 154,0 K Sterne) ist eine Open-Source-Plattform zur Entwicklung von KI-Anwendungen wie Agenten, Wissensassistenten und komplexeren KI-Workflows. Sie umfasst den gesamten Lebenszyklus – von der Erstellung und Fehlerbehebung einer Anwendung über deren Veröffentlichung bis hin zur Verwaltung im Laufzeitbetrieb – und eignet sich daher für Teams, die beabsichtigen, KI-Anwendungen auf einer Plattform weiterhin zu entwickeln.

Bemerkenswerte KI-Funktionen:

• Agenten- und Workflow-Erstellung. Konfigurieren Sie das Modell eines Agenten, seine Anweisungen, Tools sowie Wissensbasen visuell oder skizzieren Sie mehrstufige Workflows auf der Leinwand – unter Einbeziehung von Verzweigungen, Datenabrufen, Toolaufrufen sowie Stellen, an denen ein Mensch Eingaben liefern muss.
• RAG und Wissensverarbeitung. Wandeln Sie PDFs, Präsentationsdateien und ähnliche Dateien in Wissensbasen um – dabei werden Reinigungsprozesse, Aufteilung in Abschnitte, Indexierung sowie Tests zur Überprüfung der Qualität des Datenabrufs berücksichtigt.
• Modelle und Erweiterung durch Plugins. Verbinden Sie mehrere Modellanbieter und fügen Sie über Plugins Tools, Datensätze, Auslöser sowie Fähigkeiten für Agenten hinzu.
• Veröffentlichung und Betriebsverwaltung. Veröffentlichen Sie fertige Anwendungen als Webanwendungen oder APIs und überwachen Sie dabei Protokolle, Feedback, Latenzzeiten sowie Nutzungsmuster.

Häufige Anwendungsbereiche: Kundensupport- und Wissensassistenten, die Unternehmenswissensdatenbanken mit externen Tools verbinden, um Kundenfragen zu beantworten oder Suchanfragen des Personals zu bearbeiten; Geschäftsdatenverarbeitung, bei der Extraktion, Klassifizierung, Analyse, Erstellung sowie Aufrufe von Tools miteinander verbunden werden; sowie schnelle Implementierungen, bei denen fertige Assistenten oder Workflows als Anwendungen oder APIs veröffentlicht und in bestehende Produkte und Systeme integriert werden.

Dify eignet sich für Teams, die bereits über das Experimentieren mit einem einzelnen Assistenten hinausgegangen sind und weiterhin Support-Tools, Wissensassistenten sowie Inhaltsverarbeitungstools entwickeln möchten. Fachleute aus Wirtschaft und Produktentwicklung können die meisten Einstellungen visuell vornehmen, während Entwickler bei Bedarf Plugins, APIs sowie tiefere Integrationen hinzufügen. Für kleine und mittelständische Unternehmen oder Produktteams, die mehrere KI-Projekte verwalten, kann eine einzige Plattform einfacher sein als ein Zusammenspiel verschiedener getrennter Tools.

Gruppe drei: Wissensbasen und RAG

MaxKB

MaxKB (etwa 22,6 K Nutzer) ist eine open-source-, selbst gehostete Unternehmensagentenplattform, die sich gut als Ausgangspunkt für Anwendungen rund um Wissensbasen und Wissensfragen/Antworten eignet. Neben grundlegendem RAG bietet sie visuelle Workflows sowie die Möglichkeit, Tools aufzurufen – dies kann für Support, Büroassistenten und ähnliche Szenarien genutzt werden.

Bemerkenswerte KI-Funktionen:

• Wissensbasen und RAG. Laden Sie Dokumente hoch oder durchsuchen Sie Online-Inhalte, teilen Sie diese anschließend in Blöcke auf, vektorisieren Sie sie und holen Sie Informationen für interne Materialien sowie spezialisierte Fragen/Antworten ab.
• Visuelle Workflows und Toolaufrufe. Kombinieren Sie Gespräche, Informationsabruf, Bedingungen, Formulare, Dokumentenauswertung und weitere Elemente auf einer Plattform miteinander und verbinden Sie MCP-Dienste, damit Modelle externe Tools aufrufen können.

Viele Modelle, lokale Bereitstellung. Es werden öffentliche Modelle wie OpenAI, Claude, Gemini, DeepSeek und Qwen unterstützt, ebenso lokale Modelle über Ollama, vLLM und ähnliche Tools.

Integration in bestehende Systeme. Fertige Agenten können über öffentliche Links, Embed-Code oder APIs in Websites und interne Anwendungen eingebettet werden.

Häufige Anwendungsbereiche sind kundenspezifische KI-Unterstützungssysteme, die Produktwissensdatenbanken, FAQs und Unternehmensmaterialien mit einem Agenten verbinden, der Kundenfragen beantwortet, sowie professionelle Wissensanwendungen, die in Bereichen wie Finanzen, Bildung, Forschung und anderen Spezialgebieten Branchenmaterialien zur Suche, Organisation und Analyse nutzen.

Es eignet sich besonders für Teams mit umfangreichen Unternehmensdokumentationen, die relativ schnell kenntnisbasierte Assistenten benötigen. Die visuellen Workflows sowie die Funktionen zur Wissensverwaltung halten die Einstiegshürde recht niedrig, und die lokale Bereitstellung mit lokalen Modellen ist für Organisationen geeignet, denen der Einsatz internen Wissens, die Dateneingabe sowie die Integration mit Drittanbietern wichtig sind.

AnythingLLM

AnythingLLM (etwa 65,4 K Sterne) ist eine open-source-, lokal ausgerichtete KI-Anwendung, die hauptsächlich zum Erstellen von Assistenten auf der Grundlage privater Dokumente und internen Wissens verwendet wird. Sowohl eine Desktop-Version als auch eine selbst gehostete Version verfügen über eine recht vollständige grafische Benutzeroberfläche, sodass ein Team sofort starten kann, ohne zunächst eine komplexe Entwicklungsumgebung zusammenzustellen.

Bemerkenswerte KI-Funktionen:

• Private Dokumente und RAG. PDF-, Word-, Text- und andere Dateien werden in separate Arbeitsräume gelegt, wobei die KI aus dem gewählten Inhalt antwortet und dabei Quellenangaben beibehält.
• Agent-Flüsse. Kettenabfragen, API-Anfragen, Modellanweisungen, Datei-Lese- und Schreibvorgänge sowie weitere Schritte bilden Flüsse, die nach Bedarf erneut ausgeführt werden können – alles über einen visuellen Editor.
• Mehrere Benutzer und Berechtigungen. Die selbst gehostete Version verwaltet mehrere Benutzer und Berechtigungen, sodass Arbeitsräume sowie der Zugang zum Wissen nach Benutzer oder Gruppe getrennt werden können.

Häufige Anwendungsbereiche: interne Wissensdaten und Dokumentassistenten, die Fragen beantworten, Daten aus Unternehmensrichtlinien, Produktunterlagen, Schulungsdokumenten, Verträgen und Berichten zusammenfassen und extrahieren; sowie Forschung und Dokumentenorganisation, bei der interne Dokumente, Webinformationen sowie Toolaufrufe genutzt werden, um Informationen zu sammeln, zu ordnen und zu analysieren.

Es eignet sich besser für Einzelpersonen, kleine Teams oder Unternehmen, die einen privaten Assistenten in einem Abteilungsbereich testen möchten. Ohne spezialisierte AI-Entwickler kann ein Team schnell mit Dokumenten-Fragenbeantwortung und Informationsorganisation beginnen. Wenn das Hauptziel darin besteht, die KI sicher mit internen Wissensdaten arbeiten zu lassen, anstatt umfangreiche Geschäftsworkflows zu erstellen, handelt es sich um die einfachere Lösung.

RAGFlow

RAGFlow (etwa 89,7 K Sterne) ist eine Open-Source-RAG- und Agentenplattform, die auf den komplexen Dokumentenverarbeitung sowie das Wissensabrufen in Unternehmen ausgerichtet ist. Im Vergleich zu einfacheren Q&A-Tools eignet sie sich für Umgebungen mit schwierigen Dokumenttypen, großen Mengen an Wissen sowie strengeren Anforderungen an Genauigkeit beim Abruf und Nachvollziehbarkeit der Quellen.

Bemerkenswerte KI-Funktionen:

• Verständnis komplexer Dokumente. Es kann PDF-, Word-, PPT-, Tabellenkalkulationsdateien, Bilder sowie lange Dokumente verarbeiten und dabei Informationen extrahieren, die für den Abruf und die Analyse genutzt werden können.
• Hochpräziser RAG. Vektorabfrage, Schlüsselwortsuche, Neubewertung der Ergebnisse sowie Filterung von Metadaten arbeiten zusammen, um Genauigkeit und Nachvollziehbarkeit zu erhöhen.

Agenten-Arbeitsabläufe. Ein visuelles Werkzeug kombiniert Suchfunktionen, Modelle, Bedingungen, Schleifen, Klassifizierungen sowie weitere Schritte, wobei auch komplexere Muster wie mehragentige Abläufe, Planung und Reflexion unterstützt werden.

Tools und Datenquellen. Agenten rufen externe Tools auf und unterstützen MCP, außerdem kann unternehmensweises Wissen aus Confluence, S3, Notion, Google Drive und anderen Quellen synchronisiert werden.

Häufige Anwendungsbereiche sind komplexe Unternehmenswissensdatenbanken, die die Suche in großen Mengen an Richtlinien, technischen Handbüchern, Berichten und Fachmaterialien vereinen; rechtliche und konformitätsbezogene Analysen, bei denen unterstützende Beweise aus Vorschriften, Verträgen, Fällen und internen Dokumenten abgerufen und anschließend Analysen mit Quellen erstellt werden; sowie Forschung und Entscheidungsunterstützung, bei denen interne Daten mit externem Material kombiniert werden, damit Agenten suchen, analysieren und Berichte erstellen können.

Es eignet sich für Teams mit großen Wissensmengen, komplexen Dokumenten sowie bestimmten technischen Ressourcen. In Bereichen wie Rechtswesen, Fertigung, Technischer Support, Forschung und ähnlichen Gebieten zeigt es seine Stärke, wenn die Materialien viele lange Dokumente, Tabellen, Bilder oder fachspezifischen Inhalt enthalten und wenn Genauigkeit bei der Suche sowie Nachweismöglichkeiten aus den Quellen von großer Bedeutung sind.

Passende Plattform für ein Team auswählen

• Keine Entwickler, nur wenige SaaS-Tools, täglich wiederkehrende Aufgaben: Activepieces oder die no-code-Anwendungsplattform, wenn die Arbeit auf strukturierten Aufzeichnungen und Genehmigungsprozessen beruht.
• Entwickler oder Data Engineers, langwierige mehrschrittige Aufgaben, Wiederholungen und Abhängigkeiten: Kestra oder Windmill, wenn bereits viele Skripte und interne Dienste vorhanden sind, die wiederverwendet werden können.

Ein Produkt- oder Daten-Team, das jede Woche mit Modellen und Agentenformaten experimentiert: Langflow für schnelle Iterationen, Dify für einen stabileren Weg vom Prototyp bis zur veröffentlichten App, Coze Studio für einen schnellen ersten Assistenten.

Eine Menge Dokumente und der Bedarf an Antworten mit Quellen: MaxKB oder AnythingLLM für einen schnellen Start, RAGFlow, wenn die Dokumente lang, unübersichtlich sind und Genauigkeit wichtig ist.

Egal, welche Option zutrifft – der sinnvolle erste Test ist ein einmaliger, durchgängiger Ablauf des eng gefassten Workflows unter Berücksichtigung der Person, die ihn in sechs Monaten weiterbetreuen wird.

Was man aus der Liste mitnehmen sollte

Die Produkte der Agenten überschneiden sich zunehmend. Visuelle Workflows, Wissensbasen, MCP sowie das Aufrufen von Tools sind mittlerweile auf immer mehr Plattformen verfügbar, wodurch Funktionschecklisten die Optionen weniger gut voneinander unterscheiden können als früher. Entscheidend sind in der Praxis die Frage, ob eine Plattform nahtlos in bereits bestehende Arbeitsabläufe integriert werden kann, und wie viel zusätzliche Betriebs- und Wartungslast sie mit sich bringt. Ein Unternehmen mit strukturierten Daten und Verwaltungsrechten, ein Team, das SaaS-Tools zusammenführt, eine Gruppe, die Agenten prototypiert, sowie eine Organisation, die in Dokumenten ertrinkt, werden jeweils unterschiedliche Plattformen aus derselben Auswahl wählen – und jedes von ihnen kann vernünftigerweise mit kleinen Schritten beginnen, bevor es sich festlegt.