Artikel für Leute, die
den Stack ausliefern
Beiträge zu React, Node.js, TypeScript und AI. Ein übersetzter Text wird gezeigt, wenn er existiert. Sonst sehen Sie den englischen Text und einen Hinweis.
Tag: Ollama
Hy-MT2-7B auf fünf lokalen Laufzeiten: Welche eignet sich am besten für Übersetzungsaufgaben auf einem Mac?
Hy-MT2-7B wurde unter Nutzung von llama.cpp, LM Studio, mlx-lm, Ollama und MLX-Serve auf zwei Mac Studio M5 Ultra-Geräten auf Belastbarkeit getestet: Durchsatz, Skalierbarkeit, Determinismus, Speicherverbrauch.
9 Min. LesezeitEin lokaler LLM-Agent-Arbeitsablauf, der aus Ordnern und Markdown-Dateien erstellt wird
Erstellen Sie einen gesicherten, mehrstufigen Pipeline für lokale Agenten, wobei jede Stufe ein Ordner ist, die Anfragen in editierbarem Markdown vorliegen und ein Mensch die Ausgabe vor dem kostspieligen Schritt überprüft.
25 Min. LesezeitZwei lokale LLM-Agenten zum Debattieren bringen: Grundierung, falscher Konsens, Schema-Fehler
Zwei lokale LLM-Agenten auf Ollama, die durch Beweise statt durch Rollenfiguren debattieren: NLI-Basis, ein Fehler beim künstlichen Konsens, Überprüfungen von Angriffen gegen Aussagen sowie erforderliche Felder.
7 Min. LesezeitDerselbe OpenAI-Chat-Loop lokal mit Ollama ausführen
Führen Sie denselben OpenAI-Chat-Loop lokal mit Ollama aus: Weisen Sie die OpenAI-Python-SDK auf localhost hin und behalten Sie Ihren Code bei. Keine API-Schlüssel, keine Gebühren für Token, keine Datenverluste.
4 Min. LesezeitEin QuickBooks-Finanz-Agent, der mit Ollama und LangChain auf einem lokalen LLM läuft.
Ein ReAct-Agent auf Qwen 3.5 9B und einer RTX 4070 liest Echtzeit-QuickBooks-Daten über LangChain und Ollama – ein lokales LLM ohne Cloud-Kosten – ein. Code, Ausgabe und Grenzen.
13 Min. LesezeitHermes Agent lokal unter Rootless Podman mit Ollama auf einer AMD-GPU ausführen
Hermes Agent lokal und sicher ausführen: rootloser Podman, ein montierter Ordner, interne Netzwerkkommunikation, Ollama auf einer AMD-GPU mit ROCm sowie eine systemd-Einheit.
20 Min. LesezeitEin vollständig lokaler GraphRAG-Pipeline mit LangExtract, Neo4j, Qdrant und Ollama
GraphRAG mit lokalen Modellen aufbauen: Entitäten mithilfe von LangExtract extrahieren, sie in Neo4j speichern, in Qdrant indizieren und anschließend Untergraphen erweitern, um graphbasierte Antworten zu erhalten.
39 Min. LesezeitEin lokaler Programmieragenten-Loop: Aider, Ollama, Git-Worktrees und einfache Rollback-Möglichkeiten.
Ein begrenzter Workflow für einen lokalen Programmieragenten, der jede Änderung überprüfbar und rückgängig machbar hält, unter Verwendung von Aider, Ollama, einem Git-Worktree, gezielten Tests sowie einem einfachen Wiederherstellungsweg.
10 Min. LesezeitEin Multi-Agent-Blogger mit null API-Kosten auf einem Mac: Gemma 4, Ollama und Google ADK
Erstellen Sie ein lokales System aus Planer-, Schreiber- und Validierungsagenten auf Apple Silicon mithilfe von Gemma 4 über Ollama, LiteLLM und Google ADK – ohne Gebühren pro Anfrage.
8 Min. Lesezeit
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.