Artikel für Leute, die
den Stack ausliefern
Beiträge zu React, Node.js, TypeScript und AI. Ein übersetzter Text wird gezeigt, wenn er existiert. Sonst sehen Sie den englischen Text und einen Hinweis.
Tag: Benchmarks
TensorFold gegen llama.cpp auf einem Mac Studio M5 Ultra: 1,84-fach höhere Durchsatzrate bei echten JSON-Aufgaben
Ich habe TensorFold 1.2.0 im Vergleich zu llama.cpp auf einem Mac Studio M5 Ultra mit Qwen3.8-27B sowie 80 echten JSON-Anfragen getestet: Eine Durchsatzrate von 1,84-fach bei 8 parallelen Anfragen.
9 Min. LesezeitHy-MT2-7B auf fünf lokalen Laufzeiten: Welche eignet sich am besten für Übersetzungsaufgaben auf einem Mac?
Hy-MT2-7B wurde unter Nutzung von llama.cpp, LM Studio, mlx-lm, Ollama und MLX-Serve auf zwei Mac Studio M5 Ultra-Geräten auf Belastbarkeit getestet: Durchsatz, Skalierbarkeit, Determinismus, Speicherverbrauch.
9 Min. LesezeitGemini 3.8 Flash bei der Markteinführung: Geschwindigkeit, Frist für die Preisgestaltung und Sicherheitsbedenken.
Eine Übersicht zu Gemini 3.8 Flash: offizielle Benchmark-Ergebnisse, eine Leistung von 304 Tokens pro Sekunde, Promo-Preise bis 2027, das Cyber-Modell sowie Einschränkungen bei der Mehrsprachigkeit im Sicherheitsbereich.
7 Min. LesezeitWarum Dual-RTX-3090-Systeme mit SGLang und DFlash2 nur 55 Tok/s erreichen statt der angegebenen 220 Tok/s.
Ein praktischer Überblick über den Betrieb von Qwen3.8-27B auf zwei RTX 3090-Grafikkarten mit SGLang sowie darüber, wie PCIe x4-Verbindungen, das Fehlen von P2P-Funktionen, ein begrenzter KV-Cache und Stromspitzen die angegebenen Geschwindigkeiten beeinträchtigten.
7 Min. LesezeitMiniCPM5-2B gegen 4B Rivalen: Warum ein agiler Harness eine andere Geschichte erzählt
MiniCPM5-2B schneidet bei Einzelversuchen besser ab als seine 4B-Konkurrenten, fällt aber bei agierenden Frameworks zwei- bis dreimal zurück. Der Benchmark-Test sowie die Durchsatzleistung von Ollama.
10 Min. LesezeitHochpreisige Bezahlung für Warten: Vergleich von Abfragen, Blockaden und Aufgaben
Ein Vergleich von drei Möglichkeiten, wie ein Agent auf eine langsame Cloud-Aufgabe warten kann: Polling, Blockieren und MCP-Aufgaben, der Token-Kostenfaktor für jede Methode sowie Richtlinien für Tool-Entwickler.
8 Min. LesezeitAgent Harness von Grund auf: Sechs Phasen und ein Experiment, das die erzielten Fortschritte isoliert
Ein Harness kann die Benchmark-Ergebnisse stärker verbessern als das Modell selbst. Entwickeln Sie einen kleinen Agent-Harness in sechs Schritten und testen Sie jeweils nur eine Änderung, um herauszufinden, was tatsächlich hilft.
7 Min. LesezeitGraphRAG oder einfaches RAG? Wo Graphen helfen, wo sie zu teuer sind.
GraphRAG gegen RAG: Graphen haben Vorteile bei mehrstufigem Reasoning und globalen Zusammenfassungen, verlieren aber bei einfachen Abfragen und sind teurer. Vergleichszahlen sowie wann man welche Variante wählen sollte.
7 Min. LesezeitWarum die Agenten-Erinnerungs-Benchmarks irreführen und wie man mit eigenen Daten bewerten kann
Die Vergleichsmessungen für Agenten-Gedächtnisfähigkeiten täuschen durch fehlerhafte Antwortlisten und Bewertungskriterien. Prüfen Sie das Abrufen von Informationen getrennt von den Antworten und fügen Sie Überprüfungen auf Aktualität, Auslassungen und Vergesslichkeit hinzu.
15 Min. Lesezeit
Über diese Artikel
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.