Artykuły dla tych, którzy
wdrażają stack
Materiały o React, Node.js, TypeScript i AI. Przetłumaczony tekst jest pokazany, gdy istnieje. Jeśli nie, widać tekst angielski i dopisek o tym.
Tag: routing
Inżynieria ograniczania: dlaczego koszty agentów AI gwałtownie rosną
Microsoft i Uber napotykają problemy finansowe związane z agentami AI. Dlaczego tak szybko zużywają tokeny oraz cztery strategie ograniczania tego zjawiska: kierowanie ruchem, limity budżetowe, redukcja zasobów oraz nadzór.
6 min czytaniaRAG z rozpoznawaniem domeny, wykorzystujący rejestracje MLflow oraz routowanie LLM
RAG z rozpoznawaniem domeny: klasyfikuje intencję, ładuje odpowiedni embedder z rejestru MLflow, wyszukuje odpowiednią kolekcję Qdrant, a następnie kieruje generację do LLM.
12 min czytaniaWarunkowe przepływy pracy LangGraph: tworzenie gałęzi bez chaotycznego zbierania informacji z promptów
Zamień routowanie typu if-else w LangGraph na nazwane krawędzie warunkowe z jasno określonymi kontraktami stanów oraz możliwością przywrócenia po awarii, zamiast umieszczania struktur rozgałęziających się w promptach.
10 min czytaniaZmniejsz wydatki na LLM za pomocą routera tokenów LiteLLM
LiteLLM działa jako pośrednik pomiędzy aplikacjami a dostawcami, kierując krótkie zapytania do tanich modeli, a bardziej skomplikowane do Opus – co przynosi około 28% oszczędności w symulowanym miesiącu pracy inżyniera.
3 min czytaniaZatrzymywanie narzędzi warunkowo: Artefakty przewyższają return_direct w LangGraph
Zatrzymaj lub kontynuuj na podstawie wezwania narzędzia w LangGraph przy użyciu artefaktów narzędzia, w ręcznie budowanej pętli ReAct oraz w middleware create_agent, gdy return_direct nie może podjąć decyzji.
11 min czytaniaModele decyzyjne oparte na wpisywaniu tekstu a wywołania LLM: opóźnienie i stabilność na granicy
Eksperyment z 240 wywołaniami porównujący naturalne prawdopodobieństwa Jeva z tymi, które sam zgłasza model LLM, oraz sposoby przekształcenia tych danych w router modeli LangChain.
12 min czytaniaPułapki przy aktualizacji na Next.js 16: domyślne ścieżki równoległe i middleware do proxyowania
Dowiedz się, dlaczego w Next.js 16 sloty tras równoległych wymagają pliku default.js, jak bezpiecznie przenieść plik middleware.ts do proxy.ts oraz co sprawdzić przed potwierdzeniem ukończenia aktualizacji.
6 min czytaniaOkreślanie ceny sformatowanego routera decyzyjnego używanego przy wywołaniach LLM Frontier.
Jak modelować oczekiwany koszt kierowania ruchem LLM za pomocą sformatowanego modelu decyzyjnego takiego jak Jev, ustalać progi pewności oraz weryfikować jakość routingu przed jego wdrożeniem.
12 min czytaniaJedyny źródło prawdy dotyczące ścieżek tras w aplikacjach Next.js
Dowiedz się, w jaki sposób moduł typowanego routingu centralnego zastępuje rozproszone ścieżki stringowe w Next.js, dzięki funkcjom pomocniczym do dynamicznych segmentów oraz grupowanego eksportu tras.
5 min czytania
O tych artykułach
Wycena w 24 h
Potrzebujesz tego stacka w warstwie operatorskiej? Wyślij brief — wycena w 24 h.