Notatki inżynierskie
Artykuły dla tych, którzy
wdrażają stack
Materiały o React, Node.js, TypeScript i AI. Przetłumaczony tekst jest pokazany, gdy istnieje. Jeśli nie, widać tekst angielski i dopisek o tym.
Tag: monitoring
Uruchamianie agentów AI AWS na dużą skalę: tokeny, wydatki, limity i autonomia
Liczenie tokenów, monitorowanie wydatków, przywracanie po przekroczeniu limitu kontekstu oraz trwałe autonomiczne procesy robocze dla agentów AWS, z których każdy jest wyjaśniony za pomocą wzorców znanych programistom JavaScript full-stack.
8 min czytaniaCo LiteLLM nie może zobaczyć: monitorowanie serwowania GPU pod bramką.
LiteLLM śledzi żądania i wydatki. Czekanie w kolejce, uzupełnianie danych przed dekodowaniem, ponowne uruchamianie kontenerów oraz obciążenie hosta wymagają Prometheus, metryk vLLM, cAdvisor oraz śladów działania.
4 min czytania
FAQ
O tych artykułach
Tak. Każdy tekst to oryginalny angielski rewrite na tę stronę. Struktura i kod za źródłem; proza przepisana i sprawdzona pod kątem pokrycia.
Źródłem jest angielski. Inny język pojawia się tylko wtedy, gdy istnieje tłumaczenie treści. Brak tłumaczenia zostawia angielski, także pod zlokalizowanym adresem.
Nowe drafty trafiają do kolejki po redakcji. Import na stronę bierze tylko nowe lub zmienione slugi — bez duplikatów.
Przykłady są ilustracyjne. Sprawdź stack i licencje przed produkcją. W sprawie wdrożenia wyślij brief.
Wycena w 24 h
Potrzebujesz tego stacka w warstwie operatorskiej? Wyślij brief — wycena w 24 h.