Інжынерныя нататкі

Артыкулы для тых, хто
выводзіць стэк у прод

Арыгінальныя матэрыялы пра React, Node.js, TypeScript і AI — з той жа практыкі, што і наша аператарскае ПЗ. Тэкст артыкулаў па-англійску.

3 артыкулаў

Тэг: gateway

litellm gateway multi-tenant llm
LiteLLM у сэрцы: план керування шлюзам AI для калькуляцыі з аднасотнікамі
Абстракцыя падаючага роўню, іерархія аб’ектаў, бюджэты, правілы моделі, акаунты служб, маршрутацыя, можлівасць адзоравання, агенты/MCP, і чаму шлюз являецца критычным маршрутом.
1452 слоўЧытаць
litellm headroom gateway llm
Кожны календарны выклік LLM у шлюзе LiteLLM з Headroom стыскаецца.
Headroom як захоўнік пры запуску LiteLLM: зворачная стиснення, дизайн з автаматычным перехадам у режым адказу, поштучная актывацыя функцый і контрольлаўаная еконамія токенав.
1510 слоўЧытаць
ai-agents mcp llm gateway
Agentgateway для LLM-ў, MCP і A2A: Калі аб’еднаная плошчына дадзенняў AI дапамагае
Как Agentgateway адрэснаецца на адміністрацыю працэй з LLM-проксі — адкрыцца MCP, трасуванне A2A, маршрутызацыя, безпека, OpenTelemetry і кантроль витак — і калі ўжываць яго, а калі прымусівацца без яго.
1605 слоўЧытаць

FAQ

Пра гэтыя артыкулы

Так. Кожны тэкст — арыгінальны англійскі рэрайт для гэтага сайта. Структура і код за крыніцай; проза перапісана і праверана на перасячэнні.

Тэхнічныя пасты спачатку па-англійску, каб код і API заставаліся дакладнымі. Абалонка сайта — на ўсіх дзевяці мовах.

Новыя чарнавікі трапляюць у чаргу пасля рэдактуры. Імпарт на сайт бярэ толькі новыя ці змененыя slug — без дубляў.

Прыклады ілюстратыўныя. Правярайце стэк і ліцэнзіі перад продам. Для ўкаранення дашліце брыф.

Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.