Артыкулы для тых, хто
выводзіць стэк у прод
Матэрыялы пра React, Node.js, TypeScript і AI. Перакладзены тэкст паказваецца, калі ён ёсць. Калі не — вы бачыце англійскі тэкст і пазнаку пра гэта.
Тэг: prompt-caching
Як зменшыць выдаткі агента на токены: кэшаванне, маршрутызацыя і чысціня кантэксту
Скарачайце рахункі за LLM-агентаў праз кэшаванне промптаў і семантычны кэш, адкладзеную загрузку інструментаў, маршрутызацыю і каскады мадэляў, субагентаў і звычайную гігіену кантэксту.
16 хв чытанняПясочніца для агента кадавання і эканомнае акно кантэксту
Ізалюем агента кадавання праз Seatbelt ці Bubblewrap і трымаем акно кантэксту кампактным: файлы перапаўнення, заглушкі, сцісканне і ўстаўкі, дружалюбныя да кэша прэфіксаў.
10 хв чытанняЯк перажыць сцісканне: лесвіца для доўгіх сесій агента
Як доўгія сесіі агента застаюцца даступнымі па кошце і звязнымі: хвост кэша як арэнда, пяць прыступак да сціскання, дэлегаванне як мяжа памяці і кошт аднаўлення.
16 хв чытанняКантэкстны пошук для RAG: што хавае лічба 67%, колькі гэта каштуе і калі не спрацоўвае
Кантэкстны пошук для RAG: як уступныя прэфіксы ратуюць адарваныя фрагменты, чаму лічба 67% складаецца з трох змен, што эканоміць кэшаванне промптаў і калі метад падводзіць.
13 хв чытанняБольшае акно кантэксту не выправіць вашага агента: бюджэт увагі і кэшаванне
Акно кантэксту паводзіць сябе як бюджэт увагі. Як працуе эфект Lost in the Middle і калі ўжываць сцісканне, слізгальныя вокны, ушчыльненне ці кэшаванне промптаў.
11 хв чытанняСтруктураваныя сістэмныя промпты для AI-агентаў на Rust: пласты, кэш і праверка дрэйфу
Будуем шматпластовы сістэмны промпт для агента на Rust: ідэнтычнасць, інструкцыі, правілы вываду, прыклады і свежы кантэкст, а таксама мяжа кэша і адбітак для CI.
12 хв чытанняЧат-бот для портфеля, створаны для таго, каб гаварыць «Я не ведаю», а не для здогадваўся.
Як чат-бот для портфеля застаецца чыстасам: замкнуты рэгулятор чыстасці, пяць рукапісных прымечакаў у запіце заместо RAG, і фіксаваная лінія адмовы, якая таксама служыць дэтэктаром прасоў.
8 хв чытанняНеспрацоўкі кэша запыткаў у Claude Code: чаму 86% прапорцыя успеху маскіе рэальныя затраты
Модэль з ценай за адну сесію iOS-monorepo паказвае, што 7 прыгону кэша замест 33 успехоў, і як стабілізаваць інструменты, навыкі і CLAUDE.md як ключы кэша.
6 хв чытанняКуда пайшоў наш рachунак за API LLM і які змяны ў архітэктуры прывелі да яго зменшэння
Атрыбуцыя токэнаў па ступенях, класыфікацыя модэляў, скорачанне запросаў і тэхніка backoff з выкорыстаннем jitter скарматываюць косты API кодавальчага агента; уключае формулы расчытку костаў і частыя памылкі оптымізацыі.
8 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.