Статті для тих, хто
виводить стек у прод
Матеріали про React, Node.js, TypeScript і AI. Перекладений текст показується, якщо він є. Якщо ні — ви бачите англійський текст і примітку про це.
Тег: prompt-caching
Зниження витрат на токени агента: кешування, маршрутизація та підтримка чистоти контексту.
Зменшіть витрати агентів LLM завдяки кешуванню запитів та семантичного кешування, інструментам з відкладеною завантажуваністю, маршрутизації та каскадуванню моделей, підагентах та простим правилам підтримки контексту.
16 хв читанняСандбоксування агента для програмування та підтримання компактного вікна контексту
Створіть сандбокс для кодувального агента з використанням Seatbelt або Bubblewrap, а потім підтримуйте легкість його вікна контексту за допомогою файлів-відходів, шаблонів, компактування та ін’єкцій, сумісних із кешем префіксів.
10 хв читанняЯк вижити під час компактації: драбина для довготривалих сеансів агентів та процесу компактації.
Як довго сеанси агентів залишаються доступними та послідовними: кеш-хвіст як оренда, п’ять рівнів перед компактацією, делегування як межа пам’яті, витрати на відновлення.
16 хв читанняКонтекстуальне отримання даних для RAG: що приховує показник у 67%, які витрати це супроводжує та коли цей підхід зазнає невдачі.
Контекстуальне отримання даних для RAG: як використання префіксів виправляє відокремлені фрагменти, чому показник 67% враховує три зміни, що економить кешування запитів та коли воно зазнає невдачі.
13 хв читанняБільше вікно контексту не вирішить проблеми вашого агента: бюджет уваги та кешування
Вікна контексту поводяться як бюджет уваги. Дізнайтеся, як працює метод Lost in the Middle та коли використовувати стиснення, зсувні вікна, компактацію чи кешування запитів.
11 хв читанняСтруктуровані системні запити для AI-агентів на Rust: шари, кешування, перевірка відхилень.
Створіть багатошаровий системний запит для агента на Rust: ідентичність, інструкції, правила форматування вихідних даних, приклади та актуальний контекст, а також межі кешування та відбиток для CI.
12 хв читанняЧат-бот для портфоліо, який каже «я не знаю», а не вгадує
Як чат-бот на сайті-портфоліо залишається чесним: заблокований регулятор чесності, п'ять написаних вручну нотаток у промпті замість RAG і фіксована фраза відмови, що водночас служить детектором прогалин.
8 хв читанняПромахи кешу промптів у Claude Code: чому 86% влучань приховують справжню вартість
Модель однієї сесії в iOS-монорепозиторії з цінами показує, що сім промахів кешу промптів переважують 33 влучання, і як стабілізувати інструменти, скіли та CLAUDE.md як ключі кешу.
6 хв читанняКуди йшов наш рахунок за LLM API і які архітектурні зміни його зменшили
Облік токенів за кроками, розподіл моделей за рівнями, скорочення промптів і backoff із jitter знизили витрати кодинг-агента на API; усередині формули вартості й типові помилки оптимізації.
8 хв читання
Про ці статті
Оцінка за 24 години
Потрібен такий стек в операторському шарі? Надішліть бриф — оцінка за 24 години.