Статьи для тех, кто
выводит стек в прод
Оригинальные материалы о React, Node.js, TypeScript и AI — из той же практики, что и наше операторское ПО. Текст статей на английском.
Тег: context-window
KV-кэш простыми словами: почему длинный контекст — это счёт за память, а не ум
Понятное объяснение KV-кэша: что он хранит, как посчитать его размер, почему длинный контекст съедает память и четыре способа снизить расходы на локальных моделях.
1921 словЧитатьRAG без фреймворка: фрагменты, оценка, бюджет, промпт
RAG как обычный отбор токенов: короткий пример на Python с оценкой по пересечению слов, ограничением по бюджету токенов и тем, что на самом деле улучшают эмбеддинги и векторные хранилища.
1050 словЧитатьРазбор репозитория Everything Claude Code: 286 скиллов и индекс на 21K токенов
Подсчёт содержимого репозитория Everything Claude Code своими руками: 286 скиллов, 68 агентов, 23 хука и индекс скиллов на 21 500 токенов. Что стоит оставить и установить iOS-инженеру.
1723 словЧитатьКак ИИ-агенту уместиться в ограниченное контекстное окно: 7 практических стратегий
Семь проверенных способов удержать долго работающих ИИ-агентов в пределах контекстного окна: сжатие, отсев, вынос в инструменты, системные промпты, дескрипторы, сжатый вывод и скользящее окно.
1219 словЧитатьОбъяснение явления смены контекста: почему длинные входные данные снижают точность больших языковых моделей.
Узнайте, как встраивание информации о положении элементов и функция softmax приводят к снижению точности при обработке длинных запросов, и какие привычки помогают сохранять эффективность контекста.
1055 словЧитатьИзмерения в инженерии ИИ: стоимость контекста, доказательства агента и взаимодействие между системами
Карта измерений работоспособности ИИ, показывающая нагрузку от токенов MCP, сбои в кэше запросов, пробелы в аудите агентов и трудности при смене моделей, с приведенными методами и размерами выборок.
858 словЧитать
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.