Статьи для тех, кто
выводит стек в прод
Оригинальные материалы о React, Node.js, TypeScript и AI — из той же практики, что и наше операторское ПО. Текст статей на английском.
Тег: long-context
DocSeeker: как научить визуальную модель ссылаться на страницы в длинных документах
DocSeeker разбивает ответы на вопросы по длинным документам на анализ, поиск страниц и рассуждение, а обучается дистилляцией и RL с наградой за доказательства. Разбираем, как это работает и какие даёт результаты.
1068 словЧитатьQUOKA простыми словами: как выбрать, какую историю KV читать вниманию
Как QUOKA ускоряет prefill длинных промптов: основы KV-кэша, chunked prefill, выбор нетипичных запросов, оценка по максимуму и дешёвая предагрегация для grouped-query attention.
2028 словЧитатьОкно Gemini на 1M заменило мне векторное хранилище, но латентность и происхождение ответов возразили
Сравнение полного контекста и RAG на 500 вопросах поддержки: точность, задержка и стоимость, почему важно происхождение ответа и какая гибридная схема сохранила плюсы обоих подходов.
836 словЧитатьПрактические заметки: Что я бы сделал иначе: уроки, полученные при разработке рекурсивного решения
Пошаговое руководство по практическим заметкам: что я бы сделал иначе: уроки, полученные при разработке рекурсивных конструкций, включая контракты, проверки и готовые блоки кода для команд, использующих эту паттерн-архитектуру.
1386 словЧитать
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.