Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: optimization
Восемь способов улучшения отрисовки в React, позволяющих сократить количество перерисовок на 80% без переписывания кода.
Сначала настройте профиль, затем примените memo, useMemo, useCallback, транзиции, виртуализацию списков, разделение кода и узкие селекторы для ускорения работы крупной панели управления в React.
5 мин чтенияМинус 90% к стоимости повторяющихся промптов одной строкой кэширования
Как включить автоматическое кэширование промптов одним полем, проверить попадания в блоке usage и не попасть в ловушки с префиксом и минимальной длиной, которые незаметно съедают экономию.
4 мин чтенияКэш KV — это невидимая база данных, которая истощает память GPU во время декодирования LLM.
Кэш KV тихо потребляет память GPU во время инференса LLM: предзаполнение против декодирования, математика KV, GQA и MQA, PagedAttention, политики квантизации и выгонки.
9 мин чтенияСпекулятивная декодировка, ранний выход и квантование: более быстрая декодировка больших языковых моделей
Как спекулятивная декодировка и ранний выход сокращают задержку инференса больших языковых моделей, когда предварительное одобрение оправдывается, и как они взаимодействуют с квантованием и пагинацией кэша KV.
8 мин чтенияПроизводительность JavaScript заключается в выполнении меньшего объёма работы, а не в меньшем количестве строк кода.
Работа над производительностью заключается в том, чтобы определять, какие вычисления не выполнять, честно измерять показатели Core Web Vitals и устранять наиболее тормозящие процессы, а не просто сокращать количество строк кода ради этого.
12 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.