Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: Benchmarking
RAG или граф знаний? 2 160 оцененных ответов и влияние модели
RAG против графа знаний: было оценено 2,160 отмеченных ответов в трех семействах моделей и 120 вопросов. Победитель меняется в зависимости от модели, причем модель играет наиболее важную роль.
9 мин чтенияСколько запросов действительно может обработать сервер Node.js?
Сколько запросов на самом деле может обработать сервер Node.js? Тесты нагрузки с использованием Express на Heroku и AWS по сравнению с Django, оценка пропускной способности в 40 тыс. запросов в секунду и факторы, замедляющие работу API.
6 мин чтенияToolCallingAgent против CodeAgent на локальных моделях Qwen2.5 14B
ToolCallingAgent против CodeAgent в smolagents на Mac M4: скорость и точность маршрутизации с использованием локальных моделей Qwen2.5 14B для генерации инструкций и кода при различных температурах.
4 мин чтенияКогда модель так и не отвечает: тихие сбои, которых не видно в оценках галлюцинаций
Два чекпойнта, две квантизации и два рантайма на выдуманных названиях: одна модель молчит по несколько минут, а аккуратный грейдер показывает то, что упускают оценки.
11 мин чтенияСтоит ли брать LoRA побольше? Сравнивайте точность с ценой, а не с ощущениями
Небольшой стенд, который хранит рецепты LoRA как данные и выдаёт точность, время обучения, задержку и память, чтобы выбор ранга и числа итераций опирался на цифры.
5 мин чтенияПрактические замечания: MTG Bench: Почему тестирование ИИ-моделей на Magic: The Gathering является
Пошаговое руководство по Practical notes: MTG Bench: Почему тестирование ЯИ на Magic: The Gathering является важным инструментом, а также контракты, проверки и готовые блоки кода для команд, использующих эту модель.
11 мин чтенияNode.js против Go для JSON API: одинаковая пропускная способность, на 2,6 раза меньше памяти
Сравнительные тесты нагрузки идентичных HTTP-сервисов на Node.js и Go показывают, в чём приносит пользу переписывание кода (потребление оперативной памяти), а в чём — нет (пропускная способность и задержка).
8 мин чтенияFugu Ultra: Как модель-оркестратор ИИ бросает вызов GPT и Claude
Объясняется, как система Fugu Ultra v2 от Sakana AI распределяет задачи между специализированными моделями вместо использования одной огромной большой языковой модели, а также как она сравнивается по показателям тестов, ценам и уровню прозрачности.
10 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.