Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: LoRA
Обучение корпоративных ИИ-агентов: выбор между методами SFT, DPO, GRPO и RAG.
Обучение ИИ-агентов в корпоративных средах: когда использовать SFT, DPO, GRPO, LoRA или простой RAG, и как выпустить результат в виде зафиксированной, протестированной и обратимой версии.
50 мин чтенияЧто обнаруживает агент для сравнения моделей: изменения стиля перекрывают незначительные корректировки.
Агент для обнаружения отклонений от модели проверил процесс тонкой настройки LoRA в финансовой сфере: 82% примеров выявили изменения в длине и структуре, в то время как запланированное изменение логики осталось незамеченным.
15 мин чтенияLoRA и QLoRA простыми словами: дообучение 7B-модели без 100 ГБ видеопамяти
Почему полное дообучение требует 80–100 ГБ, как низкоранговые адаптеры сокращают обучаемые веса до 1,6%, как выбрать ранг и целевые слои и что добавляет QLoRA.
5 мин чтенияВосемь идей линейной алгебры, на которых держатся эмбеддинги, LoRA и PCA
Векторы, матрицы, собственные векторы, косинусное сходство, нормы, SVD и ранг — на простых примерах с ценами на дома и с ИИ-техниками, которые от них зависят.
7 мин чтенияКак QLoRA дообучает большие модели на маленьких GPU: основы 4-битного подхода
Разбираем QLoRA с нуля: почему полное дообучение дорого, как сочетаются LoRA-адаптеры и 4-битная квантизация и когда этот подход подходит вашему проекту.
8 мин чтенияСтоит ли брать LoRA побольше? Сравнивайте точность с ценой, а не с ощущениями
Небольшой стенд, который хранит рецепты LoRA как данные и выдаёт точность, время обучения, задержку и память, чтобы выбор ранга и числа итераций опирался на цифры.
5 мин чтенияДва рабочих нагрузки LLM на одной GPU: vLLM LoRA, агенты и настройка параметров в Azure ML
Обрабатывайте интерактивный и пакетный трафик агентов с одной карты с использованием LoRA для удовлетворения спроса, аналитики ClickHouse, артефактов в формате Blob, а также тренировки Unsloth с отслеживанием в MLflow.
8 мин чтенияРабота с LoRA для локальной настройки: проверка, объединение и избежание скрытых сбоев
Докажите, что адаптер LoRA действительно улучшил небольшую модель, объедините её с другими компонентами и предоставьте через локальный API, совместимый с OpenAI, а также выявите сбои, приводящие к ошибочным результатам.
12 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.