Інженерні нотатки
Статті для тих, хто
виводить стек у прод
Оригінальні матеріали про React, Node.js, TypeScript і AI — з тієї ж практики, що й наше операторське ПЗ. Текст статей англійською.
Тег: mlx
Локальні LLM на Mac: MLX замість стандартного рушія llama.cpp
Коли MLX від Apple випереджає llama.cpp на Apple Silicon: діапазони бенчмарків за розміром моделей, три способи перейти й підводні камені.
1117 слівЧитатиЧи варто брати більшу LoRA? Порівнюйте точність із ціною, а не з відчуттями
Невеликий стенд, який зберігає рецепти LoRA як дані й показує точність, час навчання, затримку та пам'ять, щоб вибір рангу й кількості ітерацій спирався на цифри.
1242 слівЧитатиОбробка LoRA для фін-тюнінгу локально: перевірка, об’єднання та уникнення прихованих помилок
Доведіть, що адаптер LoRA справді покращив невелику модель, об’єднайте її та розмістіть за локальним API, сумісним з OpenAI, а також виявляйте помилки, які призводять до неправильних результатів.
2671 слівЧитати
FAQ
Про ці статті
Так. Кожен текст — оригінальний англійський рерайт для цього сайту. Структура й код за джерелом; прозу переписано й перевірено на збіги.
Технічні пости спочатку англійською, щоб код і API лишалися точними. Оболонка сайту — всіма девʼятьма мовами.
Нові чернетки потрапляють у чергу після редактури. Імпорт на сайт бере лише нові чи змінені slug — без дублів.
Приклади ілюстративні. Перевіряйте стек і ліцензії перед продом. Для впровадження надішліть бриф.
Оцінка за 24 години
Потрібен такий стек в операторському шарі? Надішліть бриф — оцінка за 24 години.