Статті для тих, хто
виводить стек у прод
Матеріали про React, Node.js, TypeScript і AI. Перекладений текст показується, якщо він є. Якщо ні — ви бачите англійський текст і примітку про це.
Тег: apple-silicon
Mac Studio M5 Ultra проти DGX Spark: швидкість роботи локальних моделей ШІ з однаковими моделями.
Mac Studio M5 Ultra 256 GB проти однієї, двох та чотирьох модулів DGX Spark на платформах Nemotron, Qwen3.8 та DeepSeek-V4.1-Flash: декодування, попереднє заповнення, обробка пакетами та робота з зображеннями.
4 хв читанняTensorFold проти llama.cpp на Mac Studio M5 Ultra: продуктивність у 1,84 рази вища під час обробки справжніх файлів JSON
Я протестував TensorFold 1.2.0 порівняно з llama.cpp на Mac Studio M5 Ultra з Qwen3.8-27B та 80 реальними запитами JSON: пропускна здатність становила 1.84 рази більше при 8 одночасних запитах.
9 хв читанняЗапуск локальних агентів кодування на Mac за допомогою oMLX: пояснення кешу KV з зберіганням на диску
oMLX зберігає префікси команд у SSD, щоб локальні інструменти програмування залишалися швидкими на Apple Silicon. Встановіть його та під’єднайте до нього Claude Code, Codex, Cursor та OpenCode.
9 хв читанняПриватний багатомодальний RAG на Mac з процесором M1: вибіркове читання графіків за допомогою Ollama
Приватний багатомодальний RAG на Mac з процесором M1 та Ollama: PyMuPDF для тексту та таблиць, невелика візуальна модель Qwen лише для діаграм, перевірки чисел та пошуку в ChromaDB.
10 хв читанняРобота штучних інтелектуальних агентів на MacBook: чому oMLX кращий за базовий MLX
Raw MLX потребував близько 20 секунд для обробки контексту агента з 8,7 тисяч токенів на процесорі M1 Max. oMLX скоротив цей час до приблизно 3 секунд завдяки батчуванню та ієрархічній кеш-системі KV. Цифри та причини.
5 хв читанняЛокальні LLM на Mac: MLX замість стандартного рушія llama.cpp
Коли MLX від Apple перевершує llama.cpp у роботі з локальними LLM на чіпах Apple Silicon, зі швидкістю, що залежить від розміру моделі, три способи перейти з Ollama та помилки, яких слід уникати.
5 хв читанняQwen3.8-Flash-Next на MacBook із 64 ГБ: файли, кванти та прапорці llama.cpp
Як запустити MoE на 180 млрд параметрів на M4 Max або M1 Max без вивантаження на CPU: який GGUF обрати, як n-gram таблицю розбито на шарди і точна команда llama-server.
9 хв читаннявід дрібної налаштуваності до точності: значне зменшення
Тонке налаштування разом із RAG для зменшення галюцинацій: чому саме тонке налаштування є недостатнім, архітектура з Ollama та як покращилася точність у вузькій галузі.
13 хв читання
Про ці статті
Оцінка за 24 години
Потрібен такий стек в операторському шарі? Надішліть бриф — оцінка за 24 години.