Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: apple-silicon
Mac Studio M5 Ultra против DGX Spark: скорость работы локальных нейросетей с одинаковыми моделями.
Mac Studio M5 Ultra 256 ГБ против одного, двух и четырех модулей DGX Spark на платформах Nemotron, Qwen3.8 и DeepSeek-V4.1-Flash: декодирование, предзаполнение данных, группировка операций и обработка изображений.
4 мин чтенияTensorFold против llama.cpp на Mac Studio M5 Ultra: пропускная способность при обработке реальных JSON-данных в 1,84 раза выше
Я провёл сравнительные тесты TensorFold 1.2.0 с llama.cpp на Mac Studio M5 Ultra с моделью Qwen3.8-27B при 80 реальных запросах в формате JSON: пропускная способность составила 1,84 раза выше при 8 одновременных запросах.
9 мин чтенияЗапуск локальных агентов кодирования на Mac с oMLX: объяснение кэша KV с хранением на диске
oMLX хранит префиксы команд в SSD, чтобы локальные инструменты кодирования оставались быстрыми на чипах Apple Silicon. Установите его и подключите к нему Claude Code, Codex, Cursor и OpenCode.
9 мин чтенияПриватный мультимодальный RAG на Mac с процессором M1: избирательное чтение графиков с помощью Ollama
Приватный мультимодальный RAG на Mac с процессором M1 с использованием Ollama: PyMuPDF для обработки текста и таблиц, небольшая визуальная модель Qwen только для графиков и проверки чисел, а также ChromaDB для поиска информации.
10 мин чтенияЗапуск ИИ-агентов на MacBook: почему oMLX превосходит чистый MLX
Raw MLX требовал примерно 20 секунд для обработки контекста агента объемом 8,7 токена на процессоре M1 Max. oMLX сократил это время до примерно 3 секунд благодаря батчингу и иерархической кэш-системе KV. Цифры и причины.
5 мин чтенияЛокальные LLM на Mac: MLX вместо стандартного движка llama.cpp
Когда MLX от Apple превосходит llama.cpp в работе с локальными большими языковыми моделями на чипах Apple Silicon, при этом скорость зависит от размера модели: три способа перейти с Ollama и ошибки, которых следует избегать.
5 мин чтенияQwen3.8-Flash-Next на MacBook с 64 ГБ: файлы, кванты и флаги llama.cpp
Как запустить MoE на 180 млрд параметров на M4 Max или M1 Max без выгрузки на CPU: какой GGUF выбрать, как n-gram таблица разбита по шардам и точная команда llama-server.
9 мин чтенияот тонкой настройки к точности: значительное снижение
Тонкая настройка в сочетании с RAG для сокращения галлюцинаций: почему одна лишь тонкая настройка недостаточна, архитектура с Ollama и то, как улучшилась точность в узкой области применения.
13 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.