Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: Ollama
Hy-MT2-7B на пяти локальных движках выполнения: какой из них подойдет для перевода на Mac?
Hy-MT2-7B протестирован в условиях нагрузки с использованием llama.cpp, LM Studio, mlx-lm, Ollama и MLX-Serve на двух машинах Mac Studio M5 Ultra: пропускная способность, масштабируемость, детерминизм, использование памяти.
9 мин чтенияРабочий процесс локального агента LLM, созданный на основе папок и файлов Markdown
Создайте замкнутую многоэтапную систему работы с локальными агентами, при которой каждый этап представляет собой папку, промпты формируются в формате Markdown с возможностью редактирования, а человек проверяет результат перед выполнением дорогостоящего шага.
25 мин чтенияОрганизация дебатов между двумя локальными агентами LLM: основания, ложный консенсус, ошибки схемы.
Два локальных агента LLM на Ollama, предназначенных для дебатов на основе доказательств, а не ролей: обоснование NLI, ошибка ложного консенсуса, проверки атаки против утверждений и обязательные поля.
7 мин чтенияЗапуск той же циклов чата OpenAI локально с помощью Ollama
Запустите ту же самую циклическую чат-систему OpenAI локально с помощью Ollama: настройте Python SDK OpenAI на localhost и сохраните свой код. Никаких API-ключей, никаких счетов за токены, никакой передачи данных.
4 мин чтенияАгент QuickBooks Finance, работающий на локальном LLM с использованием Ollama и LangChain
Агент ReAct на модели Qwen 3.5 9B и видеокарте RTX 4070 считывает данные из QuickBooks в реальном времени с помощью LangChain и Ollama — локальной большой языковой модели без каких-либо затрат на облачные сервисы. Код, результаты работы и ограничения.
13 мин чтенияЗапуск агента Hermes локально в Podman без рут-доступа с использованием Ollama на GPU AMD
Запуск агента Hermes локально и безопасно: Podman без прав root, одна монтируемая папка, внутренняя сеть, Ollama на GPU AMD с ROCm и единица systemd.
20 мин чтенияПолностью локальная пайплайн GraphRAG с использованием LangExtract, Neo4j, Qdrant и Ollama
Создайте GraphRAG на локальных моделях: извлеките сущности с помощью LangExtract, сохраните их в Neo4j, индексируйте в Qdrant, а затем расширяйте подграфы для получения ответов, основанных на структуре графа.
39 мин чтенияЦикл локального агента по программированию: Aider, Ollama, рабочие ветки Git и удобный механизм отката.
Ограниченный рабочий процесс для локального агента по программированию, который обеспечивает возможность просмотра и отката любых изменений с использованием Aider, Ollama, рабочей ветки Git, целенаправленных тестов и простого способа восстановления.
10 мин чтенияБлогер с несколькими агентами без затрат на API на Mac: Gemma 4, Ollama и Google ADK
Создайте локальную систему агентов для планирования, написания текстов и проверки с использованием Apple Silicon и библиотеки Gemma 4 через Ollama, LiteLLM и Google ADK, без дополнительных платежей за использование моделей за каждый запрос.
8 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.