Статті для тих, хто
виводить стек у прод
Матеріали про React, Node.js, TypeScript і AI. Перекладений текст показується, якщо він є. Якщо ні — ви бачите англійський текст і примітку про це.
Тег: Ollama
Hy-MT2-7B у п’яти локальних середовищах виконання: яке з них підходить для перекладу на Mac?
Hy-MT2-7B протестовувався з точки зору навантаження на llama.cpp, LM Studio, mlx-lm, Ollama та MLX-Serve на двох комп’ютерах Mac Studio M5 Ultra: пропускна здатність, масштабування, детермінізм, використання пам’яті.
9 хв читанняРобочий процес локального агента LLM, створений з папок та файлів Markdown
Створіть закриту, багатоступеневу систему обробки запитів місцевими агентами, де кожен етап є окремою папкою, запити формується у форматі Markdown, а людина перевіряє результат перед виконанням дорогого кроку.
25 хв читанняСтворення двох локальних агентів LLM для дебатів: обґрунтування, фальшивий консенсус, помилки схеми.
Два місцеві агенти LLM на Ollama, створені для дебатів на основі доказів, а не персонажів: підтримка NLI, помилка фальшивого консенсусу, перевірки атак та тверджень, а також обов’язкові поля.
7 хв читанняЗапуск того самого циклу чату OpenAI локально за допомогою Ollama
Запустіть ту саму циклічну розмову з OpenAI локально за допомогою Ollama: налаштуйте Python SDK від OpenAI на localhost та залиште свій код. Жодних API-ключів, жодних оплат за токени, жодних даних, що виходять назовні.
4 хв читанняАгент QuickBooks Finance, який працює на локальній моделі ШІ за допомогою Ollama та LangChain.
Агент ReAct на Qwen 3.5 9B та RTX 4070 читає дані QuickBooks в реальному часі через LangChain та Ollama — локальну модель ШІ без жодних витрат на хмарні послуги. Код, результати та обмеження.
13 хв читанняЗапуск агента Hermes локально в Rootless Podman з Ollama на GPU AMD
Робота агента Hermes локально та безпечно: Podman без прав root, один монтований каталог, внутрішня мережа, Ollama на GPU AMD з ROCm та один юніт systemd.
20 хв читанняПовністю локальний конвейер GraphRAG із LangExtract, Neo4j, Qdrant та Ollama
Створіть GraphRAG на локальних моделях: витягніть ентитети за допомогою LangExtract, збережіть їх у Neo4j, індексуйте у Qdrant, а потім розширіть підграфи для отримання відповідей, заснованих на графах.
39 хв читанняЦикл локального агента кодування: Aider, Ollama, робочі структури Git та простий механізм скасування змін.
Обмежений робочий процес для локального агента кодування, який забезпечує можливість перегляду та скасування кожної зміни, за допомогою Aider, Ollama, робочої структури Git, спрямованих тестів та простого шляху відновлення.
10 хв читанняБлогер із кількома агентами без витрат на API на Mac: Gemma 4, Ollama та Google ADK
Створіть локальну систему агентів для планування, написання та верифікації на Apple Silicon за допомогою Gemma 4 через Ollama, LiteLLM та Google ADK без оплати за кожен запит до моделі.
8 хв читання
Про ці статті
Оцінка за 24 години
Потрібен такий стек в операторському шарі? Надішліть бриф — оцінка за 24 години.