Артыкулы для тых, хто
выводзіць стэк у прод
Матэрыялы пра React, Node.js, TypeScript і AI. Перакладзены тэкст паказваецца, калі ён ёсць. Калі не — вы бачыце англійскі тэкст і пазнаку пра гэта.
Тэг: ollama
Hy-MT2-7B на пяці локальных срэдах выканання: каторая з іх падходзіць для перакладу на Mac?
Hy-MT2-7B працаваў у тэстах на навантажэння на платформах llama.cpp, LM Studio, mlx-lm, Ollama і MLX-Serve на двух камп’ютарах Mac Studio M5 Ultra: працэсна здатнасць, масштабаванне, дэтэрмінізм, выкарыстоўванне памяці.
9 хв чытанняЛакальны агентны працэс на LLM з тэчак і Markdown-файлаў
Будуем шматэтапны лакальны канвеер агентаў з кантрольнымі кропкамі: кожны этап — тэчка, промпты — рэдагаваныя Markdown-файлы, а чалавек правярае вынік перад дарагім крокам.
25 хв чытанняДэбаты двух лакальных LLM-агентаў: абгрунтаванне, фальшывы кансенсус і памылкі схемы
Два лакальныя LLM-агенты на Ollama спрачаюцца на доказах, а не ролях: NLI-абгрунтаванне, памылка фальшывага кансенсусу, праверкі атакі і сцвярджэння і абавязковыя палі.
7 хв чытанняВыкананне таго жа цыклу чату OpenAI локальна з адказам Ollama
Заўярніце той самы цыкл чату з OpenAI локальна за дапамою Ollama: націсціце Python SDK ад OpenAI на localhost і застаўце свой код. Няма ключа API, няма плата за токены, няма выходу дадзенняў.
4 хв чытанняФінансавы агент для QuickBooks на лакальнай LLM з Ollama і LangChain
ReAct-агент на Qwen 3.5 9B і RTX 4070 чытае жывыя даныя QuickBooks праз LangChain і Ollama — лакальная LLM без выдаткаў на воблака. Код, вынікі і абмежаванні.
13 хв чытанняВыкананне агента Hermes локальна ў Rootless Podman з Ollama на GPU AMD
Выкананне агента Hermes локальна і безпечна: Podman без прав root, адзін монтаваны папка, внутраняя сетка, Ollama на GPU AMD з ROCm, а таксама ячэк systemd.
20 хв чытанняЦалкам лакальны GraphRAG-канвеер з LangExtract, Neo4j, Qdrant і Ollama
Будуем GraphRAG на лакальных мадэлях: вымаем сутнасці праз LangExtract, захоўваем у Neo4j, індэксуем у Qdrant і пашыраем падграфы для адказаў, абгрунтаваных графам.
39 хв чытанняЦыкл лакальнага агента кадавання: Aider, Ollama, Git worktree і лёгкі адкат
Абмежаваны працэс для лакальнага агента кадавання, у якім кожную змену можна праверыць і адкаціць: Aider, Ollama, Git worktree, мэтавы тэст і просты шлях аднаўлення.
10 хв чытанняШматагентны блогер на Mac без выдаткаў на API: Gemma 4, Ollama і Google ADK
Будуем лакальную сістэму з агентаў-планавальніка, аўтара і валідатара на Apple Silicon з Gemma 4 праз Ollama, LiteLLM і Google ADK без платы за кожны запыт.
8 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.