Артыкулы для тых, хто
выводзіць стэк у прод
Матэрыялы пра React, Node.js, TypeScript і AI. Перакладзены тэкст паказваецца, калі ён ёсць. Калі не — вы бачыце англійскі тэкст і пазнаку пра гэта.
Тэг: Ollama
Hy-MT2-7B на пяці локальных средах виконання: каторая з іх падходзіць для перакладу на Mac?
Hy-MT2-7B працаваў у тестах на навантажэння на платформах llama.cpp, LM Studio, mlx-lm, Ollama і MLX-Serve на двух комп’ютерах Mac Studio M5 Ultra: працэсна здатнасць, масштабаванне, детермінізм, выкарыстоўванне памяці.
9 хв чытанняРабочы процес местнага агента LLM, створанага з папак і файлаў Markdown
Створыце канал для роботы локальных агентаў з блокаваннем, складаючыся з калькі этапаў, пры чым кожны этап — это папка; запиты выкладзеныя ў формате Markdown і можна іх зменіць, а чалавек пераглядае рэзультаты прычынамі перед выкананням дорогага крока.
25 хв чытанняСтварэнне двух локальных агентаў LLM для дэбатаў: падставы, фальшывы консэнсус, багі схемы.
Два местных агента LLM на Ollama, які спроможны сперечацца на адказах доказаў, а не на адпрацоўваных персонажах: падставы NLI, баг фальшывага кансэнсусу, перакананні ў атаках проты тверджэнняў і неабходныя поля.
7 хв чытанняВыкананне таго жа цыклу чату OpenAI локальна з адказам Ollama
Заўярніце той самы цыкл чату з OpenAI локальна за дапамою Ollama: націсціце Python SDK ад OpenAI на localhost і застаўце свой код. Няма ключа API, няма плата за токены, няма выходу дадзенняў.
4 хв чытанняАгент QuickBooks Finance, які працуе на местным LLM за дапамогою Ollama і LangChain.
Агент ReAct на Qwen 3.5 9B і RTX 4070 чытае даны QuickBooks у рэальным часе через LangChain і Ollama — локальны LLM без якоўных расходаў на хмару. Код, выходныя даны і ліміты.
13 хв чытанняВыкананне агента Hermes локальна ў Rootless Podman з Ollama на GPU AMD
Выкананне агента Hermes локальна і безпечна: Podman без прав root, адзін монтаваны папка, внутраняя сетка, Ollama на GPU AMD з ROCm, а таксама ячэк systemd.
20 хв чытанняПолны ўсё на месцы пайплайн GraphRAG з LangExtract, Neo4j, Qdrant і Ollama
Створыце GraphRAG на локальных моделях: выкарыстоўваючы LangExtract выдзейце энтыты, зберагучы іх у Neo4j, індексаваючы ў Qdrant, а пасля расшырывайце сабграфы для адпаведных на адпаведнасць з графамі адказаў.
39 хв чытанняЦыкл локальнага агента для кодавання: Aider, Ollama, робочыя вёскі Git і прыемны спосаб відката.
Абмежаваны процес роботы для локальнага агента для кодавання, які забезпечвае можлівасць перегляду та виправлення кожных змян, за дапамою Aider, Ollama, робочай вёскі Git, спецыяльных тэстаў і простаг шляху відновлення.
10 хв чытанняБлогер з мнагімі агентамі без косту API на Mac: Gemma 4, Ollama і Google ADK
Створыце локальную систему агентаў для планавання, напісання та пераканання на чыпах Apple Silicon за дапамою Gemma 4 через Ollama, LiteLLM і Google ADK, без платаў за выкарыстоўванне модэляў за кожны запит.
8 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.