Главная / Статьи / AnythingLLM «Модель не найдена» в Ollama: пять способов устранения проблем с водопроводом

anythingllm ollama docker troubleshooting local-llm

AnythingLLM «Модель не найдена» в Ollama: пять способов устранения проблем с водопроводом

Пустые выпадающие списки и несоответствия тегов обычно связаны с проблемами в подключении HTTP между AnythingLLM и Ollama, а не с повреждёнными весами модели. Работайте с чек-листом сверху вниз.

2351 слов

AnythingLLM сообщает «модель не найдена» — пять способов решения проблем

Вы направили AnythingLLM на Ollama, нажали отправку, и появилось сообщение «модель не найдена». Или выпадающий список с моделями остается пустым. Или индикатор «загрузка доступных моделей» крутится бесконечно. Тем временем команда ollama list показывает, что веса модели успешно сохранены на диске.

Такое несоответствие обычно связано не с повреждённой загрузкой. AnythingLLM взаимодействует с Ollama по протоколу HTTP. Почти все сложные случаи сводятся к одной из пяти проблем с подключением или именованием между двумя локальными процессами.

Приведённые ниже заметки были составлены на основе версий Ollama 0.32.x: симптомы, причины, способы решения; они расположены в порядке частоты возникновения каждой из основных причин.

Основные выводы

По умолчанию Ollama прослушивает только порт 127.0.0.1:11434, поэтому версия AnythingLLM в формате Docker часто не может с ним связаться.

Внутри контейнера localhost означает сам контейнер — вместо этого используйте http://host.docker.internal:11434 (или шлюз хоста).

Сообщение «модель не найдена» часто связано с несоответствием тегов (llama3 против llama3.1:8b).

Чат может работать, но загрузка файлов будет неудачной, если модель embedding так и не была загружена.

Диагностика за тридцать секунд

Сначала определите симптом:

Симптом	Вероятная причина
Пустый выпадающий список / бесконечная загрузка	Ollama не работает или неверный базовый URL (Docker)
Сообщение «модель не найдена» в процессе чата	Несоответствие тегов
Чат работает, но загрузка документа не удается	Отсутствует модуль embedding
Названия верны, но возникают таймауты	Недостаток памяти

Заказанные проверки:

curl http://127.0.0.1:11434 — отсутствует ответ → Причина 1.
ollama list — совпадение имена полностью? в противном случае Причина 3.
AnythingLLM в Docker с пустым выпадающим списком → Причина 2 (основной URL).
Не удается загружать данные → Причина 4 (инструмент встраивания).
Проблемы сохраняются при нагрузке → Причина 5 (RAM/VRAM).

Причина 1 — Ollama не запущен (или не прослушивает порт)

Запустите сервер и проверьте API:

# Start the server (foreground; leave it running)
ollama serve
# In another terminal, prove it's alive curl http://127.0.0.1:11434
# -> "Ollama is running"

Подтвердите адрес прослушивания:

lsof -nP -iTCP:11434 -sTCP:LISTEN # ollama ... TCP 127.0.0.1:11434 (LISTEN)

Если ничто не прослушивает порт 11434, AnythingLLM не может отобразить список моделей. Запустите приложение/сервис, дождитесь ответа от API, затем обновите выпадающий список моделей AnythingLLM.

Причина 2 — Docker-версия AnythingLLM не может подключиться к Ollama на хосте

По умолчанию Ollama подключается только через локальный цикл. Контейнеры не смогут обратиться к адресу 127.0.0.1 на хосте. При необходимости разверните Ollama через интерфейс локальной сети:

# macOS: expose Ollama on the network, then restart the app
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"
# Linux (systemd): add to the service override, then reload + restart
# Environment="OLLAMA_HOST=0.0.0.0:11434"

Укажите базовый URL Ollama в AnythingLLM на шлюз хоста, например, при запуске контейнера с интерфейсом:

docker run -d -p 3001:3001 \ --add-host=host.docker.internal:host-gateway \ -v ~/anythingllm:/app/server/storage \ mintplexlabs/anythingllm

В Linux обычным решением является использование параметра --add-host=host.docker.internal:host-gateway (или IP-адреса шлюза docker bridge). После изменения URL снова откройте настройки и перезагрузите модели.

Причина 3 — несоответствие тегов

API чувствителен к точному совпадению строк. Если интерфейс запрашивает mistral, а у вас есть только mistral:7b-instruct, чат будет сбоить в процессе общения.

Укажите, что у вас действительно есть:

ollama list
# NAME ID SIZE MODIFIED
# llama3.1:8b 46e0c10c039e 4.9 GB 2 months ago
# qwen3:8b 500a1f067a9f 5.2 GB 5 months ago

Либо скачайте тег, ожидаемый AnythingLLM, либо измените настройки интерфейса так, чтобы указывался точный название из этого списка. Проверьте работу с помощью прямого вызова чата:

curl http://localhost:11434/api/chat -d '{"model":"mistral","messages":[{"role":"user","content":"hi"}]}'
# {"error":"model 'mistral' not found"}
curl http://localhost:11434/api/generate -d '{"model":"llama3","prompt":"hi"}'
# {"error":"model 'llama3' not found"}

Когда функция curl работает, а интерфейс пользователя не функционирует, он всё равно отправляет другую строку с моделью — необходимо исправить выборщик моделей рабочего пространства.

Причина 4 — отсутствует модель эмбеддинга

Чат использует генеративную модель, тогда как обработка документов — модель эмбеддинга. Если модель эмбеддинга так и не была загружена, загрузка документов проваливается, хотя чат работает нормально.

Проверьте эмбеддинги:

curl http://localhost:11434/api/embeddings -d '{"model":"mxbai-embed-large","prompt":"test"}'
# {"error":"model \"mxbai-embed-large\" not found, try pulling it first"}

Загрузите модель эмбеддинга, ожидаемую вашим рабочим пространством (пример):

ollama pull nomic-embed-text

Повторно выполните загрузку. Проверьте настройки модели эмбеддинга AnythingLLM, чтобы её название совпадало с результатом команды ollama list.

Причина 5 — недостаточно памяти

Большие теги на слабых устройствах приводят к сбоям из-за неопределённых таймаутов. Во время загрузки следите за работой Activity Monitor, команд nvidia-smi и free -h. Решения: использовать более мелкую квантовку, уменьшить количество одновременно работающих рабочих пространств, увеличить объём RAM/VRAM или закрыть другие модели (ollama stop).

Чек-лист для предотвращения проблем

Поддерживайте работу Ollama в режиме сервиса.
Задокументируйте базовый URL для установки через Docker и нативно.
Укажите точные теги в рабочих пространствах AnythingLLM.
Всегда загружайте модели как для чата, так и для встраивания в скриптах запуска.
Ограничьте размер модели объемом памяти устройства.

Итоги

Сообщение «Модель не найдена» между AnythingLLM и Ollama почти всегда связано с настройками: процесс запущен?, URL верный в разных пространствах имён?, теги точные?, модуль встраивания доступен?, памяти достаточно? Ознакомьтесь с этим списком с верха вниз перед повторной загрузкой многогигабайтных моделей.

Если вы измените адрес привязки Ollama, перезапустите как Ollama, так и AnythingLLM; устаревшие клиенты чаще, чем кажется, хранят старый базовый URL в настройках рабочего пространства.

Если вы измените адрес привязки Ollama, перезагрузите как Ollama, так и AnythingLLM; устаревшие клиенты чаще, чем кажется, хранят старый базовый URL в настройках рабочего пространства.

Все статьи Прислать бриф