Inicio / Artículos / AnythingLLM “Modelo no encontrado” con Ollama: Cinco soluciones para problemas de plomería

AnythingLLM “Modelo no encontrado” con Ollama: Cinco soluciones para problemas de plomería

Los menús desplegables vacíos y las incoherencias en las etiquetas suelen deberse a problemas de conexión HTTP entre AnythingLLM y Ollama, no a pesos corruptos. Siga la lista de verificación de arriba hacia abajo.

2351 palabras

Cuando AnythingLLM muestra “modelo no encontrado”: cinco soluciones para problemas de plomería

Dirigiste AnythingLLM hacia Ollama, pulsaste enviar y obtuviste el mensaje “modelo no encontrado”. También puede ocurrir que el desplegable de modelos permanezca vacío o que la opción “cargando modelos disponibles” siga girando indefinidamente. Mientras tanto, ollama list muestra que los pesos del modelo se encuentran correctamente en el disco.

Esa discrepancia generalmente no se debe a una descarga dañada. AnythingLLM se comunica con Ollama mediante HTTP. Casi todos los casos difíciles se resuelven con uno de los cinco problemas de conectividad o denominación entre dos procesos locales.

Las notas a continuación se redactaron con versiones de Ollama 0.32.x: síntoma, causa, solución, ordenadas según la frecuencia con la que cada uno de ellos es la verdadera causa del problema.

Puntos clave

  • Por defecto, Ollama solo escucha en 127.0.0.1:11434, y por eso un AnythingLLM en entorno Docker a menudo no puede detectarlo.
  • Dentro de un contenedor, localhost se refiere al propio contenedor; utilice en su lugar http://host.docker.internal:11434 (o la pasarela del host).
  • El mensaje literal “modelo no encontrado” suele deberse a una incompatibilidad de etiquetas (llama3 frente a llama3.1:8b).
  • El chat puede funcionar mientras fallan las subidas cuando el modelo de embedding nunca se ha descargado.
  • Diagnóstico en treinta segundos

    Primero, identifique el síntoma:

    Presión de memoria
    Síntoma Causa probable
    Menú desplegable vacío/carga interminable Ollama inactivo o URL base incorrecta (Docker)
    Mensaje “modelo no encontrado” durante el chat Incompatibilidad de etiquetas
    Chat funciona, pero fallan las subidas de documentos Falta el módulo de embedding
    Nombres correctos, pero tiempos de espera excesivos

    Cheques solicitados:

    1. curl http://127.0.0.1:11434 — sin respuesta → Causa 1.
    2. ollama list — ¿coincidencia exacta del nombre? de lo contrario, Causa 3.
    3. AnythingLLM en Docker con menú desplegable vacío → Causa 2 (URL base).
    4. Solo fallan las subidas → Causa 4 (embedder).
    5. Sigue teniendo problemas bajo carga → Causa 5 (RAM/VRAM).

    Causa 1 — Ollama no está en ejecución (o no está escuchando)

    Inicie el servidor y verifique la API:

    # Start the server (foreground; leave it running)
    ollama serve
    # In another terminal, prove it's alive curl http://127.0.0.1:11434
    # -> "Ollama is running"
    

    Confirme la dirección de escucha:

    lsof -nP -iTCP:11434 -sTCP:LISTEN # ollama ... TCP 127.0.0.1:11434 (LISTEN)
    

    Si nada está escuchando en el puerto 11434, AnythingLLM no puede listar los modelos. Inicie la aplicación/servicio, espere a que la API responda y luego actualice el menú desplegable de modelos de AnythingLLM.

    Causa 2 — AnythingLLM en Docker no puede conectarse con Ollama en el host

    El enlace predeterminado de Ollama es solo de tipo loopback. Los contenedores no podrán ver 127.0.0.1 en el host. Si es necesario, exponga Ollama a través de la interfaz LAN:

    # macOS: expose Ollama on the network, then restart the app
    launchctl setenv OLLAMA_HOST "0.0.0.0:11434"
    # Linux (systemd): add to the service override, then reload + restart
    # Environment="OLLAMA_HOST=0.0.0.0:11434"
    

    Dirija la URL base de Ollama de AnythingLLM hacia la pasarela del host, por ejemplo al ejecutar el contenedor de la interfaz de usuario:

    docker run -d -p 3001:3001 \ --add-host=host.docker.internal:host-gateway \ -v ~/anythingllm:/app/server/storage \ mintplexlabs/anythingllm
    

    En Linux, --add-host=host.docker.internal:host-gateway (o la IP de la pasarela del puente Docker) es la solución habitual. Después de cambiar la URL, vuelva a abrir los ajustes y recargue los modelos.

    Causa 3: Incompatibilidad de etiquetas

    La API es sensible a las cadenas exactas. Si la interfaz de usuario solicita mistral pero solo cuenta con mistral:7b-instruct, la conversación fallará durante su transcurso.

    Enumere qué es lo que realmente tiene:

    ollama list
    # NAME ID SIZE MODIFIED
    # llama3.1:8b 46e0c10c039e 4.9 GB 2 months ago
    # qwen3:8b 500a1f067a9f 5.2 GB 5 months ago
    

    O bien descargue la etiqueta que espera AnythingLLM o cambie la interfaz de usuario a un nombre exacto de esa lista. Verifique con una llamada de chat directa:

    curl http://localhost:11434/api/chat -d '{"model":"mistral","messages":[{"role":"user","content":"hi"}]}'
    # {"error":"model 'mistral' not found"}
    curl http://localhost:11434/api/generate -d '{"model":"llama3","prompt":"hi"}'
    # {"error":"model 'llama3' not found"}
    

    Cuando el proceso de curl funciona pero la interfaz de usuario falla, esta sigue enviando una cadena de modelo diferente; hay que corregir el selector de modelos del espacio de trabajo.

    Causa 4: Falta el modelo del incrustador

    Chat utiliza el modelo generativo; la carga de documentos emplea un modelo de incrustación. Si el incrustador nunca se descargó, las subidas fallan aunque el chat funcione correctamente.

    Verificar los modelos de incrustación:

    curl http://localhost:11434/api/embeddings -d '{"model":"mxbai-embed-large","prompt":"test"}'
    # {"error":"model \"mxbai-embed-large\" not found, try pulling it first"}
    

    Descargar el incrustador que espera su espacio de trabajo (ejemplo):

    ollama pull nomic-embed-text
    

    Volver a ejecutar la subida. Revisar los ajustes del incrustador de AnythingLLM para que el nombre coincida con ollama list.

    Causa 5: Falta memoria suficiente

    Las etiquetas grandes en máquinas pequeñas generan tiempos de espera indefinidos. Observar Activity Monitor / nvidia-smi / free -h durante la carga. Soluciones: usar una cuantización menor, reducir el número de espacios de trabajo concurrentes, aumentar la RAM/VRAM o cerrar otros modelos (ollama stop).

    Lista de verificación para la prevención

    • Mantenga Ollama en ejecución como servicio.
    • Dokumente la URL base para las instalaciones en Docker frente a las nativas.
    • Fije las etiquetas exactas en los espacios de trabajo de AnythingLLM.
    • Siempre descargue tanto los modelos de chat como los del integrador en los scripts de inicialización.
    • Límite el tamaño del modelo al presupuesto de memoria de la máquina.

    Conclusión

    El error “Modelo no encontrado” entre AnythingLLM y Ollama se debe casi siempre a problemas de conexión: ¿el proceso está activo?, ¿la URL es correcta en los diferentes nombres de espacio?, ¿las etiquetas son exactas?, ¿está presente el integrador?, ¿hay suficiente memoria? Revise esa lista de arriba hacia abajo antes de volver a descargar pesos de varios gigabytes.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan con frecuencia la antigua URL base en la configuración del espacio de trabajo, más de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan con frecuencia la antigua URL base en la configuración del espacio de trabajo, más de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan en caché la antigua URL de base en la configuración del espacio de trabajo con más frecuencia de lo que la gente espera.

    Si cambia la dirección de enlace de Ollama, reinicie tanto Ollama como AnythingLLM; los clientes obsoletos almacenan con frecuencia la antigua URL base en la configuración del espacio de trabajo, más de lo que la gente espera.

    Lecturas relacionadas