IA en tu propio PC: Ollama, tamaños de modelo, tokens y contexto explicados

Un modelo sin clave de API

Imagina un modelo de IA que funciona en tu propio ordenador, sin clave de API, sin servidor en la nube y sin cuota mensual. Es posible, y Ollama es una de las vías más sencillas. Si palabras como Llama, Qwen, Gemma, 7B, contexto de 32K o cuantización te han dejado con dudas, las secciones de abajo te dan la visión general sin teoría.

Qué hace Ollama

Ollama es una herramienta que ejecuta modelos de lenguaje grandes (LLM) en local. Con un servicio de IA típico, tu petición viaja a los servidores de una empresa:

Your Computer
      ↓
   Internet
      ↓
Cloud AI Server
      ↓
     Model

Con Ollama, todo el ciclo se queda en tu hardware:

Your Computer
      ↓
    Ollama
      ↓
   AI Model

Es tu propio ordenador el que hace el trabajo, y ahí está todo el atractivo. Descargas un modelo, lo ejecutas y hablas con él desde la terminal o desde tus propias aplicaciones.

El entorno de ejecución y el modelo son cosas distintas

La primera idea que conviene asimilar: Ollama es el entorno de ejecución y el modelo es el cerebro. Fíjate en este comando:

ollama run qwen3:4b

Aquí ollama es el entorno de ejecución, qwen3 es la familia del modelo y 4b significa unos 4.000 millones de parámetros. Con la misma herramienta puedes cargar otro modelo:

ollama run gemma4:e4b

El entorno no cambia, solo cambia el cerebro. Una forma de recordarlo: Ollama es el reproductor y el modelo es la música.

Cómo leer «4B»

Los nombres de los modelos llevan tamaños como estos:

3B
4B
7B
14B
32B
70B

La B significa miles de millones (billions) de parámetros, así que un modelo 7B tiene unos 7.000 millones. No necesitas entender las matemáticas de cada uno. Basta con recordar que más parámetros suele significar un modelo más grande y con más capacidad, aunque más grande no equivale automáticamente a mejor, y un modelo moderno pequeño puede ser sorprendentemente bueno. También hay una contrapartida: los modelos grandes suelen necesitar más memoria.

Por qué importan la RAM y la VRAM

Supongamos que tu equipo tiene esto:

RAM  → 16 GB
VRAM → 8 GB

La RAM es la memoria normal del sistema, y la VRAM es la memoria que puede usar tu GPU. Según el hardware y la configuración, los modelos pueden tirar de ambas, y tener suficiente memoria de GPU suele hacer la inferencia bastante más rápida. Por eso coger el modelo más grande que encuentres rara vez sale bien. Si estás empezando, es mejor arrancar con algo de los tamaños pequeños.

Instalar y ejecutar tu primer modelo

La instalación depende de la plataforma. En Mac, usa la página de descarga para Mac o la terminal:

curl -fsSL https://ollama.com/install.sh | sh

En Linux, consulta las instrucciones para Linux, que usan el mismo comando de una línea:

curl -fsSL https://ollama.com/install.sh | sh

En Windows, abre PowerShell (los detalles están en la página de Windows):

irm https://ollama.com/install.ps1 | iex

Con Ollama instalado, arrancar un modelo puede ser cuestión de una sola línea:

ollama run qwen3:4b

Si el modelo aún no está en disco, Ollama lo descarga y luego abre un chat. Prueba a preguntar algo como:

Explain Docker to me like I'm a beginner.

Te está respondiendo un modelo local, sin clave, sin frontend y sin backend. Solo interviene tu ordenador.

Los pocos comandos que vas a usar

No hace falta memorizar decenas de comandos. Con estos cubres lo básico. Primero, lista lo que tienes instalado:

# See installed models
ollama list

Después, descarga, ejecuta, elimina e inspecciona modelos:

# Download a model
ollama pull qwen3:4b# Run a model
ollama run qwen3:4b# Remove a model
ollama rm qwen3:4b# Inspect a model
ollama show qwen3:4b

Tras experimentar un poco, se convierten en costumbre.

Tokens

Un modelo no lee el texto en palabras completas. Lo divide en unidades más pequeñas llamadas tokens. Incluso una frase corta como esta se trocea antes de que el modelo la procese:

Ollama runs AI locally.

Los tokens importan porque todo modelo tiene una ventana de contexto.

Ventana de contexto

Piensa en una conversación de una hora con una IA. Para seguir el hilo, el modelo tiene que tener presente lo que ya se ha dicho, y la cantidad que puede considerar a la vez es su ventana de contexto. Verás tamaños como estos:

8K
32K
64K
128K

La K significa aproximadamente miles de tokens, así que:

32K ≈ 32,000 tokens

Una ventana más grande ayuda sobre todo con conversaciones largas, documentos extensos, bases de código, agentes y llamadas a herramientas. Se vuelve especialmente importante cuando pasas de los chatbots a los agentes.

Más que una caja de chat

Ollama expone una API, así que tu propio software puede hablar con el modelo. Una configuración típica podría ser así:

Next.js Application
        ↓
     Backend
        ↓
      Ollama
        ↓
    Qwen Model

A partir de aquí ya no solo chateas con la IA, sino que construyes con ella. Puedes hacer asistentes de programación, asistentes para documentos, chatbots privados de empresa, aplicaciones RAG, sistemas de automatización y agentes, y no necesitas construirlo todo desde cero.

Del chatbot al agente

Un chatbot sobre todo responde preguntas. Un agente puede usar herramientas para completar una tarea. Imagina que le dices: «Mira el servidor y dime por qué se ha caído la app». Podría seguir perfectamente pasos como estos:

Understand the request
       ↓
Check server
       ↓
Read logs
       ↓
Analyze the problem
       ↓
Take an action
       ↓
Report the result

Aquí es donde los modelos locales se vuelven interesantes. Ollama puede hacer de proveedor del modelo, mientras que un framework de agentes como OpenClaw aporta herramientas, memoria y el entorno. Las capas se apilan así:

AI Agent
           ↓
        OpenClaw
           ↓
         Ollama
           ↓
       AI Model

El modelo local deja de ser un simple contestador y pasa a ser el motor de razonamiento dentro de un sistema más grande.

¿Local o en la nube?

Lo local no siempre es la respuesta, pero tiene ventajas reales. Tus datos pueden quedarse en tu propio equipo. No te cobran necesariamente por cada petición. Tú decides qué modelo y qué infraestructura usar. Y puedes cambiar de modelo libremente sin gestionar un montón de claves de API.

Aun así, los modelos en la nube pueden ser más potentes, sobre todo en razonamientos difíciles. Por eso la mejor respuesta muchas veces no es ninguna de las dos por separado: un enfoque híbrido puede superar a ambas. Las tareas sencillas van a un modelo local:

Simple tasks
     ↓
Local Ollama model

Las complejas, a un modelo en la nube:

Complex tasks
     ↓
Cloud AI model

Cinco ideas para quedarte

No te agobies por asimilarlo todo de golpe. Para empezar bastan cinco ideas. Ollama ejecuta los modelos:

Ollama
  ↓
Runs AI models

El modelo es la IA propiamente dicha:

Model
  ↓
The actual AI

Los parámetros describen la capacidad del modelo:

Parameters
  ↓
Model capacity

Los tokens son la forma en que se procesa el texto:

Tokens
  ↓
How AI processes text

El contexto es cuánta información puede tener en cuenta el modelo:

Context
  ↓
How much information AI can consider

Cuando esto encaje, el resto del ecosistema será mucho más fácil de seguir, y puedes probarlo ahora mismo:

ollama run qwen3:4b

Un solo comando separa no haber ejecutado nunca un modelo en local de tener una IA funcionando en tu propio ordenador. El paso siguiente es aún más interesante: convertir el modelo local en un agente que de verdad hace cosas.