Hace apenas un par de años, tener un modelo de lenguaje capaz de mantener una conversación en tu escritorio sonaba a ciencia ficción reservada a laboratorios con presupuestos de millones. Hoy, con una herramienta gratuita y de código abierto, cualquiera con un ordenador relativamente moderno puede descargar un modelo y empezar a hablar con él en cuestión de minutos. No hace falta tarjeta gráfica de gama alta, ni una cuenta de pago, ni enviar tus datos a nadie. En este tutorial vas a instalar Ollama, bajar tu primer modelo y entender cómo sacarle partido sin tocar una sola línea de Python.
Ollama es una aplicación que se encarga de toda la parte difícil de correr modelos de lenguaje en local: descarga los pesos, los cuantiza para que quepan en tu memoria, gestiona la aceleración por hardware y te deja hablar con ellos desde una terminal o desde una API. Lo demás —entender la lógica— es más sencillo de lo que parece.
Por qué querrías ejecutar un modelo en tu propio ordenador
Antes de ponernos con los comandos, vale la pena preguntarse para qué molestarse si ya existe ChatGPT en el navegador. La respuesta corta: hay cuatro motivos que ningún servicio en la nube te regala a la vez.
El primero es la privacidad. Cuando escribes en un servicio alojado, tu texto sale de tu máquina y viaja a los servidores de una empresa. Para muchas tareas cotidianas eso no importa, pero si estás resumiendo contratos, depurando código de tu empresa o simplemente no quieres que tus conversaciones alimenten ningún modelo, correrlo en local cambia las reglas del juego: el texto no sale de tu casa.
El segundo es el coste. Los modelos locales no cobran por token. Una vez descargado el modelo, puedes hacer las preguntas que quieras, generar los resúmenes que necesites y experimentar a lo loco sin mirar una factura. Para quien usa IA a diario, la diferencia es notable.
El tercero es el modo sin conexión. Un modelo en tu disco funciona aunque se caiga internet. Eso suena menor hasta que estás en un avión, en una zona con mala cobertura o simplemente quieres guarantees de disponibilidad.
El cuarto, y a menudo el más olvidado, es el aprendizaje. Tocar un modelo con las manos te enseña de verdad cómo funciona la IA: qué puede y qué no puede, cómo cambia el comportamiento según el tamaño, qué significa "contexto". Es la diferencia entre usar una caja negra y entender la herramienta.
Qué necesitas antes de empezar
La buena noticia: casi cualquier ordenador de la última década sirve. Ollama funciona en macOS, Windows y Linux. No necesitas una tarjeta gráfica dedicada para los modelos pequeños: estos corren perfectamente sobre la CPU, aunque más lento.
Lo que sí importa de verdad es la memoria RAM. Un modelo pequeño de unos 3.000 millones de parámetros (lo que se conoce como 3B) cabe holgadamente con 8 GB de RAM y rinde bien. Los modelos medianos, en torno a 7B o 8B parámetros, agradecen 16 GB. Cuanto más grande sea el modelo, más memoria consume y más lentitud notarás si no tienes una GPU que lo ayude.
Si tienes un Mac con Apple Silicon (los chips M1, M2, M3 o M4), estás en una situación privilegiada: esos equipos gestionan muy bien la memoria unificada y los modelos medianos vuelan sin apenas esfuerzo de configuración. En Windows y Linux, una tarjeta gráfica NVIDIA acelera mucho las cosas, pero no es obligatoria para empezar.
Instalar Ollama
El proceso cambia según tu sistema, pero en todos los casos es cuestión de un par de minutos.
En macOS y Windows, la vía más cómoda es bajar el instalador desde la web oficial de Ollama. Existe una aplicación con interfaz gráfica que se instala como cualquier otro programa; al abrirla ya tienes el comando ollama disponible en tu terminal.
En Linux, puedes instalarlo de una sola línea desde la terminal:
curl -fsSL https://ollama.com/install.sh | sh
Ese comando descarga el script de instalación oficial, lo ejecuta y deja Ollama listo en tu sistema. Tras la instalación, Ollama arranca un servicio en segundo plano que es el que realmente carga y ejecuta los modelos.
Para confirmar que todo funciona, abre una terminal y escribe:
ollama --version
Si te devuelve un número de versión, ya estás dentro.
Tu primer modelo: ollama run
Aquí empieza la diversión. Para descargar un modelo y abrir una conversación con él en el acto, se usa un solo comando. Vamos a empezar por uno pequeño y rápido, ideal para equipos modestos:
ollama run llama3.2
La primera vez, Ollama descargará el modelo (unos pocos gigabytes) y, cuando termine, te dejará en un prompt donde puedes escribir directamente. Prueba a decirle algo tan simple como "explícame qué es una red neuronal como si tuviera doce años" y mira cómo responde. Para salir de la conversación, escribe /bye.
El comando run hace dos cosas: si el modelo no está en tu disco, lo baja; y luego lo lanza para que hables con él. Las siguientes veces que escribas ollama run llama3.2, la descarga ya no ocurrirá y arrancará al instante.
Gestionar tus modelos
A medida que pruebes cosas, acumularás modelos en el disco. Conviene saber moverse:
- Para bajar un modelo sin abrir conversación:
ollama pull nombre-del-modelo - Para ver qué tienes guardado:
ollama list - Para borrar uno que ya no usas:
ollama rm nombre-del-modelo
Esto último importa más de lo que parece: los modelospesan gigas, y el disco se llena rápido si no limpias de vez en cuando.
Elegir el modelo según tu equipo
No todos los modelos son iguales, y elegir mal significa o bien que no te cabe en memoria o bien que la experiencia sea tan lenta que abandonas. La regla práctica es: empieza pequeño, crece solo si lo necesitas.
Para equipos con 8 GB de RAM, modelos como llama3.2 (en su versión de 3B) o qwen2.5 en tamaño pequeño son la zona de confort. Son sorprendentemente capaces para redactar, resumir y charlar, y responden casi en tiempo real.
Si tienes 16 GB o más, puedes subir a modelos de 7B u 8B como llama3.1, mistral o gemma2, que razonan mejor y cometen menos errores en tareas complejas. Por encima de ahí entras en territorio de modelos grandes que ya piden GPU dedicada para no volverte loco de espera.
Ollama también aloja modelos especializados. Por ejemplo, las versiones deepseek-r1 destiladas son excelentes para razonamiento paso a paso y matemáticas, mientras que las familias qwen o phi brillan en tareas concretas. La biblioteca de modelos oficial de Ollama es el lugar donde explorar qué hay disponible; cada modelo tiene su página con los tamaños que puedes descargar.
Hablar con el modelo sin la terminal
La terminal está bien para aprender, pero Ollama es mucho más que una línea de comandos. Por detrás, el servicio expone una API REST en localhost:11434, lo que significa que cualquier aplicación que hable con esa dirección puede usar tus modelos locales. Hay clientes con interfaz gráfica, integraciones con editores de código y hasta aplicaciones de chat que se conectan a tu Ollama en vez de a la nube.
Si quieres verlo con tus propios ojos, abre tu navegador y entra en http://localhost:11434 mientras Ollama está activo: verás que responde, confirmando que el servicio escucha peticiones.
Para quien quiera personalizar el comportamiento de un modelo —darle una personalidad, fijar instrucciones de sistema, encadenar pasos— Ollama usa un archivo de definición sencillo llamado Modelfile. Con él puedes crear tu propia "versión" de un modelo (por ejemplo, un asistente que siempre responde en tono informal o que se especializa en explicar código) y distribuirla. Es el equivalente a darle una identidad estable a un modelo base.
Casos de uso prácticos
Una vez instalado, las posibilidades son amplias y ninguna requiere saber programar:
- Redactar y reformular textos, correos o entradas de blog sin enviar tu contenido a un servidor externo.
- Resumir documentos largos pegando el texto y pidiéndole un resumen por puntos.
- Ayuda con el código: explicar errores, traducir fragmentos entre lenguajes o generar funciones pequeñas.
- Traducir entre idiomas con bastante soltura, incluso fragmentos técnicos.
- Brainstorming de ideas cuando te quedas bloqueado escribiendo o planificando.
Para tareas que repites a menudo, el hecho de que sea gratis y local te libera de la presión de "no gastar tokens" y te invita a experimentar.
Las limitaciones, contadas con honestidad
No todo es maravilloso, y conviene ser claro. Los modelos que corren en un portátil normal son, por necesidad, versiones reducidas y comprimidas (cuantizadas) de los modelos enormes de los laboratorios. Eso significa que:
- Cometen más errores que los modelos de frontera cuando la tarea es compleja o requiere razonamiento largo.
- Pueden alucinar fechas, nombres o datos, igual que cualquier modelo de lenguaje. Nunca los uses para dar por buena información crítica sin contrastar.
- Son más lentos que los servicios en la nube si no tienes GPU, sobre todo con modelos grandes.
- No tienen internet: no saben qué pasó ayer a menos que tú les pegues la información.
La clave es tratarlos como un ayudante rápido y privado para tareas donde la perfección no es crítica, no como una fuente de verdad absoluta.
Conclusión
Tener un modelo de lenguaje propio dejó de ser algo exclusivo de quienes entienden de redes neuronales. Con Ollama, en menos de diez minutos pasas de "nunca he tocado esto" a mantener una conversación con un modelo que vive en tu disco, funciona sin conexión y no te cuesta un euro por uso. Empieza por el modelo pequeño, juega con él, y cuando veas sus límites, sube de tamaño. La mejor forma de entender la IA no es leer sobre ella: es ejecutarla.