Cada vez que abres ChatGPT, Claude o Gemini estás enviando tu conversación a un servidor que, legalmente, pertenece a otra empresa. Para muchas tareas cotidianas no pasa nada: el modelo responde y tú sigues con tu vida. Pero hay momentos en los que prefieres que ciertos datos no salgan de tu habitación: borradores de una novela, notas personales, fragmentos de código de un proyecto privado o simplemente experimentar sin preocuparte por el coste por token.
Ejecutar modelos de lenguaje grandes (LLM) en tu propio ordenador dejó de ser algo reservado a laboratorios con GPUs de 80 GB. Gracias a la cuantización —reducir la precisión numérica de los pesos del modelo para que ocupe menos y vaya más rápido—, hoy es posible correr asistentes decentes en una gráfica modesta o incluso solo con CPU. Lo he probado yo mismo en un equipo con una GTX 1050 de 4 GB: no es para generar novelas a velocidad de vértigo, pero un modelo cuantizado pequeño responde sin conexión y sin enviar nada a la nube.
En este artículo comparo cuatro de los ejecutores locales más populares: Ollama, LM Studio, Jan y GPT4All. Todos son gratuitos, corren en Windows, Linux y macOS, y persiguen el mismo objetivo con filosofías distintas.
Ollama: el estándar para quien vive en la terminal
Ollama es, con diferencia, la herramienta más adoptada por desarrolladores. Su filosofía es minimalista: instalas, escribes ollama run llama3.2 y el modelo empieza a descargarse y a responder. No tiene interfaz gráfica propia (aunque sí una web básica y decenas de GUIs de la comunidad), y eso es precisamente lo que muchos programadores agradecen.
Lo verdaderamente potente de Ollama es su API compatible con OpenAI. Con un cambio de URL en tu cliente favorito puedes apuntar a http://localhost:11434 y tener un "ChatGPT privado" que funciona con casi cualquier herramienta que hable el protocolo de OpenAI. Además, gestiona modelos, contexto y rendimiento con comandos sencillos, e integra Hugging Face y modelos de su propia biblioteca con un catálogo enorme.
Puntos fuertes: ligero, rápido de arrancar, API estándar, comunidad gigante, ideal para automatizar y meter en scripts.
Puntos débiles: sin GUI nativa se puede intimidar a usuarios menos técnicos; la gestión de memoria en sesiones muy largas ha sido criticada en versiones pasadas.
LM Studio: la experiencia de escritorio pulida
LM Studio apuesta justo por lo contrario: una aplicación de escritorio con todo el lujo. Tiene un buscador de modelos integrado (conectado a Hugging Face), un chat visual, ajustes de rendimiento por modelo y un servidor local que también expone una API compatible con OpenAI. Puedes alternar entre tu GPU y CPU, configurar cuánta memoria GPU usar y ver en tiempo real cuántos tokens por segundo genera tu equipo.
Es, probablemente, el punto de entrada más cómodo para alguien que se acerca a los LLM locales sin saber lo que es un tensor. Descarga un modelo con dos clics, chateas, y si quieres usarlo desde tu propio código activas el servidor. Es gratis tanto para uso doméstico como profesional, algo que suele sorprender.
Puntos fuertes: interfaz cuidada, curva de aprendizaje casi nula, servidor local integrado, excelente para principiantes y para equipos con GPU integrada o Apple Silicon.
Puntos débiles: algo más pesado que Ollama; la personalización avanzada queda algo escondida tras la interfaz amigable.
Jan: el alternativo abierto y centrado en privacidad
Jan se presenta como una alternativa de código abierto a ChatGPT. Su diferenciador es la privacidad por diseño: puedes correr modelos 100% locales o, si quieres, conectar a la nube (GPT, Claude u otros) mediante tu propia API key, pero tú decides. La interfaz recuerda a las de los asistentes comerciales, con conversaciones, modelos organizados y un gestor de descargas.
Jan destaca por funcionar bien en hardware muy modesto y por su enfoque en transparencia: todo el código es auditable. Es una buena opción si te importa saber exactamente qué está haciendo el software con tus datos y prefieres una experiencia tipo "app de chat" sin tocar la terminal.
Puntos fuertes: open source de verdad, privacidad configurable, interfaz tipo ChatGPT, ligero en equipos humildes.
Puntos débiles: catálogo y pulido de características algo por detrás de LM Studio; rendimiento percibido similar al resto pero con menos opciones de ajuste fino.
GPT4All: el veterano accesible
GPT4All, de la empresa Nomic, fue uno de los primeros en poner LLM locales al alcance de cualquiera con un instalador sencillo. Su aplicación de escritorio tiene un catálogo curado de modelos probados que "simplemente funcionan" en portátiles corrientes, sin necesidad de GPU. Es de código abierto y está pensado para que cualquier persona, incluso sin conocimientos técnicos, pueda descargar un asistente y empezar a hablar con él.
No requiere GPU ni llamadas a APIs externas: basta con descargar la aplicación y elegir un modelo. Eso lo convierte en la opción más democrática del grupo, aunque sus modelos suelen ser más pequeños y, por tanto, menos capaces que los que puedes cargar en LM Studio u Ollama.
Puntos fuertes: instalación trivial, funciona en CPU pura, catálogo curado, muy amigable.
Puntos débiles: modelos más limitados en capacidad; menos flexible para integraciones avanzadas y automatización.
Tabla comparativa rápida
| Ejecutor | Interfaz | Mejor para | Requiere GPU | API local | Código abierto |
|---|---|---|---|---|---|
| Ollama | Solo terminal/CLI | Desarrolladores y automatización | Recomendada | Sí (OpenAI-compatible) | Sí |
| LM Studio | App de escritorio | Principiantes y uso general | Opcional | Sí (OpenAI-compatible) | No (app gratis) |
| Jan | App de escritorio | Privacidad y transparencia | Opcional | Sí | Sí |
| GPT4All | App de escritorio | Equipos sin GPU | No | Limitada | Sí |
¿Cuál elijo?
No hay un ganador universal, depende de para qué lo quieres:
- Si programas o quieres integrar el modelo en tus propias herramientas, Ollama es el camino más directo. Su API y su ecosistema de scripts lo hacen imbatible para automatizar.
- Si acabas de llegar y quieres algo que funcione al primer clic, LM Studio ofrece la experiencia más pulida y te deja crecer hacia el servidor local cuando lo necesites.
- Si la privacidad y el código abierto son tu prioridad, Jan es la opción más coherente, con la tranquilidad de saber qué hace el software.
- Si tu equipo es un portátil antiguo sin gráfica dedicada, GPT4All es el que mejor te tratará sin complicaciones.
Mi recomendación personal: empieza por LM Studio para familiarizarte, y cuando quieras dar el salto a la automatización instala Ollama en paralelo. Los dos conviven sin problemas en el mismo equipo y cubren prácticamente cualquier caso de uso, desde charlar en offline hasta montar tu propio asistente de código.
Un consejo sobre el hardware
El cuello de botella casi siempre es la memoria de la gráfica (VRAM). Un modelo de 7.000 millones de parámetros en 4-bit cabe holgadamente en 4-6 GB, así que una GTX 1050 o una integrada reciente pueden con él a velocidades aceptables. Modelos de 13B o 70B ya exigen GPUs serias o caer a CPU, donde la velocidad cae pero sigue siendo usable para tareas no interactivas. La cuantización es tu amiga: un modelo cuantizado a 4-bit pierde algo de calidad pero multiplica por varias la velocidad y reduce drásticamente el requisito de memoria.
En resumen, correr LLM en local ya no es ciencia ficción ni requiere una granja de servidores. Con cualquiera de estas cuatro herramientas tienes un asistente privado, gratuito y siempre disponible, incluso cuando se corta internet. Elige según tu perfil y empieza a experimentar: la mejor forma de entender estos modelos es conversar con ellos en tu propia máquina.