Cómo ejecutar un modelo de IA local en tu celular y por qué vale la pena

La inteligencia artificial generativa ya no requiere conexión a servidores remotos ni planes de pago mensuales. Ejecutar un modelo de lenguaje grande (LLM) directamente en un teléfono inteligente es hoy una opción viable gracias al avance del hardware móvil y a aplicaciones especializadas que permiten descargar y correr estos modelos de forma completamente local.

Entre las ventajas más destacadas se encuentran la privacidad de los datos —ninguna consulta sale del dispositivo—, la posibilidad de usar la IA sin conexión a internet y la eliminación de costos asociados a suscripciones en servicios como ChatGPT o Claude. Los modelos más livianos, con parámetros reducidos, pueden funcionar con fluidez en teléfonos de gama media-alta con al menos 8 GB de RAM.

Aplicaciones como PocketPal, Ollama o LM Studio —algunas con versiones móviles en desarrollo— permiten cargar modelos en formatos comprimidos como GGUF, optimizados para correr con recursos limitados. Modelos como Llama 3, Phi-3 o Gemma 2 en sus versiones más pequeñas son los más recomendados para este uso.

Aunque el rendimiento no iguala al de una computadora de escritorio con GPU dedicada, la experiencia es suficientemente fluida para tareas cotidianas como redacción, resumen de textos o consultas generales. La tendencia apunta a que la IA local en dispositivos móviles se vuelva cada vez más común a medida que el hardware continúa mejorando.