Cómo ejecutar un modelo de lenguaje local grande en tu teléfono: y por qué podrías querer hacerlo

Descubre cómo ejecutar un modelo de lenguaje a gran escala (LLM, por sus siglas en inglés) localmente en tu teléfono móvil y qué beneficios obtendrás de esta experiencia.

Las cosas más importantes que necesitas saber

  • Ejecutar modelos de lenguaje complejos localmente en tu teléfono proporciona total privacidad y acceso sin conexión, lo que reduce la dependencia de los servicios en la nube.
  • Para ejecutar modelos LLM de forma eficiente localmente, su teléfono requiere al menos 6 GB de RAM, preferiblemente 8 GB o más para modelos más grandes, siendo los modelos de 1 a 2 mil millones de parámetros la mejor opción para teléfonos con menos memoria.
  • Se pueden utilizar aplicaciones como Atomic Chat o PocketPal AI para ejecutar modelos de lenguaje pequeños (SLM, por sus siglas en inglés), como Gemma, Llama o Phi-4, centrándose en modelos con menos parámetros para lograr una mejor compatibilidad y rendimiento en el teléfono.

Actualmente existen modelos de lenguaje a gran escala (LLM, por sus siglas en inglés) que son lo suficientemente gratuitos como para que ejecutarlos localmente en un ordenador sea algo habitual, e incluso en algunos aspectos una mejor idea: son más privados, ya que no es necesario enviar nada a la nube, y funcionan sin conexión.

Ejecutar estos modelos avanzados de IA en teléfonos no siempre fue fácil (por eso las funciones más avanzadas de IA de Siri requieren uno de los últimos iPhones), pero ahora hemos llegado a un punto en el que la mayoría de los teléfonos móviles son lo suficientemente potentes, y algunos modelos son lo suficientemente pequeños y eficientes, como para que sea prácticamente posible. Puedes consultar nuestro artículo sobre cómo ejecutar un modelo de IA local en un iPhone para obtener más detalles.

Cómo ejecutar un modelo de lenguaje local grande en tu teléfono: y por qué podrías querer hacerlo

Las ventajas son similares a las de un ordenador de sobremesa: dispones de un modelo de lenguaje propio, amplio, siempre disponible y privado, sin necesidad de enviar datos a Google, OpenAI, Anthropic ni a ningún otro tercero. Las desventajas son un rendimiento más lento y limitado de la IA, ya que se trabaja con modelos más pequeños y menos potentes, y una posible disminución de la duración de la batería (estas conversaciones con IA pueden consumir muchos recursos).

Incluso con estas concesiones, la IA nativa que podrás ejecutar en tu teléfono seguirá siendo capaz de realizar tareas y conversaciones cotidianas con gran eficiencia, lo que significa que podrás dejar de usar Gemini o Siri (y posiblemente tus otras suscripciones de IA).

El teléfono que necesitas para ejecutar un modelo de lenguaje local a gran escala (LLM)

Cualquier iPhone o teléfono Android lanzado en los últimos dos años debería poder ejecutar un Modelo de Lenguaje Local a Gran Escala (LLM) sin problemas; el auge de la inteligencia artificial ha impulsado a los fabricantes a diseñar sus dispositivos teniendo en cuenta este tipo de uso. Los teléfonos más antiguos también pueden funcionar, pero es posible que necesites modelos más pequeños y experimentes un rendimiento inferior.

La memoria RAM es, de hecho, un factor más importante que el rendimiento del procesador (chipset) a la hora de ejecutar un modelo de IA. Necesitarás 6 GB o más para un rendimiento satisfactorio, y 8 GB o más es mejor para modelos más grandes. Si tu RAM es inferior a 8 GB, opta por modelos con entre 1 y 2 mil millones de parámetros (B), donde B significa mil millones y describe la cantidad de parámetros del modelo (lo que refleja su inteligencia y versatilidad).

Google Píxel 11 Pro
Teléfonos como el Pixel 11 Pro vienen con modelos de IA integrados, pero no están directamente disponibles para el usuario.

En cuanto al espacio de almacenamiento, no hay de qué preocuparse. Incluso los modelos más grandes, que utilizan entre 7 y 8 mil millones de parámetros, no ocuparán más de 5 GB en tu teléfono, así que puedes guardar varios modelos de IA en tu dispositivo e ir alternando entre ellos según sea necesario.

Si compras hoy un iPhone o un teléfono Android de gama alta, vendrá con modelos de IA nativos preinstalados para realizar tareas rápidas sin conexión a internet. Sin embargo, estos modelos, creados por Apple y Google, no están disponibles directamente para el usuario; se utilizan cuando Siri AI y Gemini los consideran la mejor opción.

Aplicaciones y modelos necesarios para ejecutar un modelo de lenguaje local a gran escala (LLM)

Existen varias aplicaciones que permiten ejecutar modelos de IA en tu teléfono. Entre las más populares se encuentran Atomic Chat ( para Android e iOS ) y PocketPal AI ( para Android e iOS ). Si bien presentan algunas diferencias, como por ejemplo, Atomic Chat facilita la integración de modelos LLM en ordenadores de escritorio, mientras que PocketPal AI es ligeramente más ligera, ambas son excelentes para iniciarse en la IA nativa en el móvil.

En cuanto a los modelos en sí —a veces llamados SLM o Modelos de Lenguaje Pequeños porque están diseñados para funcionar en entornos limitados— también hay muchas opciones. Por ejemplo, Gemma es el término general para los modelos de código abierto que Google ofrece gratuitamente, y algunos de ellos están diseñados específicamente para funcionar en espacios reducidos y con menos recursos (como tu teléfono).

Aplicación PocketPal con IA
La IA de PocketPal te guiará hacia el modelo local adecuado para tus necesidades.

Meta cuenta con sus propios modelos de IA de código abierto llamados Llama, mientras que Microsoft tiene los modelos Phi-4, que también gozan de una excelente reputación por su eficiencia. Simplemente busca las versiones con la menor cantidad de parámetros antes de la letra "B" (o aquellas que incluyan la palabra "mini" en su nombre) para encontrar los paquetes que mejor se adapten a tu teléfono.

Actualmente, estos pequeños modelos de lenguaje (SLM, por sus siglas en inglés) se basan principalmente en texto, aunque algunos modelos más recientes, grandes y avanzados pueden analizar imágenes y archivos. Si desea crear imágenes y vídeos, tendrá que utilizar modelos de IA tradicionales basados ​​en la nube, al menos hasta que se produzca el próximo avance tecnológico.

Experimentando con un modelo de lenguaje local a gran escala (LLM) en tu teléfono

Para comprobar la utilidad de uno de estos modelos de IA nativos en un teléfono, instalé PocketPal AI y uno de los modelos Gemma de Google en mi Pixel 9 Pro, que si bien ya no es un teléfono de gama alta, tampoco es demasiado antiguo. Me impresionó el sencillo asistente de selección que activa PocketPal AI, que te guía directamente hacia el modelo de IA más adecuado para tu teléfono.

Una vez descargadas e instaladas algunas plantillas, era fácil cargarlas y empezar a usarlas. PocketPal AI también ofrece acceso a "compañeros" opcionales (de ahí el nombre de la aplicación) que pueden personalizar las plantillas de IA para tu uso; la opción predeterminada Pip parece una alternativa adecuada a lo que podrías estar acostumbrado con aplicaciones de IA estándar como Gemini o Siri . Las funciones de guía y seguimiento funcionan a la perfección, y tu historial de chat se guarda por defecto.

Aplicación PocketPal con IA
Estos modelos de lenguaje grandes más pequeños (LLM, por sus siglas en inglés) son los más adecuados para respuestas rápidas y solicitudes de información.

Se observa una lentitud notable (y esperada) en las respuestas al ejecutar modelos LLM en el teléfono, y una clara diferencia en el tamaño de los modelos de IA: elegir un modelo más pequeño proporcionará respuestas mucho más rápidas, aunque no sean tan inteligentes ni completas. Vale la pena experimentar con varios modelos para encontrar el equilibrio óptimo entre rendimiento y velocidad que mejor se adapte a tus necesidades.

Dada la falta de capacidades de búsqueda web o de información actualizada, esta opción es ideal para generar ideas, analizar y perfeccionar textos existentes, crear otros nuevos, recopilar información rápidamente o hacer comparaciones (por ejemplo, «Sugiere una película similar a…»). Como siempre, hay que tener cuidado con las «alucinaciones» que pueden producir estos modelos, y nunca se debe garantizar la exactitud de la información proporcionada por la IA.

Los comentarios están cerrados.