Small Language Models: por qué el futuro de la IA también cabe en tu móvil

OPINIÓN & FUTURO · IA EN EL BOLSILLO

En las próximas líneas vamos a ver qué son exactamente estos modelos “small”, por qué los grandes jugadores de la industria están apostando fuerte por ellos, en qué casos tiene sentido usarlos y qué modelos concretos merece la pena vigilar en 2025 si estás construyendo productos o herramientas con IA.

1. Qué es realmente un Small Language Model (y qué no)

Un Small Language Model es, en esencia, un modelo de lenguaje generativo como los que ya conoces, pero diseñado para ser mucho más compacto: menos parámetros, menos memoria, menos consumo y, normalmente, un ámbito de uso más acotado. Sigue entendiendo y generando texto, puede resumir, razonar o escribir código, pero sin necesitar granjas de GPU para funcionar.

Mientras que un LLM “clásico” puede tener cientos de miles de millones de parámetros, los SLMs suelen moverse en el rango de los cientos de millones a los pocos miles de millones. Esa diferencia de escala lo cambia todo: de repente puedes ejecutar el modelo en un portátil, en un mini-PC, en un móvil de gama alta o en un dispositivo industrial edge, sin depender constantemente de la nube.

¿Qué se gana al irse “a lo pequeño”? Tres cosas muy claras:

• Menor consumo de cómputo y energía: menos parámetros implican menos operaciones y menos vatios.
• Latencia muchísimo menor: al procesar directamente en el dispositivo desaparece el viaje continuo a la nube.
• Privacidad por diseño: los datos sensibles (mensajes, audio, documentos internos) no tienen por qué salir del dispositivo.

La contrapartida es que estos modelos son menos “todoterreno” que los gigantes generalistas: están pensados para tareas concretas, dominios específicos o como primera capa de inteligencia local que se coordina con modelos más grandes en la nube cuando hace falta.

2. Por qué todo el mundo quiere meter IA dentro del móvil

En paralelo a la carrera por construir el modelo más grande, se ha desatado otra igual de interesante: la de meter modelos útiles directamente en el dispositivo. Android integra modelos en el propio sistema, los navegadores empiezan a llevar IA dentro, Apple habla de “Apple Intelligence” como algo híbrido entre local y nube… y esto no va de marketing, va de incentivos muy claros.

• Latencia y experiencia: un modelo local responde en milisegundos, sin depender de la cobertura ni de la calidad de la red.
• Privacidad y regulación: procesar en el dispositivo ayuda a cumplir con normativas de datos sensibles (salud, finanzas, educación) sin montar infraestructuras gigantes.
• Costes de infraestructura: cada llamada que no va a la nube es menos factura de GPU y menos presión sobre los centros de datos.
• Sostenibilidad: SLMs más eficientes pueden reducir parte de la huella energética asociada a la IA generativa cuando despliegas a gran escala.

En el fondo, meter IA en el móvil es coherente con algo que ya tenemos asumido: la mayor parte del cómputo del día a día ya vive en el dispositivo (fotos, vídeo, juegos, apps). La IA solo estaba atrasada porque sus modelos eran demasiado grandes. Los SLMs corrigen justo eso.

3. SLMs vs LLMs gigantes: no es David contra Goliat, es quién hace qué

Los LLMs gigantes siguen siendo mejores en tareas muy abiertas: investigación compleja, razonamiento de varios pasos, programación avanzada, mezcla de dominios, etc. Los SLMs brillan cuando el problema está bien acotado: resumir notas, clasificar texto, generar respuestas dentro de un marco concreto, entender comandos de voz, moderar contenido o personalizar la experiencia de un usuario.

En muchos productos acabaremos viendo arquitecturas híbridas: un modelo pequeño en tu dispositivo que entiende el contexto local, filtra, resume y decide cuándo merece la pena “subir la apuesta” y llamar a un modelo grande en la nube. Esto encaja muy bien con la lógica de coste, privacidad y latencia que ya estás viendo en debates sobre IA responsable y en regulaciones como el EU AI Act, que analizas desde el lado de negocio en artículos como el impacto del AI Act en pymes y autónomos.

4. Casos de uso donde los SLMs tienen todo el sentido (y donde no)

4.1. Asistentes personales que viven realmente en tu dispositivo

Ya hay móviles que resumen tus llamadas, generan notas a partir de grabaciones, reescriben mensajes o describen imágenes para personas con baja visión usando modelos que corren localmente. En Android, por ejemplo, un modelo compacto es capaz de resumir grabaciones largas o mejorar descripciones de imágenes sin salir del teléfono, y se expone a las apps a través de APIs específicas para IA generativa en modo offline.

Lo mismo está ocurriendo con la seguridad: navegadores que usan un modelo pequeño integrado para detectar webs sospechosas en tiempo real, directamente en tu máquina, sin mandar cada URL al servidor central. Esa lógica de “IA como firewall local” va a extenderse a correos, mensajería y mucho más.

4.2. Datos muy sensibles: salud, finanzas, mundo laboral

Si tratas datos clínicos, financieros o internos de una empresa, mandar todo a la nube no siempre es una opción. Aquí un SLM que corre en la intranet, en el portátil corporativo o incluso en dispositivos especializados (como wearables médicos o equipos de diagnóstico) te da una combinación muy poderosa de inteligencia y control sobre el dato.

Es el mismo razonamiento que hay detrás de movimientos como Private AI Compute de Google: cuanto más puedas procesar en el propio dispositivo (o al menos en tu infraestructura), menos expones los datos y más fácil es demostrar cumplimiento regulatorio.

4.3. Edge industrial y “IA en todas partes”

Cámaras con IA que entienden texto o señales en una fábrica, sensores en campo que describen incidencias, robots colaborativos que entienden instrucciones en lenguaje natural… Aquí no puedes permitirte mandar cada frame de vídeo o cada evento a la nube. Un SLM embebido cerca del dato (en un gateway, en el robot, en el propio dispositivo) puede filtrar y tomar primeras decisiones, y solo escalar a la nube cuando hace falta análisis más profundo.

4.4. ¿Dónde no usaría yo un SLM como cerebro principal?

Hay escenarios donde, al menos hoy, un SLM se queda corto si lo usas solo:

• Investigación compleja con muchas fuentes, pasos de razonamiento y mezcla de dominios.
• Programación avanzada de sistemas complejos, arquitecturas enteras, grandes bases de código.
• Aplicaciones donde necesitas máxima cobertura de conocimiento general (por ejemplo, un asistente que conteste de “casi cualquier tema”).

En estos casos tiene más sentido usar un modelo grande en la nube o combinar un SLM con acceso a herramientas (RAG, bases de conocimiento, otros servicios) para compensar sus límites.

5. Modelos a tener en el radar en 2025

Vamos a lo práctico: si en 2025 quieres experimentar o construir con Small Language Models, ¿qué familias merece la pena mirar? No es una lista exhaustiva, pero sí un buen mapa inicial.

5.1. Phi-3 y sucesores: la apuesta de Microsoft por ir pequeño y potente

La familia Phi-3 se ha convertido en uno de los referentes de SLMs: modelos de pocos miles de millones de parámetros que, gracias a una selección muy cuidada de datos y técnicas de entrenamiento, alcanzan rendimientos cercanos a modelos bastante más grandes en benchmarks de lenguaje, razonamiento y código. El caso emblemático es phi-3-mini, con unos 3,8 B parámetros, pensado explícitamente para poder desplegarse en móviles o dispositivos con recursos limitados.

Si construyes productos donde el coste por consulta importa mucho (SaaS, herramientas internas con muchos usuarios, apps móviles), tener un modelo así como opción “por defecto” y subir a algo mayor solo cuando haga falta tiene bastante sentido.

5.2. Gemma: los “hermanos pequeños” de Gemini

Gemma es la familia de modelos ligeros de Google, construidos con la misma tecnología base que Gemini pero con pesos abiertos y tamaños pensados para correr en hardware propio o en servicios gestionados. Hay variantes de pocos miles de millones de parámetros que se pueden ejecutar en GPUs modestas, en servidores pequeños e incluso en dispositivos potentes, y están orientadas a tareas clásicas de texto: QA, resumen, razonamiento ligero.

Para desarrolladores que ya están en ecosistemas de Google (Vertex AI, Android, etc.), Gemma ofrece un buen equilibrio entre calidad, apertura y facilidad de despliegue.

5.3. Gemini Nano: IA integrada en Android y más allá

Gemini Nano es, por simplificar, el “motor de IA local” de Android: un modelo compacto que corre dentro del sistema (AI Core) y que permite a las apps usar capacidades generativas como resumen, reescritura o comprensión multimodal sin conexión. También se está usando para seguridad en Chrome, detectando webs maliciosas en tiempo real directamente en el navegador.

No es un modelo que descargues tú directamente, pero sí un buen ejemplo de por dónde van a ir muchos sistemas operativos: exponer un SLM del sistema a las apps, igual que hoy exponen la cámara o el GPS.

5.4. OpenELM y Apple Intelligence: la vía “local-first” de Apple

Apple ha publicado OpenELM, una familia de modelos eficientes con tamaños que van desde unos 270 M hasta 3 B parámetros, pensados explícitamente para correr en iPhone, iPad y Mac. Además, los modelos de “Apple Intelligence” que llegan a sus dispositivos combinan modelos locales con llamadas a la nube cuando es imprescindible, priorizando que las tareas del día a día (reescribir texto, resumir notificaciones, ayudar en apps) se resuelvan en el dispositivo siempre que se pueda.

Si estás en el ecosistema Apple y quieres experimentar, OpenELM es una puerta de entrada a modelos realmente pequeños y abiertos, útiles para RAG ligero, asistentes de escritura o herramientas internas.

5.5. Mistral, Ministral y la ola open source para el edge

Mistral 7B fue uno de los primeros modelos relativamente pequeños en ofrecer un rendimiento muy competitivo con licencia abierta. Sobre esa base, la compañía ha lanzado modelos específicamente pensados para edge, como Ministral 3B y Ministral 8B, orientados a correr en portátiles, dispositivos embebidos y robots con recursos limitados.

Si quieres máxima flexibilidad para desplegar en tu propia infraestructura o en dispositivos edge con GPUs modestas, la combinación Mistral/Ministral + herramientas como Ollama, TFLite o runtimes específicos de hardware es una de las opciones más interesantes.

5.6. Llama 3 “mid-size” y compañía

Aunque modelos como Llama 3 de 8B parámetros se salen un poco de la etiqueta “small”, están empezando a correr de forma razonable en portátiles potentes y en algunos dispositivos con aceleradores especializados, sobre todo con técnicas de cuantización agresiva y runtimes optimizados. Apple, por ejemplo, ha mostrado cómo llevar un modelo de este tamaño a tiempo casi real en chips M-series usando Core ML, y frameworks como ExecuTorch o runtimes de Qualcomm están empujando en esa misma dirección.

Los verás más como “capa potente” en el borde (PC, consola, servidor pequeño) que como modelo puro de móvil, pero encajan muy bien en arquitecturas donde no quieres depender siempre de la nube.

Si quieres una visión más amplia de cómo elegir modelos abiertos en general (no solo pequeños), te encaja muy bien con esto la guía práctica sobre cómo elegir modelos open source de IA en 2025.

6. Cómo diseñar productos con SLMs: patrones que funcionan

Poner un modelo pequeño en el móvil es la parte fácil. Lo difícil es diseñar la coreografía entre ese modelo local, tu backend, tus datos y, si hace falta, un LLM grande en la nube. Algunas ideas que están funcionando bien:

• SLM como filtro y orquestador: el modelo local entiende la intención del usuario, limpia el input, decide si puede resolverlo él mismo o si hay que llamar a la nube, y empaqueta la petición de forma eficiente.
• Datos sensibles local, datos genéricos en la nube: el SLM procesa y anonimiza información delicada (nombres, identificadores, detalles de salud…), y solo sube un resumen o representación abstracta para tareas que requieren modelos grandes.
• SLM + RAG ligero en el dispositivo: para muchos casos de uso corporativos, un pequeño índice local (documentos recientes, notas, tickets) combinado con un SLM da una experiencia de “segunda mente” sin tocar el servidor.

Esto encaja muy bien con la idea de asistentes personales y “segundas mentes digitales” que ya estás explorando en artículos como cómo montar una segunda mente digital con IA, solo que llevada un paso más allá: no depender solo de un servicio en la nube, sino tener una parte importante de esa inteligencia instalada físicamente en tus dispositivos.

7. Checklist rápida para elegir un SLM en 2025

Si mañana te sientas a elegir un modelo pequeño para tu producto, estas son las preguntas que yo me haría:

Si te interesa profundizar en ese proceso de decisión, puedes cruzar este checklist con las ideas de negocio que comentas en cómo la IA cambia la productividad en PCs y dispositivos y con la parte más técnica de automatizar datos con IA en Excel y Sheets: al final, un SLM no deja de ser otra pieza más de ese sistema de automatización.

8. El futuro cercano: menos humo, más IA silenciosa y local

Si tuviera que resumir hacia dónde vamos, diría algo así: la IA espectáculo (demos impresionantes en la nube, modelos gigantes) va a convivir con una IA silenciosa que trabaja en segundo plano, en tus dispositivos, sin que pienses demasiado en ella. Esa IA silenciosa estará, casi siempre, alimentada por Small Language Models.

En 3–5 años, es bastante razonable imaginar:

• Móviles que traen de serie varios SLMs especializados: uno para notificaciones, otro para escritura, otro para accesibilidad, otro para seguridad.
• Portátiles y PCs con “copilotos” locales que entienden tus archivos sin subirlos, combinados con modelos grandes en la nube para tareas puntuales.
• Dispositivos edge (cámaras, sensores, robots) que toman decisiones en tiempo real con modelos pequeños embebidos, y solo suben resúmenes o eventos importantes.

Para ti, como usuario, la consecuencia es simple: usarás IA constantemente sin darte cuenta, y una parte importante de esa inteligencia vivirá literalmente en el hardware que tienes delante. Para ti, como profesional o como empresa, la pregunta clave no es “¿debo usar IA?”, sino “¿qué parte de mi problema puedo resolver con modelos pequeños, cerca del dato, sin disparar costes ni ceder más privacidad de la necesaria?”.

El futuro de la IA cabe en tu móvil, sí. La diferencia entre que sea un truco llamativo o una ventaja competitiva real dependerá de cómo diseñes, combines y gobiernes esos Small Language Models a partir de hoy.