Intermedio

Modelo de lenguaje pequeño (SLM): la IA que cabe en su equipo

Un modelo de lenguaje pequeño (Small Language Model, SLM) es un modelo de texto mucho más compacto que los grandes modelos de los asistentes en línea. A menudo puede funcionar directamente en un ordenador, un móvil o un servidor modesto, a cambio de menos conocimientos y un razonamiento complejo más limitado.

Datos a 22 de octubre de 2026

Lo esencial en cifras

NivelIntermedio

Pequeño, pero ¿para qué?

Los grandes modelos de lenguaje de los asistentes populares funcionan en enormes centros de datos. Un modelo de lenguaje pequeño hace la apuesta contraria: menos parámetros, y por tanto menos memoria y cálculo, para poder funcionar donde usted esté, en un portátil, un móvil o un pequeño servidor de empresa.

No hay una definición oficial basada en el número de parámetros. El término es relativo: lo que hoy se considera «pequeño» se habría considerado grande hace pocos años.

Un ejemplo concreto: la familia Phi-3

En abril de 2024, Microsoft presentó Phi-3, una familia de modelos pequeños. El más compacto, Phi-3-mini, tiene 3.800 millones de parámetros. Microsoft destacaba usos concretos: funcionar en el dispositivo sin conexión, mantener los datos en las propias instalaciones, responder rápido sin ida y vuelta a la nube o dar servicio en zonas con mala cobertura de internet.

Piense en una consulta médica que quiere resumir automáticamente las notas de sus visitas: un SLM instalado en un equipo interno evita enviar esos textos sensibles a un servicio externo. Encontrará modelos compactos de pesos abiertos en nuestra página de modelos open source.

Por qué importa

  • Coste: menos cálculo por respuesta, es decir, una factura menor o un equipo más modesto.
  • Privacidad: si se ejecuta en local, el modelo no transmite sus datos.
  • Velocidad: sin colas ni viajes por la red, la latencia se reduce.
  • Especialización: un modelo pequeño ajustado para una tarea precisa (clasificar correos, extraer campos) puede bastar de sobra.

Los modelos pequeños suelen obtenerse por destilación de un modelo mayor y aligerarse después mediante cuantización para ocupar menos memoria.

Errores e ideas equivocadas frecuentes

  • «Pequeño significa malo.» En tareas concretas, un SLM bien elegido puede ser perfectamente suficiente. Sus límites aparecen en el razonamiento largo y los conocimientos especializados.
  • «Funciona en cualquier dispositivo.» Incluso un modelo pequeño necesita memoria suficiente; consulte la configuración recomendada.
  • «Local significa sin riesgos.» Puede equivocarse o inventar igualmente: las alucinaciones no desaparecen con el tamaño.
  • «Hay que elegir entre pequeño y grande.» Muchos sistemas combinan ambos: el pequeño atiende las peticiones sencillas y el grande, los casos difíciles.

Términos relacionados

Para probar

Todo el glosario

Preguntas frecuentes

¿A partir de qué tamaño un modelo es «pequeño»?

No existe un umbral oficial. El término designa modelos claramente más compactos que los mayores del momento, así que la frontera se desplaza con el tiempo. En abril de 2024, por ejemplo, Microsoft presentó Phi-3-mini, con 3.800 millones de parámetros, como un modelo de lenguaje pequeño.

¿Se puede usar un SLM sin conexión a internet?

Sí, es una de sus principales ventajas. Una vez descargado el modelo, los programas de ejecución local permiten usarlo sin conexión en un equipo con memoria suficiente. Sus textos no salen de su ordenador.

¿Un SLM sustituye a ChatGPT o Claude?

No para todo. La propia Microsoft señala que estos modelos convienen a tareas sencillas y concretas, pero menos a la búsqueda profunda de conocimientos o al razonamiento complejo en varios pasos. Muchos equipos combinan modelos pequeños y grandes según la tarea.

¿Cómo se consigue un buen modelo pequeño?

Las palancas más citadas son unos datos de entrenamiento muy cuidados, la destilación a partir de un modelo grande y un entrenamiento centrado en las tareas previstas. Después, la cuantización reduce aún más la memoria necesaria para ejecutarlo.

Fuentes de los datos

Datos a 22 de octubre de 2026

Señalar un error

¿Una cifra, una fecha o un dato le parece incorrecto? Díganoslo: verificamos cada aviso.