Modelos de IA open source: los más descargados y la prueba de su equipo

Open source o «pesos abiertos»: un matiz importante

A menudo se habla de «modelos open source» para referirse a los modelos de IA que se pueden descargar y ejecutar uno mismo. La expresión es práctica pero imprecisa. Un modelo open source en sentido estricto publica sus pesos, su código y, idealmente, información sobre sus datos de entrenamiento, con una licencia que permite usarlo, modificarlo y redistribuirlo, incluso con fines comerciales. Muchos modelos son en realidad de pesos abiertos (open weights): sus parámetros se pueden descargar, pero la licencia puede restringir ciertos usos, fijar condiciones para las grandes empresas o prohibir usar las respuestas para entrenar otro modelo.

La columna «licencia» de la tabla de arriba recoge la licencia declarada en Hugging Face, la plataforma de referencia para compartir estos modelos. Antes de cualquier uso profesional, lea la licencia completa de cada modelo: es ella la que cuenta, no la etiqueta «open source».

Cómo leer la tabla

La tabla muestra los modelos de generación de texto más descargados en el Hugging Face Hub, con su licencia, su tamaño en parámetros, sus descargas y sus «me gusta». Las descargas reflejan el uso real; los «me gusta», el interés de la comunidad. Un modelo muy descargado no es necesariamente el mejor para su tarea: contrástelo con las puntuaciones del ranking de IA y con las fichas de modelos.

¿Qué es un parámetro?

Un parámetro es un número que se ajusta durante el entrenamiento del modelo. En conjunto, estos números codifican lo que el modelo ha aprendido. El tamaño de un modelo se expresa en miles de millones de parámetros, de ahí la «B» (billion en inglés) en nombres como «8B». Cuantos más parámetros tiene, más capaz suele ser, pero más memoria y potencia de cálculo necesita.

La cuantización, explicada de forma sencilla

Cada parámetro se almacena con cierta precisión. Con 16 bits ocupa 2 bytes; con 8 bits, 1 byte; con 4 bits, medio byte. La cuantización consiste en reducir esa precisión para aligerar el modelo, un poco como al comprimir una foto: el archivo pesa mucho menos, a cambio de una pérdida de calidad a menudo discreta con 8 bits y más perceptible con 4 bits, según el modelo y la tarea.

La fórmula de la calculadora

La calculadora «¿funciona en mi ordenador?» aplica esta fórmula:

memoria necesaria (GB) ≈ miles de millones de parámetros × bytes por parámetro × 1,2

El factor 1,2 añade un margen para lo que se suma a los pesos durante la ejecución, sobre todo el contexto de la conversación y las necesidades del propio programa. Ejemplo de cálculo: un modelo de 8 mil millones de parámetros a 4 bits necesita 8 × 0,5 bytes × 1,2 ≈ 4,8 GB.

El resultado se compara con la RAM o la VRAM que usted indique. Verde: la memoria basta. Naranja: va justo, y el modelo puede ir lento o limitado. Rojo: la memoria no alcanza; pruebe una cuantización mayor o un modelo más pequeño.

¿RAM o VRAM?

La RAM es la memoria del ordenador; la VRAM es la memoria de la tarjeta gráfica. Un modelo cargado en VRAM funciona mucho más rápido, porque las tarjetas gráficas destacan en los cálculos en paralelo que necesitan los modelos. Sin suficiente VRAM, un modelo puede funcionar en el procesador con la RAM, o repartirse entre ambas, pero la generación se ralentiza. En los equipos con memoria unificada, como algunos Mac recientes, el procesador y el chip gráfico comparten la misma memoria: indique la memoria total y reserve una parte para el sistema.

Herramientas para ejecutar un modelo en local

• Ollama: una herramienta que descarga y ejecuta un modelo con un solo comando.
• LM Studio: una aplicación con interfaz gráfica, práctica para buscar un modelo, elegir su cuantización y conversar sin usar la terminal.
• llama.cpp: el motor open source en el que se basan muchas herramientas, para quienes quieren ajustar a fondo el rendimiento.

Ventajas y límites

La principal ventaja es la privacidad: sus textos no salen de su equipo, algo importante con documentos personales o profesionales. Además, no hay facturación por token y se puede trabajar sin conexión. Los límites son reales: los modelos que caben en un ordenador personal suelen rendir por debajo de los grandes modelos en línea, la velocidad depende de su hardware, y las actualizaciones, la seguridad y el consumo eléctrico corren de su cuenta.

Para comparar con un modelo en línea, utilice la calculadora de coste de un agente. Para crear su propio agente con un modelo local, consulte el itinerario Construir y la página de frameworks de agentes.