¿Modelos de código abierto o cerrados para sus agentes?

Elija un modelo abierto si necesita controlar dónde se aloja, conservar sus archivos o adaptar su funcionamiento, y dispone de los recursos necesarios para operarlo. Un modelo cerrado accesible mediante API resulta adecuado si prefiere que un proveedor gestione la infraestructura, siempre que sus condiciones de tratamiento de datos sean aceptables. Para un agente, compare sobre todo el éxito en las tareas, el costo total y los permisos necesarios. Para el mismo dilema en el software del agente, vea agente de IA de código abierto o propietario; para un editor que mezcla ambos, vea Mistral AI.

LLM de código abierto: distinguir la apertura del acceso a los pesos

La expresión LLM de código abierto abarca situaciones distintas. Un modelo puede ofrecer sus archivos para descargar sin publicar el código de entrenamiento ni permitir todos los usos. Los pesos abiertos dan acceso a los parámetros aprendidos; no garantizan una licencia libre ni la posibilidad de reproducir el entrenamiento.

La definición de IA de código abierto de la Open Source Initiative exige libertad para utilizar, estudiar, modificar y compartir el sistema. También requiere los parámetros, el código necesario e información suficientemente detallada sobre los datos de entrenamiento. Por tanto, publicar únicamente los pesos no cumple automáticamente esta definición.

Antes de elegir un modelo, examine la licencia de la versión concreta: uso comercial, modificación, redistribución, obligaciones de atribución y posibles restricciones. Compruebe por separado las condiciones del modelo, del software que lo ejecuta y del servicio que lo aloja. Una interfaz de software libre puede conectarse a un modelo cerrado; un modelo abierto puede ofrecerse desde una infraestructura propietaria.

Además, abierto y local no son sinónimos. Puede contratar un servicio remoto que ejecute pesos abiertos. A la inversa, descargar un modelo no significa que su equipo pueda ejecutarlo en condiciones aceptables. Las fichas de modelos de lenguaje permiten identificar candidatos, pero sigue siendo necesario consultar la licencia y las condiciones de uso en la fuente original.

Comparar también dónde se aloja el modelo

La elección tiene dos dimensiones: qué puede hacer con el modelo y quién se encarga de los equipos que lo ejecutan. Comparar una API cerrada con un modelo abierto alojado en su propia infraestructura mezcla esas dos decisiones. Un servicio alojado de pesos abiertos ofrece una opción intermedia.

Criterio	Modelo cerrado mediante API	Pesos abiertos en un proveedor de alojamiento	Pesos abiertos en infraestructura propia
Operación de los equipos	Proveedor	Proveedor de alojamiento	Su organización
Acceso a los parámetros	Generalmente no disponible	Disponible según la versión publicada	Disponible según la versión publicada
Recorrido de los datos	Infraestructura del proveedor	Infraestructura del proveedor de alojamiento	Infraestructura que usted configura
Adaptación de los pesos	Según la oferta	Según la oferta y la licencia	Según la licencia y sus recursos
Gastos que debe controlar	Uso y servicios asociados	Uso o capacidad reservada	Equipos, energía y operación
Continuidad	Depende del servicio	Depende del servicio y de los archivos disponibles	Depende de su capacidad para operar la infraestructura

El alojamiento gestionado no elimina sus responsabilidades: usted sigue configurando los accesos, las herramientas y las reglas del agente. El alojamiento propio le da más control sobre el despliegue, pero también le asigna la responsabilidad de mantener la disponibilidad, las actualizaciones y la supervisión.

La documentación de configuración de los puntos de conexión de Hugging Face ilustra esta diferencia: incluye opciones de hardware, autenticación, red y ajuste de capacidad. Estos parámetros describen el servicio de ejecución, con independencia del grado de apertura de los pesos.

Para preparar un despliegue en sus propios equipos, la guía de LLM en local detalla las limitaciones que debe examinar. Empiece por su carga de trabajo real: documentos largos, usuarios simultáneos y tiempos de respuesta aceptables.

Para un agente, evaluar las acciones además de la conversación

Un modelo que redacta bien puede fallar al seleccionar una herramienta, completar sus argumentos o continuar después de un error. Por eso, la calidad de las llamadas a herramientas cuenta tanto como la de las respuestas. Que el modelo sea abierto o cerrado no ofrece ninguna garantía al respecto.

Prepare un conjunto de tareas representativas de su uso. Para un agente documental, compruebe que encuentra los documentos adecuados, responde con fidelidad y evita sacar conclusiones cuando falta información. Para un agente que modifica archivos, examine tanto el resultado obtenido como los cambios no deseados.

Observe también los pasos que sigue: uso de herramientas innecesarias, bucles repetitivos, errores ignorados o aprobaciones humanas omitidas. Una tarea completada tras numerosos reintentos puede seguir siendo demasiado lenta o costosa para su actividad.

La guía de Anthropic sobre la evaluación de agentes distingue, entre otras, las comprobaciones realizadas mediante código, mediante un modelo y por una persona. Destaca la utilidad de evaluar tanto el resultado como los registros de ejecución. Este método sirve para comparar modelos abiertos y cerrados.

Los resultados del Laboratorio de benchmarks ayudan a realizar una primera selección de candidatos. El artículo Cómo interpretar las clasificaciones de modelos permite entender sus limitaciones. Para decidir, vuelva a ejecutar sus propias tareas con el modelo y la configuración que realmente piensa desplegar.

Calcular el costo por tarea completada correctamente

Que la descarga sea gratuita no significa que operar el modelo también lo sea. Si lo aloja en su propia infraestructura, tenga en cuenta la capacidad disponible, su uso efectivo, el almacenamiento, la supervisión y el tiempo dedicado a resolver incidentes. Un equipo con poca actividad genera gastos incluso cuando su agente no está trabajando.

Una API convierte parte de esas cargas en gastos vinculados al uso. Sin embargo, una tarea realizada por un agente puede multiplicar las llamadas, enviar un historial cada vez más largo y repetir pasos. Por eso, el precio anunciado por token no basta para prever la factura.

Compare las soluciones con el mismo alcance:

• las tareas completadas correctamente y aceptadas;
• las llamadas, los reintentos y los fallos que consumen recursos;
• las herramientas externas que puedan generar cargos;
• el tiempo de revisión y corrección por parte de una persona;
• la capacidad necesaria durante los periodos de mayor actividad.

El costo por tarea completada correctamente relaciona esos gastos con los resultados útiles. Un modelo más barato por llamada puede acabar costando más si necesita más intentos o correcciones. Un modelo más lento también puede impedir que se cumplan los plazos previstos.

La calculadora de precios de LLM ayuda a estimar el gasto de la API. Para el alojamiento propio, prepare un presupuesto comparable que incluya la operación. No dé por hecho que un volumen determinado siempre hace rentable la ejecución local: el umbral depende del modelo, del hardware, de las solicitudes simultáneas y de su organización.

Privacidad: seguir todo el recorrido de los datos

La apertura de los pesos no indica adónde van sus documentos. Un modelo abierto ejecutado por un proveedor recibe los datos que usted le envía. Un modelo local puede permanecer dentro de su infraestructura y, aun así, su agente puede enviar después fragmentos a una búsqueda web o a una herramienta remota.

Trace el recorrido completo: entrada del usuario, preparación de los documentos, modelo, herramientas, registros y copias de seguridad. Identifique quién recibe cada contenido y qué accesos administrativos pueden existir. Examine los compromisos de conservación y uso de los datos de cada servicio implicado.

La documentación de seguridad de los puntos de conexión de Hugging Face distingue, por ejemplo, los datos de las solicitudes de los registros y describe varias modalidades de acceso. Este ejemplo muestra por qué una declaración general sobre privacidad no sustituye la lectura de las condiciones del servicio elegido.

El artículo sobre los datos de los agentes de IA y el RGPD profundiza en este análisis. Para orientar su elección técnica, defina primero requisitos concretos: categorías de datos permitidas, destinatarios aceptables, accesos restringidos y un procedimiento de eliminación que pueda comprobar.

Por último, ningún tipo de alojamiento elimina la necesidad de limitar los permisos. Un agente local puede borrar un archivo o transmitir un secreto si sus herramientas se lo permiten. Mantenga las aprobaciones de acciones sensibles en el programa que las ejecuta, en lugar de confiarlas únicamente a las instrucciones dirigidas al modelo.

Elegir una arquitectura que pueda mantener

Para un primer despliegue sin un equipo de infraestructura, una API gestionada puede reducir el trabajo operativo. Esta elección sigue estando condicionada por sus requisitos de privacidad, disponibilidad y presupuesto. Prevea cómo actuar si el servicio deja de estar disponible o cambian sus condiciones.

Conviene estudiar el alojamiento propio cuando controlar el despliegue es un requisito explícito. En ese caso, designe a una persona responsable de las actualizaciones, los incidentes y las evaluaciones posteriores a los cambios. Tener los archivos permite conservar un modelo, pero no garantiza que pueda mantener su servicio a largo plazo.

Una arquitectura híbrida puede reservar ciertas tareas para un modelo local y otras para una API. Sin embargo, el paso al servicio remoto debe respetar sus reglas sobre datos. Un fallo local no debe activar automáticamente el envío de documentos confidenciales a un destino no autorizado.

Anthropic presenta el enrutamiento entre procesos especializados como un posible patrón de arquitectura. Su utilidad debe medirse: añadir una decisión de enrutamiento también introduce posibles errores y trabajo de mantenimiento. Conserve esa complejidad solo si mejora sus resultados.

La guía para elegir un modelo de lenguaje completa este proceso. Si necesita contrastar candidatos concretos, consulte las comparativas de modelos: esta guía aborda los criterios de decisión comunes.

Puntos clave

• Distinga la licencia, el acceso a los pesos y el lugar de ejecución antes de comparar ofertas.
• Evalúe al agente con tareas completas, incluidas sus herramientas, sus errores y sus aprobaciones.
• Compare el costo de los resultados aceptados, teniendo en cuenta los reintentos y la operación.
• Elija una arquitectura cuyo recorrido de datos pueda verificar y cuyo mantenimiento pueda asumir.

Preguntas frecuentes

¿Un LLM de código abierto funciona sin Internet?

Puede funcionar sin conexión si los archivos necesarios están disponibles en el equipo y su entorno lo permite. Sin embargo, un agente que utiliza búsquedas web o software remoto seguirá necesitando conexión para esas acciones. Compruebe por separado las conexiones del modelo y las de sus herramientas.

¿Se puede utilizar comercialmente un modelo de pesos abiertos?

El acceso a los archivos no basta para determinar los derechos de uso comercial. Consulte la licencia de la versión concreta, sus posibles restricciones y las obligaciones asociadas a la redistribución. La licencia del software que ejecuta el modelo no sustituye a la de los pesos.

¿Es necesario entrenar un modelo propio para tener un agente local?

No: puede ejecutar un modelo ya entrenado y proporcionarle instrucciones y herramientas. El entrenamiento adicional responde a una necesidad distinta, que conviene evaluar después de comprobar las limitaciones del modelo existente. No es un requisito para alojarlo en su propia infraestructura.

¿Se puede cambiar de modelo sin reconstruir el agente?

Una capa de acceso común puede reducir los cambios necesarios en el programa. No garantiza un comportamiento idéntico: hay que volver a comprobar los formatos de las llamadas, la gestión del contexto y las respuestas ante errores. Conserve pruebas de referencia para decidir si el cambio es aceptable.