FRENES

Glosario · Desplegar y alojar

IA local

La IA local es una inteligencia artificial que realiza sus cálculos en su dispositivo o en una infraestructura controlada por su organización. Según la aplicación y su configuración, puede procesar sus solicitudes y documentos sin enviar su contenido a un servicio remoto.

IA local: la explicación

Una aplicación carga un modelo en su ordenador y utiliza el procesador, la memoria y, en algunos casos, la tarjeta gráfica para generar respuestas. Los documentos pueden analizarse en ese mismo equipo. Normalmente debe descargar antes el programa y el modelo. Después, algunas tareas funcionan sin conexión. Otras funciones, como buscar información en Internet o consultar una herramienta externa, siguen necesitando acceso a la red y pueden transmitir datos fuera del dispositivo.

Este enfoque resulta útil cuando necesita trabajar sin conexión, mantener documentos en un entorno controlado o reducir su dependencia de un servicio externo. Una asociación puede organizar sus archivos en su propio ordenador. Una empresa puede instalar un asistente en servidores internos. La palabra local describe principalmente dónde se realizan los cálculos. No indica por sí sola quién proporciona el programa, qué permite su licencia ni si todos sus componentes funcionan sin conexiones externas.

Las posibilidades dependen del modelo, del equipo disponible y de la cantidad de información que quiera procesar. El ordenador puede quedarse sin memoria o responder despacio. Además, una aplicación anunciada como local puede sincronizar conversaciones, enviar estadísticas o utilizar un modelo remoto para ciertas funciones. Conviene revisar sus ajustes y conexiones. El funcionamiento local reduce algunas transferencias, pero sigue siendo necesario actualizar el programa y proteger los documentos y las cuentas de acceso.

Un ejemplo concreto

Usted necesita resumir las actas de una asociación durante un viaje sin conexión. Antes de salir, instala un modelo compatible con su portátil y abre los documentos en una aplicación local. Comprueba que la búsqueda en Internet y la sincronización estén desactivadas. La aplicación prepara un resumen que usted contrasta con las actas originales para confirmar los acuerdos y las personas responsables de cada tarea.

Por qué importa

Al elegir una IA local, debe valorar el control de la información, la calidad de las respuestas y los requisitos del equipo. También puede asumir parte de la instalación y el mantenimiento. Compruebe qué funciones permanecen en su entorno y cuáles contactan con servicios externos. Si utiliza un agente, revise además las carpetas accesibles y las acciones que puede ejecutar en su ordenador.

Ideas equivocadas

  • Una IA local no garantiza que todos sus datos permanezcan en el dispositivo, porque la aplicación puede incluir sincronización, estadísticas de uso o herramientas conectadas cuyos ajustes y condiciones debe revisar de forma independiente antes de utilizarla.
  • Una IA local no tiene por qué ser insuficiente para su trabajo, ya que un modelo adecuado para una tarea concreta puede resolverla, aunque la memoria y la capacidad del equipo limiten los modelos disponibles y su velocidad.

Otros términos: desplegar y alojar

autoalojamiento
El autoalojamiento consiste en ejecutar un programa en una infraestructura cuya administración usted gestiona o controla.
observabilidad de LLM
La observabilidad de LLM es el conjunto de métodos que permite comprender una aplicación basada en modelos de lenguaje mediante sus registros y mediciones.
MLOps
MLOps es un conjunto de prácticas para desarrollar, desplegar y mantener sistemas de aprendizaje automático de forma organizada.
API compatible con OpenAI
Una API compatible con OpenAI es una interfaz de programación que reproduce parte o todos los formatos de intercambio de una API de OpenAI para conectar programas existentes.

Dónde lo trata este sitio

El término aparece en 9 páginas del sitio. Algunas:

Para ir más lejos

Preguntas frecuentes

¿Funciona sin Internet?

Algunas funciones pueden utilizarse sin conexión después de instalar el programa y descargar el modelo. Compruebe el funcionamiento concreto de la aplicación. Las búsquedas en Internet, las actualizaciones y las herramientas remotas suelen necesitar una conexión.

¿Necesita un ordenador potente?

Depende del modelo y de las tareas. Un modelo compacto puede funcionar en un ordenador corriente, con ciertas limitaciones. Antes de instalarlo, consulte los requisitos de memoria, almacenamiento y hardware, y pruebe documentos parecidos a los suyos.

¿Local significa código abierto?

No. El lugar de ejecución y la licencia son cuestiones distintas. Un programa propietario puede funcionar localmente y un programa abierto puede conectarse a servicios externos. Examine tanto la licencia como los flujos de datos reales.

Neutralidad. Ningún enlace de afiliación. Ningún editor paga por ser evaluado, puntuado o clasificado. Las evaluaciones las dirige François Chollet, neutrales y factuales, y cada dato está fechado y con su fuente. Cómo puntuamos