FRENES

Glossaire · Déployer et héberger

IA locale

L’IA locale est une intelligence artificielle dont les calculs sont exécutés sur votre appareil ou sur une infrastructure que votre organisation maîtrise. Elle peut répondre à vos demandes sans transmettre leur contenu à un service distant, selon sa configuration et les fonctions que vous activez.

IA locale : l'explication

Un logiciel installé sur votre ordinateur charge un modèle et utilise votre processeur, votre mémoire et parfois votre carte graphique pour produire une réponse. Vos documents peuvent être analysés sur cette même machine. Un téléchargement initial reste souvent nécessaire pour installer le logiciel et récupérer le modèle. Ensuite, certaines tâches fonctionnent sans connexion. D’autres fonctions, comme une recherche sur le Web ou un appel à un outil externe, nécessitent toujours un accès au réseau.

Cette approche sert notamment lorsque vous souhaitez travailler hors connexion, conserver des documents dans un environnement maîtrisé ou éviter de dépendre de la disponibilité d’un service distant. Une association peut ainsi classer ses archives sur son propre ordinateur. Une entreprise peut installer un assistant sur ses serveurs internes. Le mot local décrit surtout le lieu des calculs. Il ne précise pas, à lui seul, qui fournit le logiciel ou quelles conditions encadrent son utilisation.

Les possibilités dépendent du modèle choisi, du matériel disponible et de la longueur des documents. Un ordinateur peut manquer de mémoire ou répondre lentement. Par ailleurs, une application présentée comme locale peut envoyer des statistiques, synchroniser un historique ou utiliser un modèle distant pour certaines demandes. Vous devez donc examiner les réglages et les connexions. Le fonctionnement local réduit certains échanges de données, mais ne remplace ni les mises à jour ni la protection des accès.

Un exemple concret

Vous souhaitez résumer les comptes rendus d’une association pendant un déplacement sans connexion. Vous installez auparavant un modèle compatible avec votre ordinateur, puis vous ouvrez les documents dans une application locale. Vous vérifiez que la recherche en ligne et la synchronisation sont désactivées. L’outil propose une synthèse que vous relisez dans les documents originaux, notamment pour confirmer les décisions et les personnes concernées.

Pourquoi c'est important

Choisir une IA locale suppose de comparer la maîtrise des données, la qualité des réponses et les contraintes matérielles. Vous prenez aussi en charge une partie de l’installation et de la maintenance. Avant de retenir cette option, vérifiez quelles fonctions restent locales et lesquelles contactent un service extérieur. Pour un agent, contrôlez également les dossiers accessibles et les actions autorisées sur votre ordinateur.

Idées reçues

  • Une IA locale ne garantit pas que toutes vos données restent sur votre appareil, car l’application peut comporter une synchronisation, des statistiques d’utilisation ou des outils connectés dont vous devez examiner séparément les réglages et les conditions.
  • Une IA locale n’est pas forcément moins performante pour votre usage, car un modèle adapté à une tâche précise peut suffire, même si votre matériel limite la taille des modèles et la vitesse de leurs réponses.

Autres termes : déployer et héberger

auto-hébergement
L’auto-hébergement consiste à faire fonctionner un logiciel sur une infrastructure que vous administrez ou dont vous contrôlez l’administration.
observabilité des LLM
L'observabilité des LLM est l'ensemble des moyens qui permettent de comprendre le fonctionnement d'une application utilisant des modèles de langage à partir de ses traces et de ses mesures.
MLOps
MLOps est un ensemble de pratiques pour développer, déployer et maintenir des systèmes d'apprentissage automatique de manière organisée.
API compatible OpenAI
Une API compatible OpenAI est une interface de programmation qui reprend tout ou partie des formats d'échange d'une API OpenAI pour permettre à des logiciels existants de l'utiliser.

Où le site en parle

Le terme apparaît dans 9 pages du site. Quelques-unes :

Pour aller plus loin

Questions fréquentes

Fonctionne-t-elle sans Internet ?

Certaines fonctions peuvent fonctionner hors connexion après installation du logiciel et du modèle. Vous devez vérifier le comportement réel de l’application. La recherche en ligne, les mises à jour et les outils distants nécessitent généralement une connexion.

Faut-il un ordinateur puissant ?

Cela dépend du modèle et des tâches. Un modèle compact peut fonctionner sur un ordinateur courant, avec des limites. Avant de l’installer, vérifiez la mémoire requise, l’espace disponible et les recommandations matérielles du projet.

Locale signifie-t-il open source ?

Non. Le lieu d’exécution et les droits d’utilisation sont deux sujets différents. Un logiciel propriétaire peut fonctionner localement. Inversement, un logiciel ouvert peut utiliser des services distants. Vous devez examiner sa licence et son fonctionnement.

Neutralité. Aucun lien d'affiliation. Aucun éditeur ne paie pour être évalué, noté ou classé. Les évaluations sont dirigées par François Chollet, neutres et factuelles, et chaque donnée est datée et sourcée. Comment nous notons