LLM en local : logiciels, matériel et modèles

Un LLM en local exécute un modèle de langage sur votre ordinateur ou sur une machine que vous administrez, avec des poids préalablement téléchargés. Le choix dépend de la mémoire disponible, du logiciel, du contexte nécessaire et de la qualité obtenue sur vos tâches ; la taille du modèle ne suffit pas à prévoir son utilité ni sa vitesse.

Ce que vous installez réellement

Une installation locale comporte plusieurs éléments : les poids du modèle, un moteur d’inférence et une interface. Le moteur effectue les calculs ; l’interface permet de discuter, de joindre des documents ou de fournir un service à une application.

Ces éléments peuvent être réunis dans un logiciel, mais leurs responsabilités restent différentes. Un problème de téléchargement concerne les fichiers ; une erreur de chargement peut venir du moteur ou de la mémoire ; une mauvaise réponse relève aussi du modèle, des instructions et des informations fournies.

Local décrit le lieu d’exécution, pas toutes les fonctions de l’application. Une interface installée sur votre ordinateur peut appeler un fournisseur distant. Inversement, une application ouverte dans un navigateur peut communiquer uniquement avec un serveur de votre réseau.

Avant de traiter des données confidentielles, identifiez donc le modèle sélectionné et l’adresse du serveur. Vérifiez également les extensions, les connecteurs et les services utilisés pour analyser les documents.

Le présent guide sert de référence pour dimensionner et exploiter une installation. L’article Faire tourner un LLM en local : matériel, logiciels et limites propose une lecture plus courte pour décider si cette approche correspond à votre besoin.

Comparer les logiciels selon le travail attendu

Ollama convient à une utilisation par terminal ou à l’intégration dans une application. LM Studio rassemble une interface graphique et des fonctions de serveur local. llama.cpp fournit un moteur et des outils pour contrôler plus directement l’exécution.

Critère	Ollama	LM Studio	llama.cpp
Point d’entrée	Application et terminal	Interface graphique	Outils en ligne de commande
Gestion quotidienne	Télécharger et lancer par identifiant	Choisir et charger dans l’interface	Gérer les fichiers et paramètres explicitement
Intégration	Service accessible aux applications	Serveur local intégré	Serveur et outils du projet
Public adapté	Utilisateur à l’aise avec le terminal	Utilisateur préférant une interface	Développeur ou administrateur
Vigilance principale	Destination des requêtes et modèle choisi	Moteur installé et fonctions connectées	Compatibilité du modèle et du moteur

Cette comparaison porte sur les modes de travail, pas sur un classement de vitesse. Deux interfaces peuvent employer des technologies communes tout en choisissant des réglages différents.

Le dépôt officiel de llama.cpp décrit notamment l’exécution sur processeur, plusieurs accélérations matérielles et le partage des calculs entre processeur et carte graphique, vérifiés pour cette rédaction du 24 octobre 2026.

Commencez avec un seul logiciel. Multiplier les installations complique le diagnostic et peut dupliquer les téléchargements. Le catalogue des outils IA permet ensuite d’examiner d’autres interfaces lorsque votre besoin est mieux défini.

Dimensionner la mémoire avant de choisir le modèle

Distinguez la mémoire vive de l’ordinateur, la mémoire dédiée de la carte graphique et, sur certaines architectures, la mémoire unifiée partagée. Leurs capacités ne s’additionnent pas automatiquement en un espace aussi rapide et simple à exploiter.

La mémoire consommée comprend les poids, les données temporaires du moteur et le cache associé au contexte. Elle dépend aussi des requêtes simultanées. Un fichier qui tient sur le disque ne tient pas nécessairement en mémoire pendant une conversation.

La quantification réduit la précision utilisée pour représenter certains nombres du modèle. Elle peut diminuer l’occupation mémoire, mais son effet sur la qualité doit être évalué sur votre tâche. Le guide Quantification et format GGUF détaille ce choix.

Pour un premier essai, réservez une marge aux applications habituelles. Un ordinateur qui charge le modèle après fermeture de tous ses logiciels peut devenir peu pratique lorsque vous rouvrez votre navigateur et vos documents.

Les prérequis officiels de LM Studio, consultés le 24 octobre 2026, recommandent notamment au moins 16 Go de mémoire vive ; ils précisent aussi les contraintes de processeur et de système. Ce sont des prérequis logiciels, pas la garantie qu’un modèle quelconque fonctionnera confortablement.

Avant tout achat, relevez votre configuration exacte et la mémoire réellement libre. Le nombre de cœurs, le nom commercial du processeur ou la mémoire annoncée sur l’emballage ne répondent pas seuls à la question.

Modèles par taille de machine : des points de départ prudents

Le tableau suivant propose des hypothèses de départ éditoriales au 24 octobre 2026, pas des configurations minimales certifiées. Il utilise une même famille pour rendre l’effet de taille lisible ; il ne présente pas ces modèles comme les plus récents ni comme les meilleurs.

Les volumes correspondent aux téléchargements affichés par la bibliothèque officielle Ollama pour Qwen3, consultée le 24 octobre 2026. Ils ne représentent pas la mémoire totale requise.

Machine disponible	Premier modèle à examiner	Téléchargement affiché	Compromis à vérifier
Portable avec 8 Go de RAM	Qwen3 4B, si la mémoire libre le permet	2,5 Go	Contexte court et applications concurrentes limitées
Ordinateur avec 16 Go de RAM	Qwen3 8B	5,2 Go	Réactivité sur processeur ou accélération disponible
Machine avec 32 Go de RAM	Qwen3 14B	9,3 Go	Gain de qualité face au modèle plus petit
Station avec 64 Go de RAM	Qwen3 32B	20 Go	Temps d’attente et coût matériel acceptables

Sur une carte graphique dédiée, comparez aussi le besoin complet à la mémoire vidéo disponible. Un modèle partiellement chargé en mémoire système peut fonctionner avec un comportement très différent d’un chargement entièrement sur la carte.

Sur mémoire unifiée, le système et les autres applications partagent la capacité physique. Ne considérez donc pas toute la mémoire annoncée comme disponible pour les poids.

Ces exemples ne dispensent pas de comparer d’autres architectures. Pour un modèle à mélange d’experts, le nombre de paramètres actifs ne décrit pas à lui seul les poids à stocker. Vérifiez toujours le fichier précis, son format et la prise en charge par votre moteur.

Choisir selon l’usage, pas uniquement selon la taille

Pour reformuler ou classer des textes courts, commencez par un modèle modeste. Votre critère est le respect des consignes : catégories autorisées, informations conservées, absence d’ajouts et format exploitable.

Pour résumer des documents, testez la couverture des informations essentielles et les omissions. Une réponse fluide peut supprimer une exception décisive. Demandez des références aux passages fournis et vérifiez qu’elles correspondent au document.

Pour programmer, utilisez des tâches représentatives de votre langage et de vos bibliothèques. La production de code plausible ne suffit pas : compilation, tests et revue restent nécessaires. Un modèle capable de proposer une fonction isolée peut échouer à maintenir la cohérence d’un projet.

Pour interroger une base documentaire, distinguez la recherche des passages et la génération de la réponse. Si le bon passage n’est jamais transmis au modèle, augmenter sa taille ne résout pas directement le problème.

Enfin, un agent ajoute une difficulté : décider d’un outil, produire ses arguments et interpréter son résultat. Le fonctionnement local ne garantit aucune de ces capacités. Commencez par des opérations en lecture seule et conservez une validation pour les actions qui modifient vos données.

Dans tous ces usages, évaluez le français réel de vos documents : vocabulaire métier, négations, tableaux, abréviations et noms propres. Un score général ne remplace pas ces vérifications.

Préparer l’installation

Avant les commandes, réunissez les éléments suivants :

un ordinateur compatible avec le logiciel choisi ;
de l’espace disque pour le modèle et les téléchargements supplémentaires ;
une connexion pour récupérer le logiciel, le moteur et les poids ;
les droits nécessaires à l’installation ;
un petit jeu de tâches non confidentielles avec des réponses attendues.

Le parcours ci-dessous utilise Ollama. Les commandes sont vérifiées dans les sources officielles consultées le 24 octobre 2026. Elles ne figent pas une version : consignez celle effectivement installée si vous voulez reproduire vos essais.

1. Installer le logiciel

Sur Windows ou macOS, récupérez l’installateur correspondant depuis le site officiel. Sur Linux, la documentation officielle d’installation fournit cette commande :

curl -fsSL https://ollama.com/install.sh | sh

Elle télécharge et exécute un script. Dans un environnement administré, faites examiner ce script selon votre procédure habituelle.

La même documentation donne cette vérification :

ollama -v

Conservez le résultat dans votre fiche d’essai. Il permettra de distinguer ultérieurement un changement du logiciel d’un changement de modèle.

2. Lancer un modèle explicitement identifié

La page officielle de Qwen3 4B dans Ollama fournit la commande suivante :

ollama run qwen3:4b

Le premier lancement peut inclure le téléchargement. Ne confondez pas cette attente initiale avec le temps de génération des réponses suivantes.

Commencez par une demande courte dont vous pouvez vérifier la réponse. Ajoutez ensuite un texte représentatif de votre activité, sans données sensibles pendant cette phase.

Vérifier l’exécution et préparer le mode hors ligne

3. Contrôler les modèles chargés

La référence officielle des commandes Ollama documente la liste des modèles installés et celle des modèles en cours d’exécution :

ollama ls

ollama ps

Vérifiez que le modèle attendu apparaît. La colonne indiquant le processeur utilisé aide à repérer une exécution sur processeur, sur carte graphique ou partagée.

Lorsque vous voulez libérer la mémoire, arrêtez le modèle depuis l’application ou avec la commande documentée correspondant à son identifiant exact. Quitter une conversation ne signifie pas nécessairement que les poids ont été immédiatement déchargés.

4. Valider le fonctionnement sans réseau

Après téléchargement, coupez temporairement la connexion et répétez une demande simple. Testez également le chargement après fermeture puis réouverture de l’application.

Pour LM Studio, la documentation du mode hors ligne distingue explicitement la conversation, le traitement local des documents et le serveur local des opérations nécessitant Internet, comme la recherche de modèles ou le téléchargement des moteurs.

Ce test vérifie la disponibilité hors connexion ; il ne constitue pas un audit complet des communications. Une application peut conserver des informations et les synchroniser ultérieurement. Examinez séparément son stockage, ses réglages réseau et ses intégrations.

Gardez enfin une copie de la configuration utile : modèle, moteur, paramètres et emplacement des données. Un fonctionnement hors ligne devient fragile si une réinstallation exige des fichiers que vous n’avez pas conservés.

Mesurer les performances sans comparer des chiffres incompatibles

Mesurez d’abord le délai avant le premier texte, puis le débit de génération et la durée complète de la tâche. Une réponse qui commence vite mais s’allonge inutilement peut être moins utile qu’une réponse concise produite plus lentement.

Séparez le premier chargement des essais où le modèle est déjà en mémoire. Conservez les mêmes instructions, documents, réglages de contexte et limites de sortie pour chaque comparaison.

Mesure	Ce qu’elle indique	Piège fréquent
Chargement initial	Attente avant disponibilité	L’inclure dans certains essais seulement
Délai avant le premier texte	Réactivité perçue	Ignorer la longueur du document fourni
Débit de génération	Vitesse de production	Comparer des modèles aux tokenisations différentes
Durée totale	Temps jusqu’au résultat utilisable	Exclure les corrections et nouvelles tentatives
Qualité validée	Utilité sur votre tâche	Juger seulement la fluidité du français
Mémoire maximale	Marge d’exploitation	Mesurer uniquement juste après le chargement

Préparez des critères avant de lire les réponses : champs correctement extraits, faits conservés, tests réussis, erreurs bloquantes. Notez aussi les refus pertinents et les réponses qui reconnaissent un manque d’information.

Répétez les essais et conservez leur dispersion. La température, les tâches concurrentes et l’état thermique peuvent faire varier le résultat. Aucun débit universel n’est annoncé ici : sans configuration et protocole complets, un chiffre de tokens par seconde reste insuffisant.

Régler le contexte et comprendre le coût réel

Un contexte plus long permet de transmettre davantage de contenu, mais augmente le travail à effectuer et peut accroître la mémoire nécessaire. La capacité maximale annoncée du modèle ne constitue donc pas un réglage conseillé pour toutes les machines.

Commencez avec les documents réellement utiles. Supprimez les historiques sans rapport et comparez la réponse obtenue avant d’augmenter le contexte. Pour une longue base documentaire, transmettre des passages sélectionnés peut être préférable à l’insertion systématique de tous les fichiers.

La FAQ officielle d’Ollama, consultée le 24 octobre 2026, explique le réglage du contexte et l’interprétation du placement en mémoire. Elle permet de vérifier ce que votre installation exécute effectivement.

Le coût local comprend le matériel, l’électricité, le stockage et le temps d’administration. Il inclut aussi les réponses inutilisables et le travail humain nécessaire pour les corriger.

Comparez des tâches terminées avec un niveau de qualité similaire. Une machine déjà disponible pour un usage occasionnel ne se budgète pas comme un serveur dédié allumé en permanence.

Si vous envisagez un achat, testez d’abord votre charge sur une configuration accessible. Vérifiez que la qualité obtenue justifie l’investissement ; davantage de mémoire peut permettre de charger un autre modèle sans garantir un gain suffisant sur votre besoin.

Problèmes fréquents

Le modèle ne se charge pas. Vérifiez le téléchargement, la compatibilité du moteur et la mémoire libre. Réduisez le contexte, fermez les applications lourdes puis essayez une variante plus petite.

La génération est lente malgré une carte graphique. Contrôlez le placement effectif des calculs et la compatibilité matérielle. Comparez ensuite un modèle plus petit, plutôt que de modifier simultanément tous les paramètres.

La mémoire augmente pendant les conversations. Examinez la longueur des échanges et les requêtes concurrentes. Une installation stable pour une personne peut manquer de mémoire lorsque plusieurs sessions utilisent le serveur.

Les réponses sont incohérentes ou mal formatées. Vérifiez le modèle exact, le moteur et le format de conversation attendu. Reprenez une demande minimale avant d’ajouter les documents et les contraintes.

Les documents semblent ignorés. Contrôlez leur extraction et les passages effectivement transmis. Un fichier numérisé peut nécessiter une reconnaissance de caractères ; un tableau peut perdre sa structure.

Le serveur fonctionne sur la machine mais pas ailleurs. Distinguez l’écoute locale, l’accès réseau et les règles du pare-feu. N’ouvrez pas simplement le service sur Internet pour contourner le problème.

Après une mise à jour, rejouez votre jeu de tâches avant de remplacer l’installation utilisée au quotidien. Conservez les fichiers nécessaires pour revenir à la configuration précédente.

Checklist avant un usage régulier

Le bon résultat est une installation qui produit des réponses vérifiables, dans un délai acceptable, avec une marge mémoire et une destination des données connue. Validez ces points avant d’augmenter la taille du modèle ou le nombre d’utilisateurs.

Pages liées

Questions fréquentes

Peut-on utiliser un LLM local sans carte graphique ?

Oui, avec un moteur qui prend en charge le processeur de votre ordinateur. La mémoire disponible et le temps de réponse deviennent alors les principaux critères de choix ; commencez par un petit modèle avant d'envisager un achat.

Un LLM local fonctionne-t-il sans Internet ?

L'inférence peut fonctionner hors connexion si le logiciel, son moteur et les poids nécessaires sont déjà installés. Les recherches web, les fournisseurs distants et certains outils connectés restent dépendants du réseau.

Un modèle local apprend-il automatiquement mes documents ?

Non. Fournir un document dans une conversation ne modifie généralement pas les poids du modèle. Une application peut conserver ce document ou construire un index de recherche, ce qui constitue un stockage distinct à administrer.

Un LLM local remplace-t-il une API pour une entreprise ?

Cela dépend du volume, de la qualité attendue et des contraintes d'exploitation. Une API évite la gestion du matériel ; une installation locale donne davantage de contrôle sur l'exécution, mais demande une maintenance et une capacité suffisantes.

Peut-on utiliser commercialement tous les modèles téléchargeables ?

Non, la possibilité de télécharger les poids ne suffit pas à établir les droits d'utilisation. Vérifiez la licence du modèle exact, ses éventuelles conditions supplémentaires et celles du logiciel qui l'exécute.

LLM en local, guide de référence : logiciels comparés, modèles par taille de machine, performances, usages