Petit modèle de langage (SLM) : l'IA qui tient dans votre machine
Un petit modèle de langage (Small Language Model, SLM) est un modèle de texte beaucoup plus compact que les grands modèles des assistants en ligne. Il peut souvent fonctionner directement sur un ordinateur, un téléphone ou un serveur modeste, au prix de connaissances et de capacités de raisonnement plus limitées.
Données au 22 octobre 2026
L'essentiel en chiffres
| Niveau | Intermédiaire |
|---|
Petit, mais pour quoi faire ?
Les grands modèles de langage des assistants grand public tournent dans d’immenses centres de données. Un petit modèle de langage fait le pari inverse : moins de paramètres, donc moins de mémoire et de calcul, pour pouvoir fonctionner là où vous êtes, sur un portable, un téléphone ou un petit serveur d’entreprise.
Il n’existe pas de définition officielle en nombre de paramètres. Le terme est relatif : ce qui passe pour « petit » aujourd’hui aurait été considéré comme grand il y a quelques années.
Un exemple concret : la famille Phi-3
En avril 2024, Microsoft a présenté Phi-3, une famille de petits modèles. Le plus compact, Phi-3-mini, compte 3,8 milliards de paramètres. Microsoft mettait en avant des usages précis : fonctionner sur l’appareil sans connexion, garder des données sur place, répondre vite sans aller-retour vers le cloud, ou équiper des zones mal desservies par internet.
Imaginez un cabinet médical qui veut résumer automatiquement des notes de consultation : un SLM installé sur un poste interne évite d’envoyer ces textes sensibles à un service externe. Vous trouverez des modèles compacts à poids ouverts sur notre page des modèles open source.
Pourquoi ça compte
- Coût : moins de calcul par réponse, donc une facture plus basse ou un matériel plus modeste.
- Confidentialité : exécuté localement, le modèle ne transmet pas vos données.
- Vitesse : pas de file d’attente ni de trajet réseau, ce qui réduit la latence.
- Spécialisation : un petit modèle affiné sur une tâche précise (classer des courriels, extraire des champs) peut suffire largement.
Les petits modèles sont souvent obtenus par distillation d’un modèle plus grand, puis allégés par quantification pour tenir dans moins de mémoire.
Erreurs et idées reçues fréquentes
- « Petit veut dire mauvais. » Sur des tâches ciblées, un SLM bien choisi peut être tout à fait suffisant. Ses limites apparaissent sur le raisonnement long et les connaissances pointues.
- « Il tourne sur n’importe quel appareil. » Même petit, un modèle demande une mémoire suffisante ; vérifiez la configuration recommandée.
- « Local veut dire sans risque. » Il peut toujours se tromper ou inventer : les hallucinations ne disparaissent pas avec la taille.
- « Il faut choisir entre petit et grand. » Beaucoup de systèmes combinent les deux, le petit modèle traitant les demandes simples et le grand les cas difficiles.
Termes liés
- Grand modèle de langage (LLM) · Programme entraîné sur d'immenses quantités de textes pour prédire la suite d'un texte ; c'est le moteur des assistants IA.
- Distillation (de connaissances) · Technique qui entraîne un petit modèle « élève » à imiter les réponses d'un grand modèle « professeur » pour le rendre plus léger.
- Quantification · Technique qui stocke les poids d'un modèle avec moins de bits (8, 4, voire moins) pour qu'il occupe beaucoup moins de mémoire.
- Paramètres d'un modèle · Nombres internes qu'un modèle ajuste pendant son entraînement ; leur quantité donne une idée de sa taille, pas directement de sa qualité.
- Modèle à poids ouverts · Modèle d'IA dont les paramètres entraînés (les « poids ») sont téléchargeables, ce qui permet de le faire tourner sur ses propres machines.
- Fine-tuning (affinage) · Poursuite de l'entraînement d'un modèle déjà entraîné sur un petit jeu d'exemples ciblés, pour l'adapter à une tâche, un style ou un format.
À essayer
Tout le glossaire
Questions fréquentes
À partir de quelle taille un modèle est-il « petit » ?
Il n'existe pas de seuil officiel. Le terme désigne des modèles nettement plus compacts que les plus grands du moment, si bien que la frontière se déplace avec le temps. Microsoft présentait par exemple en avril 2024 Phi-3-mini, avec 3,8 milliards de paramètres, comme un petit modèle de langage.
Peut-on utiliser un SLM sans connexion internet ?
Oui, c'est l'un de leurs principaux intérêts. Une fois le modèle téléchargé, des logiciels d'exécution locale permettent de l'utiliser hors ligne, sur une machine suffisamment équipée en mémoire. Vos textes ne quittent alors pas votre ordinateur.
Un SLM remplace-t-il ChatGPT ou Claude ?
Pas pour tout. Microsoft lui-même souligne que ces modèles conviennent aux tâches simples et ciblées, mais moins à la recherche approfondie de connaissances ou au raisonnement complexe en plusieurs étapes. Beaucoup d'équipes combinent petits et grands modèles selon les tâches.
Comment fabrique-t-on un bon petit modèle ?
Les leviers les plus cités sont des données d'entraînement très soignées, la distillation à partir d'un grand modèle et un entraînement ciblé sur les tâches visées. La quantification permet ensuite de réduire encore la mémoire nécessaire pour l'exécuter.
Sources des données
Données au 22 octobre 2026
Signaler une erreur
Un chiffre, une date ou une information vous semble faux ? Dites-le-nous : chaque signalement est vérifié.