VRAM : la mémoire qui décide quels modèles d'IA vous pouvez faire tourner
La VRAM est la mémoire installée directement sur la carte graphique. Pour qu'un modèle d'IA tourne vite sur un GPU, ses poids et sa mémoire de travail doivent y tenir : c'est donc souvent elle, plus que la puissance, qui fixe la taille des modèles utilisables en local.
Données au 22 octobre 2026
L'essentiel en chiffres
| Niveau | Avancé |
|---|
La définition
La VRAM, c’est la mémoire propre à la carte graphique, séparée de la mémoire vive (RAM) de l’ordinateur.
Un GPU calcule très vite, mais seulement sur les données présentes dans sa mémoire. Pour l’IA, on y charge les poids du modèle, puis, pendant la génération, le cache clé-valeur et des résultats intermédiaires. La VRAM se caractérise par deux chiffres : sa capacité (en gigaoctets), qui décide de ce qui tient, et sa bande passante, qui influence la vitesse, car générer chaque token oblige à relire une grande partie des poids.
Comment estimer le besoin
La documentation de Hugging Face propose une règle simple : un modèle de X milliards de paramètres demande environ 4 × X Go en 32 bits et 2 × X Go en 16 bits, pour les poids seuls. Il faut ensuite ajouter :
- le cache clé-valeur, qui grandit avec la longueur du contexte et le nombre de requêtes simultanées ;
- une marge pour les calculs intermédiaires et le logiciel.
Exemple chiffré. Un modèle de 8 milliards de paramètres demande environ 16 Go en 16 bits. Avec la quantification Q4_K du format GGUF, décrite par Hugging Face à 4,5 bits par poids, le calcul donne 8 × 4,5 ÷ 8 = 4,5 Go pour les poids. Le modèle devient alors envisageable sur une carte graphique grand public, à condition de laisser de la place pour le contexte.
Pourquoi ça compte
La VRAM est la ressource la plus chère et la plus contrainte de l’IA locale comme des centres de données. La même documentation note que des modèles comme Llama 2 70B (environ 140 Go en 16 bits) dépassent les 80 Go des cartes A100 et H100 et doivent être répartis sur plusieurs GPU. Des techniques comme FlashAttention visent justement à limiter les accès à cette mémoire, plus lente que la mémoire interne de la puce.
Idées reçues
- « Beaucoup de RAM suffit. » La mémoire vive de l’ordinateur permet de charger un modèle, mais le calcul y est bien plus lent qu’en VRAM, sauf sur les machines à mémoire partagée.
- « Si les poids tiennent, tout tient. » Un long contexte peut ajouter plusieurs gigaoctets de cache.
- « Plus de VRAM rend le modèle plus intelligent. » Elle permet de charger un modèle plus grand ou moins compressé ; elle ne change pas un modèle donné.
Termes voisins : GPU, quantification, format GGUF, inférence.
Termes liés
- GPU (processeur graphique) · Puce conçue pour faire des milliers de calculs en parallèle, devenue le moteur de l'entraînement et de l'utilisation des modèles d'IA.
- Quantification · Technique qui stocke les poids d'un modèle avec moins de bits (8, 4, voire moins) pour qu'il occupe beaucoup moins de mémoire.
- Cache clé-valeur (KV cache) · Mémoire où un modèle garde les calculs déjà faits sur les tokens précédents, pour ne pas les refaire à chaque nouveau mot.
- Paramètres d'un modèle · Nombres internes qu'un modèle ajuste pendant son entraînement ; leur quantité donne une idée de sa taille, pas directement de sa qualité.
- GGUF (format de modèle) · Format de fichier unique qui regroupe les poids d'un modèle, souvent quantifiés, et ses métadonnées, pour l'exécuter en local avec llama.cpp et ses dérivés.
- Inférence · Moment où un modèle déjà entraîné est utilisé pour produire une réponse : chaque question posée à une IA déclenche une inférence.
À essayer
Tout le glossaire
Questions fréquentes
Combien de VRAM faut-il pour un modèle de 7 ou 8 milliards de paramètres ?
En 16 bits, comptez environ 2 Go par milliard de paramètres, soit une quinzaine de gigaoctets pour les seuls poids. Quantifié autour de 4 bits, le même modèle descend à quelques gigaoctets, auxquels s'ajoutent le cache clé-valeur et une marge.
Que se passe-t-il si le modèle ne tient pas dans la VRAM ?
Certains logiciels, comme llama.cpp, peuvent placer une partie des couches en mémoire vive classique et les faire calculer par le processeur. Le modèle fonctionne, mais nettement plus lentement, car les échanges entre la carte et le reste de l'ordinateur deviennent le goulot d'étranglement.
La VRAM sert-elle aussi pour l'entraînement ?
Oui, et il en faut beaucoup plus : en plus des poids, l'entraînement stocke les gradients et l'état de l'optimiseur. C'est pourquoi des méthodes comme LoRA et QLoRA, qui réduisent ces besoins, sont si utilisées.
Sources des données
Données au 22 octobre 2026
Signaler une erreur
Un chiffre, une date ou une information vous semble faux ? Dites-le-nous : chaque signalement est vérifié.