Quel GPU pour faire tourner un LLM ?
Pour choisir un GPU pour un LLM local, partez de la mémoire nécessaire au modèle et à votre contexte, puis vérifiez la compatibilité avec votre logiciel. Achetez la carte qui fait tenir votre charge réelle en mémoire avec une marge, plutôt que celle qui affiche le plus grand chiffre de puissance IA. Si votre machine exécute déjà le modèle à une vitesse acceptable, un achat peut attendre.
La mémoire détermine d’abord ce qui peut tourner
La VRAM est la mémoire directement accessible à la carte graphique. Elle doit accueillir les poids du modèle, mais aussi des données temporaires nécessaires à son exécution. La taille du fichier téléchargé constitue donc un point de départ, pas une estimation complète.
La mémoire nécessaire dépend notamment de la précision des poids, de l’architecture, de la longueur des échanges et du nombre de requêtes simultanées. Un modèle qui répond à une question courte peut manquer de mémoire quand vous lui transmettez un document volumineux.
La quantification réduit la place occupée par les poids en utilisant une représentation moins précise. Elle peut rendre un modèle accessible sur votre matériel, avec une perte de qualité à évaluer sur vos tâches. Le guide de la quantification et du format GGUF explique comment choisir le fichier adapté.
Évitez une règle universelle du type « cette quantité de mémoire suffit pour cette taille de modèle ». Deux architectures de taille voisine peuvent avoir des besoins différents. Pour un mélange d’experts, le nombre de paramètres activés à chaque étape ne décrit pas, à lui seul, la mémoire nécessaire pour stocker les poids.
Avant de chercher une carte, retenez un modèle, son fichier exact et un usage représentatif. Les fiches des modèles de langage aident à identifier les candidats ; le calculateur de VRAM donne une estimation à confronter au chargement réel.
Le contexte peut changer votre besoin matériel
La fenêtre de contexte comprend les instructions, les messages, les documents transmis et la réponse en cours. Pour les architectures qui utilisent un cache d’attention, ce cache occupe de la mémoire supplémentaire. Augmenter le contexte peut donc faire dépasser la capacité disponible alors que les poids tiennent encore.
La documentation d’Ollama, consultée le 24 octobre 2026, confirme qu’un contexte plus long augmente la mémoire nécessaire. Elle recommande aussi de vérifier la répartition entre processeur et carte graphique pour comprendre les performances obtenues. Source : gestion du contexte.
Le besoin change également entre une personne qui discute avec un modèle et une application qui sert plusieurs utilisateurs. Ne dimensionnez pas un poste individuel à partir d’un résultat obtenu sur un serveur traitant des requêtes groupées, ni l’inverse.
Pour préparer l’achat, définissez ces éléments :
- le fichier du modèle et sa quantification ;
- la longueur habituelle des documents ;
- la taille attendue des réponses ;
- le nombre de demandes à traiter simultanément ;
- le délai que vous acceptez avant et pendant la réponse.
Gardez une marge pour l’affichage et les autres applications qui utilisent la carte. Acheter au plus près d’une estimation théorique expose à devoir réduire le contexte dès que votre usage évolue.
Des cartes à examiner selon votre besoin
Les références suivantes sont des candidates à évaluer, sans classement de vitesse LLM. Leurs capacités mémoire proviennent des fiches constructeur consultées le 24 octobre 2026. Elles ne prouvent ni la disponibilité en magasin ni l’adéquation à votre modèle.
| Carte de bureau | Mémoire annoncée | Situation à examiner | Vérification décisive |
|---|---|---|---|
| GeForce RTX 5060 Ti, variante 16 Go | 16 Go | Achat neuf si votre charge tient dans cette capacité | Choisir explicitement la bonne variante mémoire |
| Radeon RX 9070 XT | 16 Go | Configuration dont le moteur prend en charge cette Radeon | Vérifier la combinaison logiciel, système et pilote |
| GeForce RTX 3090 | 24 Go | Occasion si vous recherchez davantage de mémoire | Contrôler l’état, le refroidissement et l’alimentation |
| GeForce RTX 5090 | 32 Go | Charge qui nécessite cette capacité supplémentaire | Justifier le coût total et l’intégration dans le PC |
NVIDIA documente des variantes différentes pour la GeForce RTX 5060 Ti : le nom de la puce ne suffit donc pas pour commander. AMD indique la capacité de la Radeon RX 9070 XT dans sa fiche technique.
Les capacités des GeForce RTX 3090 et GeForce RTX 5090 sont également confirmées par NVIDIA. Ces références servent de repères concrets, sans constituer un inventaire du marché.
Pour une charge qui tient déjà dans la carte envisagée, la mémoire supplémentaire ne garantit pas une réponse plus rapide. Elle devient utile si elle permet de conserver davantage de contexte, de charger un autre modèle ou d’éviter une exécution partagée avec le processeur.
Vérifiez le logiciel avant de choisir la marque
La compatibilité doit être vérifiée pour la carte exacte, le système et le moteur d’inférence. La présence d’une technologie dans une fiche constructeur ne garantit pas que votre application l’utilise.
Dans sa documentation consultée le 24 octobre 2026, Ollama répertorie les cartes NVIDIA prises en charge et distingue les listes AMD selon le système. La Radeon du tableau apparaît dans sa liste Linux, tandis que la liste Windows pour ROCm est différente. Vérifiez donc votre chemin d’exécution avant l’achat. Source : prise en charge matérielle.
Le moteur llama.cpp documente notamment CUDA, HIP, Metal, Vulkan et SYCL, ainsi qu’une exécution hybride entre processeur et GPU. Cela offre plusieurs possibilités matérielles, sans rendre leurs performances interchangeables. Source : dépôt officiel, consulté le 24 octobre 2026.
Sur une machine Apple à mémoire unifiée, le raisonnement d’achat porte sur la configuration complète : vous ne choisissez pas simplement une carte graphique à ajouter. Une grande quantité de mémoire partagée doit toujours être confrontée à un débit mesuré.
Choisissez ensuite l’interface qui convient à votre usage. Pour les différences entre LM Studio et Ollama, consultez le comparatif LM Studio et Ollama. Le guide des LLM en local replace le logiciel, le modèle et le matériel dans une même configuration.
Mesurez le délai utile, pas seulement les tokens par seconde
Un résultat de performance n’est exploitable que si ses conditions sont connues : carte, moteur, modèle, quantification, contexte et concurrence. Un graphique sans ces informations ne permet pas de prévoir votre expérience.
Distinguez le traitement de votre demande et la génération de la réponse. Pour analyser un document, l’attente avant le premier mot peut peser davantage que la vitesse de rédaction. Pour une discussion courte, la régularité de la génération et la latence deviennent plus visibles.
Les chiffres de puissance théorique annoncés pour l’IA ne mesurent pas directement ces délais. Ils ne remplacent pas un essai du modèle dans le moteur que vous comptez utiliser. Un résultat obtenu dans des conditions différentes doit rester un indice, pas une promesse.
Préparez un petit jeu de demandes réelles : un document habituel, une question difficile, une conversation prolongée. Relevez le temps total, la mémoire maximale utilisée et la qualité du résultat. Une réponse rapide qui omet les informations nécessaires ne valide pas l’achat.
Séparez aussi la qualité du modèle et la vitesse du matériel. Le Labo des benchmarks aide à examiner les capacités des modèles ; l’article sur la lecture des classements LLM explique les limites des scores. Aucun classement général ne remplace votre charge locale.
Calculez le coût de la machine complète
Le prix de la carte ne suffit pas. Vérifiez l’espace dans le boîtier, l’alimentation, les connecteurs, la ventilation et la mémoire vive nécessaire au logiciel. Une carte compatible sur le papier peut entraîner une mise à niveau coûteuse du reste du poste.
Les indications électriques des constructeurs servent au dimensionnement ; elles ne décrivent pas votre consommation moyenne en inférence. Pour établir un budget d’usage, mesurez la consommation à la prise sur une tâche représentative, puis appliquez votre tarif d’électricité et votre durée d’utilisation.
En occasion, demandez une démonstration en charge, une vérification de la mémoire et des informations sur la garantie restante. Inspectez les connecteurs et le fonctionnement des ventilateurs. Une capacité intéressante perd son intérêt si la carte chauffe excessivement ou fonctionne de manière instable.
Ajouter plusieurs cartes n’est pas une extension transparente. Il faut un moteur capable de répartir le modèle, une carte mère adaptée, suffisamment d’espace et une alimentation dimensionnée. Les échanges entre cartes peuvent aussi modifier les performances : exigez un essai de cette configuration.
Ce guide ne donne pas de prix d’achat : un tarif de lancement ne représente pas un devis en octobre 2026. Comparez des offres datées pour la référence exacte, avec taxes, livraison, garantie et éventuels composants supplémentaires.
Enfin, une utilisation occasionnelle peut justifier de conserver votre matériel et d’accepter davantage d’attente. L’article Faire tourner un LLM en local détaille les compromis à considérer avant de consacrer un budget à une machine dédiée.
À retenir avant d’acheter
- Choisissez le modèle et son fichier avant la carte ; ajoutez le contexte et la concurrence au calcul mémoire.
- Vérifiez la prise en charge du GPU exact dans votre logiciel et sur votre système.
- Demandez des mesures représentatives : temps avant la réponse, durée totale, mémoire et qualité.
- Comparez le coût complet du poste et contrôlez l’état du matériel d’occasion.
- Réservez les achats plus coûteux à un besoin constaté : davantage de mémoire n’apporte un bénéfice que si votre usage l’exploite.
Questions fréquentes
Peut-on faire tourner un LLM sans carte graphique ?
Oui, si le logiciel prend en charge le processeur et si la mémoire vive suffit. Essayez cette possibilité avec vos documents avant d’acheter : une réponse lente peut rester acceptable pour un traitement occasionnel.
Une carte graphique de portable convient-elle aux LLM ?
Elle peut convenir, mais vérifiez les caractéristiques du portable exact. Un nom de gamme proche de celui d’une carte de bureau ne garantit ni la même mémoire ni les mêmes performances soutenues. Le refroidissement compte aussi lors des longues générations.
Le GPU permet-il d’utiliser n’importe quel modèle hors ligne ?
Non : il faut pouvoir télécharger les poids, disposer d’une licence adaptée et utiliser un moteur compatible avec leur architecture. Une application de discussion installée localement peut aussi appeler un service distant ; vérifiez le modèle réellement exécuté.
Faut-il acheter une carte professionnelle pour l’IA locale ?
Pas systématiquement. Une carte professionnelle se justifie si sa mémoire, son support ou son format répondent à une contrainte précise. Pour un poste individuel, demandez d’abord une mesure sur votre charge de travail.