¿Qué GPU elegir para ejecutar un LLM?
Para elegir una GPU para un LLM local, calcule primero la memoria que necesitan el modelo y el contexto que va a utilizar, y compruebe después la compatibilidad con su software. Compre una tarjeta que permita mantener su carga real en memoria con cierto margen, en lugar de guiarse por la cifra más alta de potencia para IA. Si su equipo ya ejecuta el modelo a una velocidad aceptable, la compra puede esperar.
La memoria determina qué modelos puede ejecutar
La VRAM es la memoria a la que accede directamente la tarjeta gráfica. Debe alojar los pesos del modelo y los datos temporales necesarios para ejecutarlo. Por eso, el tamaño del archivo descargado sirve como punto de partida, pero no representa toda la memoria que hará falta.
Las necesidades de memoria dependen, entre otros factores, de la precisión de los pesos, la arquitectura, la longitud de las conversaciones y el número de solicitudes simultáneas. Un modelo capaz de responder a una pregunta breve puede quedarse sin memoria cuando recibe un documento extenso.
La cuantización reduce el espacio que ocupan los pesos mediante una representación de menor precisión. Puede permitirle ejecutar un modelo en su equipo, aunque deberá evaluar la posible pérdida de calidad con sus propias tareas. La guía de cuantización y del formato GGUF explica cómo elegir el archivo adecuado.
Evite las reglas universales del tipo «esta cantidad de memoria basta para un modelo de este tamaño». Dos arquitecturas de tamaño parecido pueden tener necesidades distintas. En un modelo de mezcla de expertos, el número de parámetros activados en cada paso no indica, por sí solo, cuánta memoria se necesita para almacenar los pesos.
Antes de buscar una tarjeta, elija un modelo, su archivo exacto y un uso representativo. Las fichas de modelos de lenguaje ayudan a identificar candidatos; la calculadora de VRAM ofrece una estimación que conviene contrastar cargando el modelo.
El contexto puede cambiar los requisitos de su equipo
La ventana de contexto incluye las instrucciones, los mensajes, los documentos proporcionados y la respuesta que se está generando. En las arquitecturas que utilizan una caché de atención, esa caché ocupa memoria adicional. Por tanto, ampliar el contexto puede superar la capacidad disponible aunque los pesos sigan cabiendo.
La documentación de Ollama, consultada el 24 de octubre de 2026, confirma que un contexto más largo requiere más memoria. También recomienda comprobar cómo se reparte la ejecución entre el procesador y la tarjeta gráfica para entender el rendimiento obtenido. Fuente: gestión del contexto.
Las necesidades también varían entre una persona que conversa con un modelo y una aplicación que atiende a varios usuarios. No dimensione un equipo individual a partir de un resultado obtenido en un servidor que procesa solicitudes por lotes, ni haga lo contrario.
Para preparar la compra, defina estos elementos:
- el archivo del modelo y su cuantización;
- la longitud habitual de los documentos;
- la extensión prevista de las respuestas;
- el número de solicitudes que deberá atender simultáneamente;
- el tiempo de espera que acepta antes de recibir la respuesta y durante su generación.
Reserve un margen para la salida de video y las demás aplicaciones que utilizan la tarjeta. Comprar una capacidad ajustada al límite de una estimación teórica puede obligarle a reducir el contexto en cuanto cambie su uso.
Tarjetas que conviene evaluar según sus necesidades
Los siguientes modelos son opciones que conviene evaluar, sin que el orden represente una clasificación de velocidad para LLM. Sus capacidades de memoria proceden de las fichas de los fabricantes consultadas el 24 de octubre de 2026. Esos datos no acreditan que estén disponibles en las tiendas ni que sean adecuadas para su modelo.
| Tarjeta de escritorio | Memoria anunciada | Caso en el que conviene evaluarla | Comprobación decisiva |
|---|---|---|---|
| GeForce RTX 5060 Ti, variante de 16 GB | 16 GB | Compra nueva si su carga cabe en esta capacidad | Elegir expresamente la variante con la memoria adecuada |
| Radeon RX 9070 XT | 16 GB | Configuración cuyo motor admite esta Radeon | Comprobar la combinación de software, sistema y controlador |
| GeForce RTX 3090 | 24 GB | Compra de segunda mano si necesita más memoria | Revisar el estado, la refrigeración y la alimentación |
| GeForce RTX 5090 | 32 GB | Carga que necesita esta capacidad adicional | Justificar el costo total y su integración en el PC |
NVIDIA documenta distintas variantes de la GeForce RTX 5060 Ti: el nombre del chip no basta para hacer el pedido. AMD indica la capacidad de la Radeon RX 9070 XT en su ficha técnica.
NVIDIA también confirma las capacidades de las GeForce RTX 3090 y GeForce RTX 5090. Estas referencias ofrecen ejemplos concretos, sin pretender abarcar todo el mercado.
Si su carga ya cabe en la tarjeta que está considerando, disponer de más memoria no garantiza una respuesta más rápida. La capacidad adicional resulta útil cuando permite conservar más contexto, cargar otro modelo o evitar que parte de la ejecución recaiga en el procesador.
Compruebe el software antes de elegir la marca
Debe comprobar la compatibilidad de la tarjeta exacta, el sistema y el motor de inferencia. Que una tecnología aparezca en la ficha del fabricante no garantiza que su aplicación pueda utilizarla.
En su documentación consultada el 24 de octubre de 2026, Ollama enumera las tarjetas NVIDIA compatibles y presenta listas de AMD distintas según el sistema. La Radeon de la tabla aparece en su lista para Linux, mientras que la lista de Windows para ROCm es diferente. Compruebe, por tanto, cómo se ejecutará el modelo en su configuración antes de comprar. Fuente: compatibilidad de hardware.
El motor llama.cpp documenta, entre otras opciones, CUDA, HIP, Metal, Vulkan y SYCL, además de la ejecución híbrida entre procesador y GPU. Esto abre varias posibilidades de hardware, pero no significa que todas ofrezcan el mismo rendimiento. Fuente: repositorio oficial, consultado el 24 de octubre de 2026.
En un equipo Apple con memoria unificada, la decisión de compra afecta a la configuración completa: no se trata simplemente de elegir una tarjeta gráfica para añadirla. Incluso con una gran cantidad de memoria compartida, debe comprobar la velocidad de procesamiento mediante mediciones.
Elija después la interfaz que mejor se ajuste a su uso. Para conocer las diferencias entre LM Studio y Ollama, consulte la comparativa de LM Studio y Ollama. La guía de LLM en local explica cómo encajan el software, el modelo y el hardware en una misma configuración.
Mida los tiempos que afectan a su uso, además de los tokens por segundo
Un resultado de rendimiento solo resulta útil si se conocen las condiciones: tarjeta, motor, modelo, cuantización, contexto y solicitudes simultáneas. Un gráfico sin esos datos no permite anticipar cómo funcionará su equipo.
Distinga entre el procesamiento de la solicitud y la generación de la respuesta. Al analizar un documento, la espera hasta la primera palabra puede pesar más que la velocidad de redacción. En una conversación breve, se perciben más la regularidad de la generación y la latencia.
Las cifras de potencia teórica anunciadas para IA no miden directamente esos tiempos. Tampoco sustituyen una prueba del modelo en el motor que usted piensa utilizar. Un resultado obtenido en condiciones diferentes debe tomarse como una referencia, no como una promesa.
Prepare un pequeño conjunto de solicitudes reales: un documento habitual, una pregunta difícil y una conversación prolongada. Registre el tiempo total, el máximo de memoria utilizada y la calidad del resultado. Una respuesta rápida que omite información necesaria no justifica la compra.
Separe también la calidad del modelo de la velocidad del hardware. El Laboratorio de benchmarks ayuda a examinar las capacidades de los modelos; el artículo sobre cómo interpretar las clasificaciones de LLM explica las limitaciones de las puntuaciones. Ninguna clasificación general sustituye una prueba con su carga de trabajo local.
Calcule el costo del equipo completo
El precio de la tarjeta no basta. Compruebe el espacio disponible en la caja, la fuente de alimentación, los conectores, la ventilación y la memoria RAM que necesita el software. Una tarjeta compatible sobre el papel puede obligarle a realizar una actualización costosa del resto del equipo.
Las especificaciones eléctricas de los fabricantes sirven para dimensionar la instalación; no describen el consumo medio durante la inferencia. Para calcular el costo de uso, mida el consumo en la toma de corriente durante una tarea representativa y aplique después su tarifa eléctrica y el tiempo de utilización.
Si compra de segunda mano, solicite una demostración bajo carga, una comprobación de la memoria e información sobre la garantía restante. Inspeccione los conectores y el funcionamiento de los ventiladores. Una capacidad atractiva pierde su interés si la tarjeta se calienta en exceso o funciona de forma inestable.
Añadir varias tarjetas no es una ampliación sencilla que funcione sin ajustes. Hace falta un motor capaz de repartir el modelo, una placa base adecuada, espacio suficiente y una fuente de alimentación dimensionada para el conjunto. La comunicación entre tarjetas también puede afectar al rendimiento: exija una prueba de esa configuración.
Esta guía no incluye precios de compra: un precio de lanzamiento no equivale a una cotización de octubre de 2026. Compare ofertas fechadas para el modelo exacto, incluidos impuestos, envío, garantía y los componentes adicionales que pueda necesitar.
Por último, un uso ocasional puede justificar conservar su equipo y aceptar una espera mayor. El artículo Ejecutar un LLM en local detalla los compromisos que conviene valorar antes de destinar un presupuesto a una máquina dedicada.
Qué debe tener en cuenta antes de comprar
- Elija el modelo y su archivo antes que la tarjeta; incluya el contexto y las solicitudes simultáneas en el cálculo de memoria.
- Compruebe que su software admite la GPU exacta en el sistema que utiliza.
- Solicite mediciones representativas: espera hasta el inicio de la respuesta, duración total, memoria y calidad.
- Compare el costo completo del equipo y revise el estado del hardware de segunda mano.
- Reserve las compras más costosas para una necesidad comprobada: disponer de más memoria solo aporta un beneficio si su uso la aprovecha.
Preguntas frecuentes
¿Se puede ejecutar un LLM sin tarjeta gráfica?
Sí, siempre que el software permita ejecutarlo en el procesador y haya suficiente memoria RAM. Pruebe esta opción con sus documentos antes de comprar: una respuesta lenta puede ser aceptable para un uso ocasional.
¿Sirve la tarjeta gráfica de una computadora portátil para ejecutar LLM?
Puede servir, pero revise las especificaciones del modelo exacto de portátil. Que su nombre se parezca al de una tarjeta de escritorio no garantiza la misma memoria ni el mismo rendimiento sostenido. La refrigeración también influye durante las generaciones prolongadas.
¿Una GPU permite usar cualquier modelo sin conexión?
No: debe poder descargar los pesos, contar con una licencia adecuada y utilizar un motor compatible con la arquitectura del modelo. Una aplicación de chat instalada en su equipo también puede recurrir a un servicio remoto; compruebe qué modelo se ejecuta realmente.
¿Es necesario comprar una tarjeta profesional para la IA local?
No siempre. Una tarjeta profesional se justifica cuando su memoria, soporte o formato resuelven una necesidad concreta. Para un equipo de uso individual, solicite primero mediciones con su carga de trabajo.