VRAM: la memoria que decide qué modelos de IA puede ejecutar
La VRAM es la memoria instalada directamente en la tarjeta gráfica. Para que un modelo de IA funcione rápido en una GPU, sus pesos y su memoria de trabajo deben caber en ella; por eso suele ser la VRAM, más que la potencia, la que fija el tamaño de los modelos que se pueden usar en local.
Datos a 22 de octubre de 2026
Lo esencial en cifras
| Nivel | Avanzado |
|---|
La definición
La VRAM es la memoria propia de la tarjeta gráfica, distinta de la memoria RAM del ordenador.
Una GPU calcula muy rápido, pero solo con los datos que están en su memoria. En IA, ahí se cargan los pesos del modelo y, durante la generación, la caché clave-valor y resultados intermedios. La VRAM se describe con dos cifras: su capacidad (en gigabytes), que decide qué cabe, y su ancho de banda, que influye en la velocidad, porque generar cada token obliga a releer gran parte de los pesos.
Cómo estimar lo que hace falta
La documentación de Hugging Face propone una regla sencilla: un modelo de X mil millones de parámetros necesita unos 4 × X GB en 32 bits y 2 × X GB en 16 bits, solo para los pesos. Después hay que sumar:
- la caché clave-valor, que crece con la longitud del contexto y el número de peticiones simultáneas;
- un margen para los cálculos intermedios y el propio software.
Ejemplo con cifras. Un modelo de 8 mil millones de parámetros necesita unos 16 GB en 16 bits. Con la cuantización Q4_K del formato GGUF, que Hugging Face describe con 4,5 bits por peso, el cálculo da 8 × 4,5 ÷ 8 = 4,5 GB para los pesos. El modelo pasa a ser viable en una tarjeta gráfica doméstica, siempre que quede sitio para el contexto.
Por qué es importante
La VRAM es el recurso más caro y más limitado tanto en la IA local como en los centros de datos. La misma documentación señala que modelos como Llama 2 70B (unos 140 GB en 16 bits) superan los 80 GB de las tarjetas A100 y H100 y deben repartirse entre varias GPU. Técnicas como FlashAttention buscan precisamente reducir los accesos a esta memoria, más lenta que la memoria interna del chip.
Ideas erróneas
- «Con mucha RAM basta.» La memoria del sistema permite cargar un modelo, pero calcular desde ella es mucho más lento que desde la VRAM, salvo en equipos con memoria compartida.
- «Si caben los pesos, cabe todo.» Un contexto largo puede añadir varios gigabytes de caché.
- «Más VRAM hace el modelo más inteligente.» Permite cargar un modelo más grande o menos comprimido; no cambia un modelo dado.
Términos relacionados: GPU, cuantización, formato GGUF e inferencia.
Términos relacionados
- GPU (procesador gráfico) · Chip diseñado para hacer miles de cálculos en paralelo, convertido en el motor del entrenamiento y del uso de los modelos de IA.
- Cuantización · Técnica que guarda los pesos de un modelo con menos bits (8, 4 o incluso menos) para que ocupe mucha menos memoria.
- Caché clave-valor (KV cache) · Memoria donde un modelo guarda los cálculos ya hechos sobre los tokens anteriores para no repetirlos en cada palabra nueva.
- Parámetros de un modelo · Números internos que un modelo ajusta durante su entrenamiento; su cantidad indica el tamaño del modelo, no directamente su calidad.
- GGUF (formato de modelo) · Formato de archivo único que reúne los pesos de un modelo, a menudo cuantizados, y sus metadatos, para ejecutarlo en local con llama.cpp y derivados.
- Inferencia · Momento en que un modelo ya entrenado se usa para producir una respuesta: cada pregunta enviada a una IA desencadena una inferencia.
Para probar
Todo el glosario
Preguntas frecuentes
¿Cuánta VRAM necesita un modelo de 7 u 8 mil millones de parámetros?
En 16 bits, cuente unos 2 GB por cada mil millones de parámetros, es decir, unos 15 GB solo para los pesos. Cuantizado a unos 4 bits, el mismo modelo baja a pocos gigabytes, a los que hay que sumar la caché clave-valor y un margen.
¿Qué pasa si el modelo no cabe en la VRAM?
Algunos programas, como llama.cpp, pueden dejar parte de las capas en la memoria RAM del sistema y calcularlas con el procesador. El modelo funciona, pero mucho más despacio, porque los intercambios entre la tarjeta y el resto del ordenador se convierten en el cuello de botella.
¿La VRAM también se usa para entrenar?
Sí, y hace falta mucha más: además de los pesos, el entrenamiento guarda los gradientes y el estado del optimizador. Por eso se usan tanto métodos como LoRA y QLoRA, que reducen esas necesidades.
Fuentes de los datos
Datos a 22 de octubre de 2026
Señalar un error
¿Una cifra, una fecha o un dato le parece incorrecto? Díganoslo: verificamos cada aviso.