Llama 3.2 3B Instruct: precio, contexto y benchmarks

Lo que hay que saber de Llama 3.2 3B Instruct

Meta, con sede en Estados Unidos, puso Llama 3.2 3B Instruct en línea el 25 de septiembre de 2024. Acepta texto como entrada y produce texto. Su ventana de contexto alcanza 131.072 tokens, más que el 29 % de los modelos del registro, y puede escribir hasta 72.000 tokens de una vez.

Lanzado hace más de 2 años, pertenece a una generación ya superada por modelos más recientes de casi todos los editores.

Precio de Llama 3.2 3B Instruct

En OpenRouter, Llama 3.2 3B Instruct cuesta 0,05 US$ por millón de tokens de entrada y 0,34 US$ de salida. Contando tres tokens leídos por cada token escrito, su precio medio es de 0,122 US$ por millón, más caro que el 11 % de los modelos de pago (6,3 veces menos que la mediana de 0,76 US$).

Un ejemplo concreto: una tarea que envía 2.000 tokens (unas 1.500 palabras) y recibe 500 tokens de respuesta cuesta 0,0003 US$. Con 1.000 tareas al día, cuente 8 US$ al mes. La calculadora de precios rehace este cálculo con sus propios volúmenes.

Rendimiento y benchmarks

Epoch AI aún no publica un índice de capacidades para Llama 3.2 3B Instruct. Por eso no mostramos ninguna nota de rendimiento inventada: solo el precio, el contexto y las funciones cuentan en su nota.

Funciones, privacidad y uso local

• No admite la llamada a herramientas: no sirve para manejar un agente IA que deba actuar.
• Puede responder en un formato JSON impuesto (salidas estructuradas).
• Sus conocimientos llegan hasta diciembre de 2023.

Sus pesos son abiertos y se pueden descargar en Hugging Face (licencia llama3.2): puede ejecutarlo en sus propias máquinas sin enviar sus datos a terceros. Con 3.212.749.824 mil millones de parámetros, necesita unos 1.795.263.863 GB de memoria en cuantización de 4 bits. Comprobar con la calculadora de VRAM. Se descargó 1.120.299 veces en Hugging Face el mes pasado.

Otros modelos de Meta