Llama 3.1 8B Instruct: precio, contexto y benchmarks

Lo que hay que saber de Llama 3.1 8B Instruct

Meta, con sede en Estados Unidos, puso Llama 3.1 8B Instruct en línea el 23 de julio de 2024. Acepta texto como entrada y produce texto. Su ventana de contexto alcanza 131.072 tokens, más que el 29 % de los modelos del registro, y puede escribir hasta 117.964 tokens de una vez.

Lanzado hace más de 2 años, pertenece a una generación ya superada por modelos más recientes de casi todos los editores.

Precio de Llama 3.1 8B Instruct

En OpenRouter, Llama 3.1 8B Instruct cuesta 0,05 US$ por millón de tokens de entrada y 0,08 US$ de salida. Contando tres tokens leídos por cada token escrito, su precio medio es de 0,058 US$ por millón, más caro que el 3 % de los modelos de pago (13,1 veces menos que la mediana de 0,76 US$).

Un ejemplo concreto: una tarea que envía 2.000 tokens (unas 1.500 palabras) y recibe 500 tokens de respuesta cuesta 0,0001 US$. Con 1.000 tareas al día, cuente 4 US$ al mes. La calculadora de precios rehace este cálculo con sus propios volúmenes.

Los tokens ya enviados y en caché se facturan a 0,025 US$ por millón.

Rendimiento y benchmarks

Epoch AI aún no publica un índice de capacidades para Llama 3.1 8B Instruct. Por eso no mostramos ninguna nota de rendimiento inventada: solo el precio, el contexto y las funciones cuentan en su nota.

Puntuaciones publicadas por Epoch AI en los benchmarks que sigue el sitio:

Funciones, privacidad y uso local

• Admite la llamada a herramientas: puede manejar un agente IA, llamar a API o a servidores MCP.
• Puede responder en un formato JSON impuesto (salidas estructuradas).
• Sus conocimientos llegan hasta diciembre de 2023.

Sus pesos son abiertos y se pueden descargar en Hugging Face: puede ejecutarlo en sus propias máquinas sin enviar sus datos a terceros.

Otros modelos de Meta