Qué es
Los modelos no leen letras ni palabras exactas, sino tokens: fragmentos de texto. Una palabra puede ser uno o varios tokens. Como referencia, unos 750 tokens equivalen a cerca de 1000 palabras.
Por qué importa a una agencia
El precio de las APIs y el límite de contexto se cuentan en tokens. Entenderlos te ayuda a estimar costos y a no pasarte del límite de la ventana de contexto.
Ejemplo
Un prompt largo con mucho contexto consume más tokens de entrada, lo que sube el costo de cada llamada.
En numeros
Regla de dedo: 1 token equivale a unos 4 caracteres o 3/4 de una palabra en ingles; en espanol rinde algo menos. Unos 750 tokens son cerca de 1000 palabras. Los precios de API se cotizan por millon de tokens, con la salida costando tipicamente de 3 a 5 veces mas que la entrada. A diferencia de una palabra, un token no respeta fronteras: "automatizacion" puede partirse en 3 o 4 pedazos.