Token é a unidade em que um LLM divide o texto para processá-lo. Em português, 1 token corresponde em média a 3 ou 4 caracteres; uma página de texto tem por volta de 500 tokens.
Onde aparece
- Preço: APIs de IA cobram por milhão de tokens de entrada e de saída
- Limites: a context window é medida em tokens
- Velocidade: a geração de resposta é medida em tokens por segundo
Em travel
Entender tokens ajuda a estimar o custo de automatizar tarefas: um fluxo que resume 200 e-mails de clientes por dia consome uma quantidade previsível de tokens, o que permite comparar o custo entre modelos antes de escolher a ferramenta.
Não confundir com tokenization de pagamentos, que é a substituição de dados de cartão por tokens seguros.