Context window (janela de contexto) é o limite de texto que um modelo de linguagem consegue processar de uma só vez, medido em tokens. Inclui tudo que entra na requisição: system prompt, histórico da conversa, documentos anexados e a resposta que está sendo gerada.
Na prática, funciona como a memória de trabalho do modelo: o que está dentro da janela ele "enxerga"; o que ficou fora ele ignora. Quando o histórico cresce além do limite, o modelo descarta as mensagens mais antigas, o que pode gerar respostas inconsistentes ou repetições.
Para equipes de viagens corporativas e hotéis que usam IA, o tamanho da janela define quantas páginas de política de viagens, contratos de fornecedor ou relatórios de despesas cabem em uma única análise. Um modelo com janela de 128 mil tokens comporta aproximadamente 90 páginas de texto corrido. Modelos com janelas menores exigem divisão manual do conteúdo ou uso de RAG para recuperar trechos relevantes antes de enviar ao modelo.
O custo costuma ser proporcional aos tokens processados, então janelas grandes têm impacto direto no orçamento de operação de um produto de IA.
Não confunda com memória persistente: context window é volátil e resetada a cada sessão, a menos que o sistema salve e reinjete o histórico explicitamente.
Perguntas frequentes
Context Window na prática
- O que acontece quando o contexto do modelo acaba?
- Quando o histórico ultrapassa o limite da janela, o modelo descarta as mensagens mais antigas da conversa. O resultado prático é perda de coerência: ele pode ignorar instruções dadas no início ou repetir informações que já foram discutidas.
- Qual a diferença entre context window e memória do chatbot?
- Context window é o espaço ativo e temporário de uma única sessão. Memória persistente é um recurso separado, implementado pelo sistema, que salva informações entre sessões e as reinjeta no prompt. Sem esse mecanismo, cada nova conversa começa do zero.
- Quando usar RAG em vez de aumentar o context window?
- RAG é indicado quando a base de conhecimento é maior do que qualquer janela disponível, ou quando o custo de processar tokens em excesso é alto. Em vez de enviar o documento inteiro, o RAG recupera só os trechos relevantes e os insere no contexto.
- Context window é a mesma coisa que token?
- Não. Token é a unidade de medida: em português, equivale a cerca de 0,75 palavras. Context window é o limite total de tokens que o modelo aceita em uma requisição, somando entrada e saída.
- Quanto texto cabe em uma janela de 128k tokens?
- Aproximadamente 90 a 100 páginas de texto corrido em português. É suficiente para uma política de viagens corporativas completa ou um contrato de fornecedor extenso, mas não para uma base inteira de FAQs de suporte.