Context window (janela de contexto) é o limite de texto que o modelo "enxerga" simultaneamente: soma do system prompt, do histórico da conversa, dos documentos anexados e da resposta em geração.
Por que importa
- Janelas maiores permitem analisar contratos, relatórios e planilhas extensas em uma única conversa
- Quando o limite é excedido, o modelo perde o início da conversa e pode responder de forma inconsistente
- Modelos cobram por token processado, então janelas grandes têm custo proporcional
Em travel
Define, na prática, quantas páginas de política de viagens, quantos orçamentos ou quantos contratos de fornecedor cabem em uma única análise. Para bases de conhecimento maiores que a janela, a técnica usada é RAG.