Dicionário de IA · Fundamentos

Janela de contexto

Também chamado de: contexto

Tudo que o modelo usa para responder precisa caber nessa janela: instruções, histórico da conversa, documentos anexados, resultado das ferramentas e a resposta que ele está escrevendo. O que não cabe, ele não vê.

Na prática

  • Conversas muito longas perdem o começo ou passam a ser resumidas.
  • Janela grande não garante atenção igual a tudo. Informação perdida no meio de um texto enorme tende a ser menos aproveitada.
  • Agentes gerenciam a janela por você, decidindo o que entra a cada passo. Isso é trabalho do harness.
  • Skills existem em parte para economizar janela: só entram quando a tarefa pede.

Atualizado em · · Todos os conceitos