Dicionário de IA

Conceitos do mundo da IA, direto ao ponto.

Fundamentos

Agente: Agente é um modelo de IA colocado num laço com ferramentas, que decide os próprios passos para cumprir uma tarefa: lê arquivos, roda comandos, consulta sistemas e confere o resultado.
Harness: Harness é o software em volta do modelo que o transforma em agente: o laço que chama o modelo, as ferramentas que ele pode usar, o contexto que recebe e as permissões que o limitam.
Inferência: Inferência é o momento em que um modelo já treinado é usado para gerar uma resposta. Cada pedido ao modelo é uma inferência, e é isso que os provedores servem e cobram.
Janela de contexto: Janela de contexto é o quanto de texto o modelo consegue considerar de uma vez, somando instruções, conversa, arquivos e a própria resposta. É medida em tokens.
Modelo: O modelo é o sistema treinado que recebe texto (e às vezes imagem ou áudio) e gera a resposta. É o motor de qualquer ferramenta de IA, mas sozinho não abre arquivos nem usa ferramentas.
Prompt: Prompt é a instrução que você manda ao modelo. Inclui o pedido e todo o contexto que ajuda a acertar a resposta: papel, situação, formato e exemplos.
Skill: Skill é um conjunto de instruções guardado num arquivo, que o agente carrega só quando a tarefa pede. Serve para ensinar procedimentos ao agente sem repetir o mesmo prompt.
Token: Token é a unidade de texto que o modelo lê e escreve. Uma palavra pode ser um ou vários tokens. Preço, velocidade e limite de contexto dos modelos são medidos em tokens.

Mercado

Modelo de fronteira: Modelo de fronteira é o modelo de uso geral mais capaz disponível num dado momento, aquele que empurra o limite do que a IA consegue fazer. É um alvo móvel: o de fronteira de hoje vira o comum de amanhã.
Modelos chineses e americanos: Os principais modelos de IA vêm de laboratórios dos Estados Unidos e da China. Os americanos lideram em capacidade e são fechados. Os chineses costumam ter pesos abertos e preço bem menor, com diferenças de regulação e conteúdo.
Open weights: Open weights é o modelo cujos pesos (os parâmetros treinados) podem ser baixados e rodados por qualquer um. Não é o mesmo que open source: quase nunca vêm junto os dados e o código de treino.
Provedor: Provedor é quem entrega o modelo para você usar, normalmente por API. Pode ser o laboratório que treinou o modelo, uma nuvem que revende vários modelos ou uma empresa especializada em rodar modelos abertos.