Parâmetros (de um modelo de IA)

De onde vem o termo parâmetros?

Em uma frase: parâmetros são os números internos que um modelo ajusta enquanto aprende.

Um modelo de linguagem é uma rede neural. Dentro dela há valores numéricos, os pesos. No treinamento, esses valores são ajustados pouco a pouco para que o modelo represente padrões dos dados.

A ANPD, no Radar Tecnológico sobre IA generativa, descreve os grandes modelos como redes neurais "composta[s] por bilhões de parâmetros", que "são ajustados durante a fase de treinamento", feita com uma quantidade massiva de dados.

Por isso as fichas falam em "bilhões de parâmetros". A letra B vem de billion, bilhão em inglês: 1B é aproximadamente 1 bilhão de parâmetros.

Como os parâmetros de um modelo de IA aparecem nas fichas técnicas?

Em uma frase: a ficha informa quantos parâmetros o modelo tem e, às vezes, quantos ele usa de fato a cada passo.

🌱 Denso ou MoE. Um modelo denso usa, em geral, todos os parâmetros para processar cada token. Token é um pedaço de texto de entrada ou saída. Um modelo MoE (Mixture of Experts, "mistura de especialistas") tem vários especialistas, mas ativa só parte deles a cada entrada.

🔎 Exemplo atual (verificado em nov/2026). A ficha do Gemma 4, do Google, mostra os dois tipos:

As versões E2B e E4B são voltadas a celulares e dispositivos de borda. A documentação do Gemma separa modelos "effective" (efetivos) e totais.

🚀 Parâmetros e memória. Como aproximação, cada parâmetro ocupa cerca de 4 bytes em FP32, 2 bytes em FP16 ou BF16 e 1 byte em formatos de 8 bits. São formatos de precisão numérica. Assim, 30B de parâmetros podem exigir aproximadamente 60 GB só em BF16, ou cerca de 30 GB em 8 bits. O consumo real é maior: inclui cache de atenção, buffers e a infraestrutura de execução.

Quais são as confusões mais comuns sobre parâmetros?

Em uma frase: parâmetro não é nota de qualidade, nem tamanho de contexto, nem número de usuários.

• Parâmetros não são tokens nem contexto. O contexto é quanto texto o modelo considera em um pedido. Os tokens são as unidades de entrada e saída. Os parâmetros são os valores internos aprendidos.
• Total não é igual a ativo. Em um MoE, muitos pesos ficam guardados, mas só parte trabalha a cada token. O custo de computação por token pode ser menor que o de um modelo denso de tamanho total parecido.
• Mais parâmetros não garantem resultado melhor. Dentro de uma mesma família, treinada em condições comparáveis, modelos maiores costumam ir melhor nos testes, mas os ganhos podem diminuir. Entre famílias diferentes, dados, arquitetura, treinamento e inferência podem fazer um modelo menor superar um maior. Um relatório do Stanford HAI (AI Index 2023) comparou modelos de 60 milhões a 530 bilhões de parâmetros. Os grandes foram, em geral, melhores, mas modelos médios ajustados para seguir instruções foram "surpreendentemente" bem.
• Nem todo fornecedor divulga o número. O Google publica os parâmetros do Gemma 4. Já o anúncio do Gemini 4 Carbon traz preço (US$ 2 por milhão de tokens de entrada e US$ 10 por milhão de saída, subindo para US$ 4 e US$ 20 após 30 de novembro de 2026), mas não traz parâmetros. A página de preços da OpenAI consultada também não informa o total. Atribuir um número a modelos fechados seria especulação (verificado em nov/2026).
• Modelo não é o mesmo que aplicativo. Um app pode somar ao modelo busca, ferramentas, memória e instruções próprias. Comparar só "quantos bilhões" o app tem pode ser impossível ou enganoso.

Para escolher uma ferramenta, compare na sua tarefa real: qualidade, rapidez, preço, contexto, privacidade e o equipamento que você tem.