Modelo local: o que é rodar IA localmente

De onde vem o termo modelo local?

🌱 Em uma frase: "local" quer dizer "na sua máquina", em oposição a "na nuvem".

Quando você usa um chat de IA pelo navegador, o modelo roda nos servidores de uma empresa. Seu pedido viaja pela internet, é processado lá e a resposta volta. Um modelo local faz esse trabalho no seu computador.

Isso só é possível com modelos de pesos abertos (open weights). Os pesos são os números que o modelo aprendeu no treinamento. Quando a empresa publica esses pesos, você pode baixar o modelo e rodar sem depender dela.

O motivo mais citado para rodar IA localmente é a privacidade. Um guia publicado no blog do Hugging Face resume a troca: rodar modelos menores no computador para trabalhos sensíveis e usar os maiores pela nuvem quando a qualidade pesa mais que o controle. O mesmo guia lembra que os modelos mais avançados ainda não rodam em um notebook comum.

Como rodar IA localmente na prática?

🔎 Você precisa de duas coisas: um programa que carrega e executa o modelo e um modelo que caiba na memória do computador. Duas opções populares, verificadas em nov/2026:

• Ollama. Funciona como serviço e pela linha de comando. É indicado para automação e para conectar o modelo a outras ferramentas. O blog oficial anunciou o Ollama 0.30 em 24/10/2026, com melhor desempenho para modelos GGUF via `llama.cpp`. No Windows, a documentação (27/10/2026) pede Windows 10 22H2 ou posterior e, para placas NVIDIA, drivers 551.61 ou posteriores. Em Macs com Apple Silicon, o Ollama também usa o mecanismo MLX (anúncio atualizado em 11/11/2026).
• LM Studio. É um aplicativo com interface gráfica. Você baixa e configura modelos sem depender tanto do terminal. Segundo a documentação oficial (03/10/2026), ele roda em Macs Apple Silicon, PCs Windows x64/ARM64 e PCs Linux x64, usando `llama.cpp`. Os requisitos (02/10/2026) recomendam pelo menos 16 GB de RAM e exigem suporte a AVX2 em processadores x64. Há também uma página sobre uso offline.

O que muda entre eles: o LM Studio é mais fácil para quem quer clicar e testar. O Ollama é mais prático para quem quer integrar o modelo a scripts e outros programas. Os dois rodam sobre o `llama.cpp`, um motor de código aberto que você também pode usar diretamente.

Quanta memória? Depende do modelo. Alguns exemplos com data:

• Modelos pequenos: a página do LFM2.5-2.6B no site do Ollama indica 4 GB de RAM no mínimo e 8 GB recomendados.
• Modelos médios: o NVIDIA Nemotron 3.5 Lightning tem 30 bilhões de parâmetros, 3 bilhões ativos, e é voltado a agentes (IA que executa tarefas com ferramentas) (Ollama, 24/10/2026). Para o Qwen3.5-35B-A3B em Mac, o Ollama recomenda mais de 32 GB de memória unificada (11/11/2026).
• Modelos grandes: um playbook da NVIDIA (19/10/2026) indica no mínimo 65 GB de memória e 65 GB de armazenamento para um modelo grande de exemplo.

🚀 A memória não depende só do número de parâmetros. Ela também depende da quantização (compressão dos pesos, que reduz o tamanho com alguma perda de qualidade), do tamanho do contexto (quanto texto o modelo considera de uma vez) e de quanto da execução vai para a placa de vídeo. A documentação de GPU do Ollama (27/10/2026) lista as placas NVIDIA e AMD aceitas.

Quais são as confusões comuns sobre modelo local?

• "Local" não é o mesmo que "código aberto". Muitos modelos locais têm só os pesos abertos. O código e os dados de treinamento podem continuar fechados. Cada modelo tem sua licença, e vale ler antes de usar em um produto.
• "Parâmetros ativos" não é a memória necessária. Em um modelo como o Nemotron 3.5 Lightning (30 bilhões no total, 3 bilhões ativos), cada resposta usa só uma parte do modelo. Isso reduz o cálculo, mas o modelo inteiro ainda precisa caber na memória.
• Maior não é sempre melhor. Um modelo menor que roda com fluidez costuma ser mais útil que um gigante que trava a máquina. Comece pelo que o seu computador aguenta com folga.
• Local não é "igual ao chat da nuvem". Os modelos que cabem em um computador comum costumam ficar atrás dos maiores modelos servidos pela nuvem. Até nov/2026, não há medição comparável e pública entre os modelos locais citados aqui. Por isso, nenhum deles pode ser chamado de "o melhor". Teste para a sua tarefa.
• Privacidade depende de onde o dado fica. Rodar o modelo localmente evita mandar seus pedidos para um servidor externo. Ainda assim, confira o que cada programa e cada extensão que você instala fazem com os seus arquivos.