O que deve ser evitado ao usar IA generativa: riscos, dados sensíveis e erros comuns

O que deve ser evitado ao usar IA generativa, em resumo?

Em uma frase: a IA generativa ajuda muito em textos, resumos e ideias, mas você deve evitar entregar a ela dados que não pode expor e evitar usar a resposta sem conferir.

🌱 Sou novo nisso. O guia de boas práticas do governo federal para o serviço público resume bem os cuidados, e eles valem para qualquer pessoa:

• não inserir dados pessoais, sensíveis ou identificáveis; usar exemplos fictícios ou informações públicas e anonimizadas;
• não usar a IA para tratar informações estratégicas, sigilosas ou protegidas por lei;
• usar a resposta apenas como apoio, verificar as informações e não reproduzir o conteúdo automaticamente;
• nunca implementar códigos ou divulgar links gerados por IA sem revisão técnica;
• evitar a IA em decisões estratégicas: ela deve servir de apoio, não substituir o julgamento humano.

O mesmo guia lembra que a responsabilidade pelo conteúdo é de quem usa, e recomenda informar, sempre que possível, quando um texto foi produzido com apoio de IA.

Que dados nunca devo colocar em um chat de IA?

🔎 Já uso. Antes de colar qualquer coisa, pergunte: isso pode ser visto por outra pessoa sem causar dano?

O órgão federal suíço de segurança cibernética (fonte de 16 de outubro de 2026) recomenda verificar se o que você vai inserir contém informações pessoais, dados de clientes ou segredos comerciais, e anonimizar. A mesma fonte alerta que algumas ferramentas podem usar os dados de entrada para treinar modelos futuros, salvo exclusão contratual ou configuração equivalente.

Na prática, retire do texto:

• nomes, identificadores e números de documentos;
• dados de saúde;
• senhas e credenciais;
• segredos comerciais e documentos confidenciais.

O risco não é só teórico. O guia do governo federal aponta que informações inseridas em prompts podem ser indevidamente memorizadas ou reproduzidas, o que gera risco de vazamento. A ANPD observa que o prompt (a mensagem ou comando que você envia ao modelo) hoje aceita anexos em diferentes formatos, o que amplia a quantidade de dados que um usuário pode compartilhar.

Universidades analisadas em relatório da Faculdade de Direito da USP sugerem ainda desabilitar o histórico salvo quando possível, escolher a configuração que impede o uso dos seus prompts no treinamento e preferir ferramentas aprovadas pela instituição.

Por que não dá para confiar na resposta da IA sem conferir?

Modelos de linguagem geram texto com base em correlações estatísticas. Eles não têm compreensão humana, e por isso a saída pode estar errada, segundo a fonte suíça. Esse erro tem nome: alucinação, uma resposta inventada apresentada com confiança.

O relatório da USP acrescenta três pontos:

• a resposta pode parecer plausível e confiável e, mesmo assim, ser falsa ou distorcida;
• por ser probabilística, a IA pode dar resultados diferentes para o mesmo pedido, ao contrário de um software tradicional;
• as respostas não são neutras, porque os dados de treinamento foram criados por pessoas e trazem preconceitos e estereótipos.

O guia do governo federal cita outro risco: a obsolescência. O conhecimento do modelo pode parar na data do treinamento e ignorar leis recentes ou fatos novos. Ele também alerta para referências legais inexistentes.

O que fazer:

• pedir fontes e conferir se elas sustentam mesmo a afirmação;
• conferir números, citações, decisões jurídicas, referências acadêmicas e código;
• separar fatos, inferências e opiniões;
• não delegar decisões médicas, jurídicas ou financeiras sem revisão de um profissional.

Não há, nas fontes consultadas, medição de 2026 com método comum que compare a taxa de alucinação dos modelos atuais. Por isso, esta página não aponta nenhum deles como o mais preciso.

Como ChatGPT, Gemini e Claude tratam os seus dados?

Verificado em nov/2026. As regras mudam conforme o tipo de conta. Confira a sua antes de enviar algo sensível.

ChatGPT (OpenAI). Em contas individuais, a OpenAI informa que pode usar o conteúdo enviado, incluindo conversas, para melhorar os modelos, salvo se você desativar essa opção (página atualizada em 13 de novembro de 2026). Nos controles de dados, em Settings → Data controls, você desativa o treinamento, usa conversa temporária, controla a memória, exporta dados e exclui a conta. Para ChatGPT Business, Enterprise, Edu e API, a OpenAI declara que, por padrão, não usa entradas e saídas para melhorar os modelos.

Gemini (Google). No Google Workspace, o Google informa que os dados são tratados segundo os termos de processamento aplicáveis e não são compartilhados fora da organização sem permissão (página de 2 de novembro de 2026). O Workspace Updates afirma que dados organizacionais não são revisados por humanos nem usados para treinar modelos Gemini, e que o Gemini respeita as permissões do usuário. Para contas pessoais, o próprio Google alerta que o tratamento pode ser diferente. Não estenda as regras do Workspace ao aplicativo pessoal.

Claude (Anthropic). As fontes consultadas não trazem documento de 2026 sobre treinamento, retenção ou revisão humana no Claude. Consulte a página oficial da Anthropic antes de usar.

🚀 Já sou mais avançado. Um estudo do CTS-FGV avaliou se as políticas de privacidade de sete plataformas cumpriam requisitos mínimos da LGPD, em 14 perguntas de sim ou não (o trecho consultado não informa a data da análise). Gemini, Claude e MetaAI tiveram 11 respostas "sim"; ChatGPT, 9; Copilot, 8; Grok, 6; Deepseek, 5. O estudo mede a transparência das políticas, não a segurança real de cada serviço.

Quais cuidados valem no trabalho e na escola?

No trabalho. Prefira contas empresariais administradas, com contrato e controles. Elas costumam ter regras de dados mais restritas que as contas pessoais, como mostram as políticas da OpenAI e do Google acima. No Workspace, o Google informa que ações externas, como enviar mensagens ou marcar compromissos, mostram uma prévia para você revisar, editar e confirmar. Uma regra interna mínima deve definir quais dados podem entrar, quais ferramentas são autorizadas, quando a revisão humana é obrigatória, como registrar o uso e quem responde por erros. O guia do governo federal sugere registrar finalidade, versão e revisão, e não usar IA em comunicações oficiais sem validação.

Na escola. O ChatGPT Edu está entre os serviços em que a OpenAI diz não usar entradas e saídas para treinar por padrão. O Google também separa contas pessoais de contas de escola. Práticas prudentes: declarar quando a IA foi usada, exigir fontes, avaliar também rascunhos e compreensão, não enviar dados identificáveis de estudantes para contas pessoais e definir em quais tarefas a IA é proibida, permitida ou obrigatória.

Direitos autorais. O guia federal lembra que conteúdos gerados podem violar a LGPD ou direitos autorais. As fontes consultadas não bastam para uma análise jurídica atualizada. Por prudência, verifique semelhança com obras existentes, preserve as fontes, confira licenças e procure orientação jurídica em uso comercial.

Excesso de confiança. Não há estudo de 2026, nas fontes consultadas, que quantifique a dependência da IA. Ainda assim, vale manter a habilidade de fazer a tarefa sem ela e comparar com fontes independentes.

Linha do tempo

1. 6 de fevereiro de 2026 A OpenAI publica sua política de privacidade regional, que descreve controles para impedir o uso do conteúdo no treinamento e para exportar histórico e dados.
2. 16 de outubro de 2026 O órgão federal suíço de segurança cibernética recomenda não inserir dados pessoais, de clientes ou segredos comerciais sem verificar configurações e regras da organização.
3. 29 de outubro de 2026 O Google atualiza a página de ajuda do Gemini que alerta que contas pessoais podem ter tratamento de dados diferente das contas de trabalho ou escola.
4. 2 de novembro de 2026 O Google atualiza a página sobre como o Gemini trata dados no Google Workspace.
5. 10 de novembro de 2026 O blog Google Workspace Updates informa que dados organizacionais não são usados para treinar modelos Gemini (atualizado em 12 de novembro de 2026).
6. 13 de novembro de 2026 A OpenAI atualiza a página que explica quando o conteúdo das conversas pode ser usado para melhorar os modelos.