Viés algorítmico (viés na inteligência artificial)

O que é viés na inteligência artificial e de onde ele vem?

Em uma frase: há viés quando os erros de um sistema de IA não se distribuem por igual e pesam mais sobre alguns grupos de pessoas.

🌱 Sou novo nisso. Um sistema de IA aprende a partir de exemplos, os dados. Se esses exemplos representam mal uma parte da população, o sistema tende a errar mais com essa parte.

🔎 Já uso. A Comissão Europeia descreve o problema em termos concretos: resultados enviesados incluem falsos positivos ou falsos negativos que afetam de forma desproporcional grupos marginalizados por raça ou origem étnica, sexo, idade ou outras características protegidas (Comissão Europeia, FAQ do AI Act, verificado em nov/2026). Um falso positivo é quando o sistema aponta algo que não existe. Um falso negativo é quando deixa passar algo que existe.

As origens mais citadas pelas fontes oficiais e jurídicas são:

• dados de treinamento, validação e teste que não são representativos;
• erros que caem de modo desigual sobre grupos diferentes;
• uso em decisões de alto impacto, como emprego, crédito, educação, serviços essenciais, saúde, segurança pública e biometria.

No Brasil, estudos acadêmicos registram controvérsias públicas com erros, vieses e impactos discriminatórios no reconhecimento facial em espaços públicos (Revista GEO).

Como o viés algorítmico aparece nas leis, como o AI Act e o PL 2338?

União Europeia (verificado em nov/2026). O AI Act trata o viés como um requisito técnico e de dados para sistemas de alto risco.

• A Comissão Europeia exige avaliação e mitigação de riscos, dados de qualidade para reduzir resultados discriminatórios, registro de atividades, documentação técnica, supervisão humana, robustez, cibersegurança e precisão (Comissão Europeia).
• O Conselho da UE inclui entre os sistemas de alto risco diagnóstico médico, condução autônoma, gestão de trabalhadores e identificação biométrica em contextos criminais (Conselho da UE).
• O artigo 10 pede examinar e avaliar possível viés nos dados de treinamento, validação e teste (DLA Piper).
• O artigo 26 obriga quem opera esses sistemas a garantir supervisão humana competente, monitorar a operação, cuidar dos dados de entrada, guardar registros por pelo menos seis meses e comunicar riscos ou incidentes (AI Act Service Desk, art. 26).
• Calendário: segundo a Comissão, as obrigações para sistemas de alto risco do Anexo III começam em 2 de dezembro de 2027. Certas categorias ligadas à legislação de produtos começam em 2 de agosto de 2028 (Comissão Europeia; Akin Gump).

Brasil. O Projeto de Lei nº 2338/2023 propõe um marco legal para a IA com abordagem baseada em risco. No texto analisado por trabalhos acadêmicos, o art. 5º prevê o "direito à não-discriminação e à correção de vieses discriminatórios diretos, indiretos, ilegais ou abusivos" (SciELO Preprints, preprint). O art. 19 prevê "medidas de gestão de dados adequadas para a mitigação e prevenção de potenciais vieses discriminatórios" (UNILA). Esta página não confirma o estado atual da tramitação. Confira a situação em fonte oficial antes de tratar esse texto como lei em vigor.

🚀 Já sou mais avançado. O AI Act não impõe uma métrica única de equidade. A abordagem se apoia em dados representativos, testes de viés e monitoramento depois da implantação. Pelo artigo 10(5), o tratamento de categorias especiais de dados, como origem étnica, é permitido em caráter excepcional quando for estritamente necessário para detectar e corrigir viés (EDPB–EDPS, abril de 2026).

Quais são as confusões comuns sobre viés na IA?

• Viés não é alucinação. Alucinação é uma resposta inventada com confiança. Viés é um padrão de erro ou de tratamento desigual entre grupos. Uma resposta pode estar bem escrita e ainda assim ser enviesada.
• Tirar dados sensíveis não resolve tudo. Técnicas de anonimização podem reduzir a chance de viés, mas não a eliminam (SciELO Preprints, preprint). Por isso o AI Act permite, em casos estritos, usar esses dados justamente para medir e corrigir o viés.
• Lei técnica não encerra a questão jurídica. Um estudo de Stanford, de 13 de agosto de 2026, conclui que o AI Act reduz riscos técnicos de viés, mas não resolve por completo a discriminação algorítmica como conceito jurídico. O estudo aponta uma possível lacuna para o "viés emergente", que surge com o uso. As leis antidiscriminação continuam valendo (Stanford Law School).
• Não existe um modelo livre de viés por definição. Nenhum modelo é o melhor para tudo. Se você usa IA para algo que afeta pessoas, compare as respostas de mais de um modelo e confira o resultado antes de decidir.