De acordo com a propria IA:

• I. Vieses racistas em reconhecimento facial: Sistemas de IA são treinados com bases de dados. Se a base de dados tiver pouca diversidade (ex: mais fotos de pessoas brancas), o algoritmo terá dificuldade em identificar pessoas negras, gerando falsos positivos ou erros graves em segurança pública. Isso fere o princípio da Não Discriminação (Art. 6º, IX da LGPD).
• II. Sistemas de recrutamento com vieses sexistas: Se um algoritmo "aprende" com o histórico de contratações de uma empresa que historicamente só promoveu homens, ele pode passar a descartar currículos de mulheres automaticamente, acreditando que o gênero é um fator de "sucesso". É a automação do preconceito.
• III. Microdirecionamento político (Microtargeting): Ficou famoso no caso Cambridge Analytica. Ao usar perfis psicológicos para entregar propagandas personalizadas (muitas vezes com fake news), a IA pode manipular o debate público e ferir a Autodeterminação Informativa e a própria democracia.

Resumindo:

1. IA não é neutra: Ela reflete os preconceitos de quem a programou ou dos dados que a alimentaram (vieses).
2. Transparência Algorítmica: O Judiciário exige saber como a máquina chegou àquela conclusão, especialmente se envolver direitos de cidadãos.

Art. 20. O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.            

§ 1º O controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial.

§ 2º Em caso de não oferecimento de informações de que trata o § 1º deste artigo baseado na observância de segredo comercial e industrial, a autoridade nacional poderá realizar auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais.

Bela digitação

I, II e II? KKKK fui por eliminação, mas assim é difícil