Gabarito: E (Errado)

Interpretação e tema central:

A questão exige conhecimento específico da Resolução CNJ nº 332/2020, especialmente quanto ao manejo de modelos de inteligência artificial (IA) que apresentem viés discriminatório no âmbito do Poder Judiciário.

Legislação aplicável:

Citando o dispositivo relevante:

“Resolução CNJ nº 332/2020, Art. 7º, § 3º:
‘A impossibilidade de eliminação do viés discriminatório do modelo de Inteligência Artificial implicará na descontinuidade de sua utilização, com o consequente registro de seu projeto e as razões que levaram a tal decisão.’”

Explicação do tema:

O objetivo do CNJ é garantir que nenhum modelo de IA utilizado no Judiciário perpetue ou produza discriminações. Se não for possível eliminar o viés, o modelo deve ser obrigatoriamente descontinuado — não se admite sua correção continuada nem uso temporário.

Exemplo prático:

Imagine um sistema de IA que, ao sugerir prioridades em análises processuais, desqualifica consistentemente ações de determinados grupos sociais, por conta de treinamento enviesado em dados históricos. Se o viés não puder ser removido, essa solução deve ser imediatamente descontinuada e o projeto arquivado com justificação formal, conforme exige a Resolução.

Justificativa da resposta:

A alternativa está ERRADA porque afirma o oposto do que prescreve a legislação: a continuidade está vedada se não for possível corrigir o viés. O ideal, segundo a Resolução, é a descontinuidade automática nessas hipóteses.

Pegadinha:

A questão tenta induzir o candidato a interpretar que bastaria "adotar medidas corretivas", mas isso só é cabível enquanto for possível eliminar o viés. Se for impossível, a eliminação do modelo é obrigatória.

Doutrina de apoio:

Mauro Luiz Campbell Marques destaca a autodeterminação informativa e a necessidade intransigente de remover modelos de IA discriminatórios do Judiciário.

Gostou do comentário? Deixe sua avaliação aqui embaixo!

CAPÍTULO III

DA NÃO DISCRIMINAÇÃO

Art. 7º As decisões judiciais apoiadas em ferramentas de Inteligência Artificial devem preservar a igualdade, a não discriminação, a pluralidade e a solidariedade, auxiliando no julgamento justo, com criação de condições que visem eliminar ou minimizar a opressão, a marginalização do ser humano e os erros de julgamento decorrentes de preconceitos.

§ 1º Antes de ser colocado em produção, o modelo de Inteligência Artificial deverá ser homologado de forma a identificar se preconceitos ou generalizações influenciaram seu desenvolvimento, acarretando tendências discriminatórias no seu funcionamento.

§ 2º Verificado viés discriminatório de qualquer natureza ou incompatibilidade do modelo de Inteligência Artificial com os princípios previstos nesta Resolução, deverão ser adotadas medidas corretivas.

§ 3º A impossibilidade de eliminação do viés discriminatório do modelo de Inteligência Artificial implicará na descontinuidade de sua utilização, com o consequente registro de seu projeto e as razões que levaram a tal decisão.

(Resolução Nº 332 de 21/08/2020)

Errado

Art. 7º, § 1º ANTES de ser colocado em produção, o modelo de Inteligência Artificial deverá ser homologado de forma a IDENTIFICAR se preconceitos ou generalizações influenciaram seu desenvolvimento, acarretando tendências discriminatórias no seu funcionamento.

§ 2º VERIFICADO VIÉS DISCRIMINATÓRIO de qualquer natureza ou incompatibilidade do modelo de Inteligência Artificial com os princípios previstos nesta Resolução, deverão ser adotadas MEDIDAS CORRETIVAS.

§ 3º A IMPOSSIBILIDADE DE ELIMINAÇÃO do viés discriminatório do modelo de Inteligência Artificial implicará na DESCONTINUIDADE de sua utilização, com o consequente registro de seu projeto e as razões que levaram a tal decisão.

(Resolução Nº 332 de 21/08/2020)

Primeiro, tenta-se corrigir o viés discriminatório. Se não for possível corrigi-lo, então passa-se a descontinuá-lo, com seu registro de projeto e razões que levaram a tal decisão.