TEXTO PARA A QUESTÃO.

Impactos do uso da inteligência artificial em decisões administrativas e judiciais

O uso de inovações tecnológicas pela administração pública, especialmente a inteligência artificial (IA), é um tema central nas políticas públicas brasileiras, como demonstrado pela Estratégia Brasileira para Inteligência Artificial (EBIA). Essa iniciativa visa a promover a pesquisa, a inovação e a capacitação profissional, destacando a cooperação entre setores público e privado.

A IA pode aumentar significativamente a capacidade de processamento de dados, ajudando na identificação de problemas e tendências e, assim, aprimorar a tomada de decisões dos administradores. No entanto, essa automatização apresenta riscos, especialmente no que diz respeito à discricionariedade, na medida em que a substituição do julgamento humano por decisões baseadas em algoritmos pode resultar em julgamentos injustos, especialmente em casos que exigem uma análise mais sutil e específica.

O ministro Gilmar Mendes, em seu voto no julgamento da ADI 6389/DF, enfatiza essa preocupação, alertando para a crescente automação das decisões críticas que afetam o Estado de Direito. "Vivemos na era das escolhas de Sofia automatizadas", destacou, reforçando a necessidade de transparência e controle, essenciais para a proteção dos valores democráticos e para o exercício da cidadania.

Nesse contexto, no âmbito do Poder Judiciário, o Conselho Nacional de Justiça (CNJ) emitiu a Resolução 332/2020 que dispõe sobre a ética, transparência na produção e uso da IA no Judiciário, a fim de preservar a base principiológica processual. Garantindo assim que os algoritmos das IAs não se tornem deterministas e enviesados, evitando-se também eventuais manipulações ao serem gerados.

Por mais que a referida resolução se restrinja ao Poder Judiciário, posto que ainda não há lei que trate do assunto, tais diretrizes devem ser estendidas para toda a administração pública, ante a evidente urgência em instruir, organizar e implementar a utilização de IAs. Mas afinal, para as hipóteses de tomada de decisão, uma recomendação apresentada por inteligência artificial possui caráter vinculante ou discricionário?

O questionamento é necessário, tendo em vista que, para chegar em tal recomendação, a IA se utilizou de base de dados, padrões e tendências fornecidas.

Ou seja, o julgador teria um ônus argumentativo ainda maior para a hipótese de decidir de forma contrária ao sugerido pela IA, ocasionando uma evidente redução na discricionariedade, em vista da natural conformidade ao produzido pelo sistema. Assim como pela insegurança de se alterar ou contrariar sugestão algorítmica, que por sua vez pode acarretar eventual responsabilização pelo ato proferido.

Portanto, embora a adoção da IA seja inevitável e possa trazer benefícios significativos, é crucial equilibrar seu uso com a supervisão humana, a fim de garantir decisões justas e respeitando a complexidade das situações que exigem um julgamento mais profundo e contextualizado. A responsabilidade do Estado é não apenas implementar essas tecnologias, mas também assegurar que elas sejam usadas de forma ética e justa.

Fonte: Correio Braziliense (adaptado).