Uma equipe de governança de tecnologia de um Tribunal de Justiça está avaliando a implantação de uma solução de inteligência
artificial para apoiar a classificação de petições e a identificação de documentos processuais. Durante a análise de conformidade,
foram discutidos mecanismos para mitigar vieses, promover transparência algorítmica e assegurar aderência às diretrizes
estabelecidas pela Resolução CNJ nº 615/2025. Considerando essas diretrizes, a medida mais adequada é utilizar modelos de IA
submetidos a supervisão humana,

Question

Uma equipe de governança de tecnologia de um Tribunal de Justiça está avaliando a implantação de uma solução de inteligência
artificial para apoiar a classificação de petições e a identificação de documentos processuais. Durante a análise de conformidade,
foram discutidos mecanismos para mitigar vieses, promover transparência algorítmica e assegurar aderência às diretrizes
estabelecidas pela Resolução CNJ nº 615/2025. Considerando essas diretrizes, a medida mais adequada é utilizar modelos de IA
submetidos a supervisão humana, Alternativa A: vinculando o conjunto de atualizações referente aos mecanismos destinados para as ações de governança até a validação
inicial dos resultados obtidos. Ou Alternativa B: priorizando a eficiência operacional da solução na definição dos critérios para o acompanhamento e controle completo de
sua utilização. Ou Alternativa C: condicionando a ação de rastreabilidade do conjunto de decisões automatizadas aos registros técnicos que foram produzidos durante a fase designada ao desenvolvimento. Ou Alternativa D: adotando a aplicação de avaliações periódicas de desempenho como principal mecanismo para o controle dos riscos que
estão associados à solução. Ou Alternativa E: implementando mecanismos de monitoramento de riscos e documentação que permita compreender os critérios de funcionamento e os impactos produzidos pela solução.

Qconcursos · Accepted Answer

Alternativa [E] implementando mecanismos de monitoramento de riscos e documentação que permita compreender os critérios de funcionamento e os impactos produzidos pela solução. Gabarito: EFundamento decisivo: Resolução CNJ nº 615/2025, art. 12, incisos I, II e III: “Art. 12. O tribunal desenvolvedor ou contratante deverá estabelecer processos internos aptos a garantir a segurança dos sistemas de inteligência artificial, incluindo, ao menos: I – medidas de transparência quanto ao emprego e à governança dos sistemas de IA, com a publicação de relatórios que detalhem o funcionamento dos sistemas, suas finalidades, dados utilizados e mecanismos de supervisão; II – a prevenção e mitigação de potenciais vieses discriminatórios ilegais ou abusivos, por meio de monitoramento contínuo, com a análise de resultados e a correção de eventuais desvios, garantindo a revisão periódica dos modelos de IA; III – a implementação de mecanismos de governança que garantam o acompanhamento contínuo dos sistemas de IA, prevendo a definição de pessoas ou comitês internos responsáveis pela fiscalização do cumprimento das diretrizes de segurança e transparência, bem como pela análise de relatórios e recomendações de melhorias;”.Tema central: Governança de IAAnálise das alternativasAErradaIncorreta. A alternativa reduz a governança e as atualizações à validação inicial dos resultados. A Resolução exige supervisão humana efetiva, periódica e adequada no ciclo de vida da IA (art. 3º, VII), além de monitoramento contínuo, análise de resultados, correção de desvios e revisão periódica dos modelos (art. 12, II). O vício está em substituir controle contínuo por validação apenas inicial.BErradaIncorreta. A alternativa faz da eficiência operacional o critério prioritário para definir acompanhamento e controle. A base normativa não autoriza essa prevalência isolada. O art. 3º, II, VI e VII impõe conjuntamente transparência, explicabilidade, auditabilidade, mitigação de riscos e supervisão humana. A eficiência é princípio coexistente, não parâmetro que permita subordinar a governança e o controle desses deveres.CErradaIncorreta. A alternativa limita a rastreabilidade aos registros técnicos produzidos na fase de desenvolvimento. Isso contraria o art. 13, IV, que exige documentação do funcionamento do sistema e das decisões de sua construção “considerando todas as etapas relevantes no ciclo de vida do sistema e atualizado sempre que o sistema evolua”, além do art. 13, V, que prevê registros automáticos da operação do sistema (log), sempre que tecnicamente possível. Logo, a documentação e a rastreabilidade não se esgotam no desenvolvimento.DErradaIncorreta. Avaliações periódicas de desempenho são relevantes, mas não constituem o principal mecanismo exclusivo de controle de riscos na Resolução. O art. 12, II e III, exige monitoramento contínuo, correção de desvios e acompanhamento contínuo; o art. 5º, § 2º, impõe auditoria e monitoramento contínuos; e o art. 17, § 1º, indica que a avaliação de risco deve ser acompanhada de indicadores e relatórios de auditoria ou monitoramento. O erro é reduzir um regime sistêmico de governança a um único instrumento.ECertaA alternativa E coincide com a exigência de monitoramento contínuo, transparência e documentação do funcionamento da solução de IA. A Resolução também prevê a prevenção e mitigação de vieses, a supervisão humana efetiva e a explicabilidade adequada dos resultados, o que torna correta a opção que menciona mecanismos de monitoramento de riscos e documentação apta a compreender critérios de funcionamento e impactos da solução.Pegadinha da questãoA banca explorou a confusão entre mecanismos contínuos de governança da IA e controles pontuais ou parciais: validação inicial, eficiência operacional como prioridade, rastreabilidade só do desenvolvimento e avaliação periódica de desempenho como mecanismo suficiente.Dica para questões semelhantesQuando o enunciado mencionar IA no Judiciário, procure os deveres cumulativos: supervisão humana, monitoramento contínuo, mitigação de riscos, transparência e documentação.Desconfie de alternativas que limitem o controle a uma fase específica, porque a Resolução exige atuação ao longo de todo o ciclo de vida da solução.Eficiência, sozinha, não resolve a questão se a norma também exige explicabilidade, auditabilidade e proteção contra vieses.Se a alternativa falar em compreender funcionamento, resultados e impactos da IA, ela tende a se alinhar aos arts. 12 e 13 da Resolução.

Uma equipe de governança de tecnologia de um Tribunal de Jus...

Gabarito comentado

Gabarito: E

Clique para visualizar este gabarito

Comentários

Clique para visualizar este comentário

Questões de assuntos semelhantes

Provas relacionadas