Com o avanço da Inteligência Artificial (IA), surgem dilema...

Próximas questões
Com base no mesmo assunto
Q3952395 Direito Digital
Com o avanço da Inteligência Artificial (IA), surgem dilemas éticos complexos sobre o uso de dados e a autonomia dos algoritmos, especialmente no ambiente acadêmico e de pesquisa. As universidades brasileiras têm debatido a criação de diretrizes para o uso responsável da IA generativa por alunos e pesquisadores.
Analise as seguintes proposições sobre o uso ético da Inteligência Artificial:
I. O uso de ferramentas de IA para gerar textos, como artigos ou trabalhos acadêmicos, sem a devida declaração de uso e sem uma revisão crítica e substancial pelo autor humano, pode ser considerado plágio ou má conduta acadêmica, pois o trabalho não é original.
II. Os dados utilizados para treinar modelos de IA podem conter vieses (de gênero, raça, etc.) presentes na sociedade. A utilização acrítica dos resultados gerados por esses modelos pode perpetuar e amplificar esses vieses em pesquisas e tomadas de decisão.
III. A responsabilidade sobre o conteúdo gerado por uma IA é exclusivamente do desenvolvedor da ferramenta, isentando o usuário final de qualquer obrigação de verificar a veracidade, a precisão ou as implicações éticas das informações produzidas.

Está CORRETO o que se afirma em:
Alternativas

Gabarito comentado

Confira o gabarito comentado por um dos nossos professores

Gabarito: C

Fundamento decisivo: Diretrizes de integridade na pesquisa apoiada pelo CNPq, item I, alíneas c, d e f: "c) declarar o uso de ferramentas de Inteligência Artificial Generativa - IAG, de qualquer espécie e em qualquer fase do desenvolvimento da pesquisa (concepção, redação, análise de dados, submissão) especificando nos respectivos textos e exposições eletrônicas, a ferramenta utilizada e a finalidade; d) é vedada a submissão de conteúdo gerado por IAG como se fosse de autoria humana, sendo os autores integralmente responsáveis pelo conteúdo final, inclusive por eventuais plágios ou imprecisões geradas pela IAG; (...) f) responsabilizar-se integralmente pelo conteúdo final da pesquisa, inclusive por eventuais plágios ou imprecisões geradas pela IAG;"

Tema central: Uso ético da IA generativa na pesquisa
Análise das alternativas
A
Errada
Incorreta porque exclui a proposição II. A base decisória admite a leitura de que o uso acrítico de IA pode perpetuar vieses e discriminações, com apoio nas diretrizes éticas e nos princípios da LGPD sobre não discriminação, responsabilização e prestação de contas.
B
Errada
Incorreta por dois motivos jurídicos objetivos. Primeiro, exclui a proposição I, embora as Diretrizes de integridade na pesquisa apoiada pelo CNPq imponham a declaração do uso de IA e vedem a apresentação de conteúdo gerado por IA como se fosse de autoria humana. Segundo, inclui a proposição III, que contraria frontalmente o item I, alíneas d e f, das mesmas diretrizes, pois a responsabilidade pelo conteúdo final não é exclusiva do desenvolvedor: os autores respondem integralmente, inclusive por plágio ou imprecisões.
C
Certa
A alternativa C está correta porque a proposição I corresponde ao dever de declarar o uso de IA generativa e à vedação de apresentar conteúdo gerado por IA como se fosse de autoria humana, com responsabilidade dos autores pelo conteúdo final. A proposição II também se harmoniza com a base, pois o uso acrítico de sistemas treinados com dados pode reproduzir vieses e discriminações, em linha com a não discriminação e a responsabilização previstas na LGPD. Já a proposição III está errada porque a responsabilidade não é exclusiva do desenvolvedor: as diretrizes do CNPq atribuem responsabilidade integral aos autores/usuários pelo conteúdo final.
D
Errada
Incorreta porque torna verdadeira a proposição III. A base é expressa em sentido oposto: as Diretrizes de integridade na pesquisa apoiada pelo CNPq atribuem aos autores responsabilidade integral pelo conteúdo final, inclusive por eventuais plágios ou imprecisões geradas pela IA. Portanto, não existe isenção do usuário final quanto à verificação da veracidade, precisão e implicações éticas do conteúdo produzido.
Pegadinha da questão
A confusão explorada é supor que, por a ferramenta de IA ter sido criada por terceiro, a responsabilidade jurídica e acadêmica pelo conteúdo final recaia apenas sobre o desenvolvedor. A base afasta isso expressamente ao atribuir responsabilidade integral também ao autor/usuário.
Dica para questões semelhantes
  • Em questões sobre IA em pesquisa, procure primeiro se há dever de declarar o uso da ferramenta e vedação de apresentar resultado automatizado como autoria humana.
  • Se a alternativa disser que só o desenvolvedor responde pelo conteúdo gerado por IA, desconfie: a base adota responsabilidade humana pelo conteúdo final.
  • Quando a questão mencionar vieses algorítmicos, conecte isso aos critérios de não discriminação, responsabilização e prestação de contas no tratamento de dados.

Clique para visualizar este gabarito

Visualize o gabarito desta questão clicando no botão abaixo