Um Engenheiro de Computação faz parte de uma equipe que
desenvolve um algoritmo de inteligência artificial para diagnóstico
médico automático. Um erro de projeto resulta em um viés
algorítmico que consistentemente subestima a gravidade de
doenças em pacientes de um determinado grupo demográfico,
levando a diagnósticos tardios e prejuízos à saúde.
Em relação à responsabilidade ética primária do Engenheiro
perante este cenário, conforme os códigos de ética profissional na
Engenharia da Computação, assinale a afirmativa correta.

Question

Um Engenheiro de Computação faz parte de uma equipe que
desenvolve um algoritmo de inteligência artificial para diagnóstico
médico automático. Um erro de projeto resulta em um viés
algorítmico que consistentemente subestima a gravidade de
doenças em pacientes de um determinado grupo demográfico,
levando a diagnósticos tardios e prejuízos à saúde.
Em relação à responsabilidade ética primária do Engenheiro
perante este cenário, conforme os códigos de ética profissional na
Engenharia da Computação, assinale a afirmativa correta. Alternativa A: A responsabilidade é exclusiva do usuário final ou do médico,
que deve validar o diagnóstico do sistema. Ou Alternativa B: A responsabilidade é diluída, pois o sistema é autônomo, e a
falha é um problema estatístico inerente ao Machine Learning. Ou Alternativa C: A responsabilidade técnica e social exige que o Engenheiro
mitigue o viés, assegure a equidade do sistema e priorize o
bem-estar público acima de qualquer outro interesse. Ou Alternativa D: O Engenheiro deve apenas garantir a integridade do código,
sendo o viés um problema de qualidade de dados que deve ser
corrigido por cientistas de dados. Ou Alternativa E: A responsabilidade se limita ao cumprimento das
especificações contratuais do projeto, independentemente do
impacto social.

Qconcursos · Accepted Answer

Alternativa [C] A responsabilidade técnica e social exige que o Engenheiro
mitigue o viés, assegure a equidade do sistema e priorize o
bem-estar público acima de qualquer outro interesse. Gabarito: CFundamento decisivo: A questão decidia-se pelo reconhecimento de que o caso envolve dano previsível causado por viés algorítmico, o que afasta as alternativas que transferem ou diluem a პასუხისმგabilidade.Tema central: Primazia do interesse públicoAnálise das alternativasAErradaEstá errada porque transfere indevidamente a responsabilidade ao usuário final ou ao médico. A existência de validação humana posterior não elimina a responsabilidade ética primária do engenheiro pelo projeto e pelos riscos previsíveis do sistema.BErradaEstá errada porque dilui a responsabilidade com base na autonomia do sistema e na natureza estatística do machine learning. Segundo a base, nem a autonomia do sistema nem o fato de haver modelagem estatística afastam o dever de prevenir ou mitigar viés e dano previsível.CCertaA alternativa C está certa porque atribui ao engenheiro o dever de enfrentar o viés do sistema e priorizar o bem-estar público. Diante de um modelo que produz subestimação consistente para um grupo demográfico, a conduta eticamente compatível é mitigar o risco discriminatório e não transferir a resposta para usuário, médico, contrato ou autonomia do sistema.DErradaEstá errada porque reduz a obrigação do engenheiro à integridade do código e desloca o viés exclusivamente para cientistas de dados. O problema descrito não pode ser tratado como questão isolada de código ou terceirizado integralmente, pois a responsabilidade ética do engenheiro alcança o risco discriminatório do sistema.EErradaEstá errada porque limita a responsabilidade ao cumprimento contratual e ignora o impacto social. A base afirma expressamente que o adimplemento contratual não esgota o dever ético quando há risco à saúde e ao interesse público.Pegadinha da questãoA confusão explorada foi tratar responsabilidade compartilhada como se fosse ausência de responsabilidade do engenheiro, especialmente por haver médico no fluxo, autonomia do sistema ou possível participação de outros profissionais.Dica para questões semelhantesSe o sistema causa dano previsível à saúde, à segurança, à justiça ou ao bem-estar público, o dever ético primário é agir para prevenir ou mitigar esse dano.A participação de outros atores no processo decisório não extingue a responsabilidade ética do engenheiro pelo projeto e pelos riscos do sistema.Nem autonomia do sistema, nem natureza estatística do modelo, nem cumprimento contratual bastam para afastar o dever profissional de enfrentar viés relevante.

🚀 Mais performance?

🚀 Mais performance?

Um Engenheiro de Computação faz parte de uma equipe que des...

Gabarito comentado

Gabarito: C

Clique para visualizar este gabarito

Questões de assuntos semelhantes

Provas relacionadas