Alternativa correta: C (Certo)

Tema central:
A questão aborda o viés algorítmico em sistemas de Inteligência Artificial (IA), especialmente quando este viés é introduzido a partir dos dados de treinamento utilizados, refletindo desigualdades sociais e podendo levar a decisões discriminatórias.

Resumo teórico:
Em IA e Ciência de Dados, viés algorítmico ocorre quando um modelo aprende padrões injustos ou distorcidos dos dados de entrada. Isso acontece, por exemplo, quando os dados históricos usados no treinamento já contêm desigualdades sociais. O sistema, então, pode replicar ou até amplificar esses padrões, tomando decisões que perpetuam discriminação. Exemplos reais incluem algoritmos de recrutamento, reconhecimento facial e concessão de crédito.
Fontes: OECD Principles on AI, IBM - AI Fairness 360, Livro: Artificial Intelligence: A Guide for Thinking Humans (Mitchell, 2019).

Justificativa da alternativa correta:
A afirmação está correta. O enunciado descreve precisamente a situação em que o viés algorítmico surge devido a dados de treinamento que refletem desigualdades sociais, levando a decisões automatizadas potencialmente discriminatórias. Essa é uma preocupação central em projetos de IA responsáveis.

Estratégia de interpretação:
Fique atento a termos como “refletem desigualdades” e “decisões discriminatórias automatizadas”. Eles sinalizam que a questão trata de consequências éticas e sociais do uso de dados em IA, tema frequente em bancas de concursos. Evite cair em pegadinhas que sugerem neutralidade absoluta dos algoritmos: eles só refletem o que aprenderam dos dados, que podem ser, sim, enviesados.

Resumo final: O viés algorítmico é um desafio real na IA, exigindo atenção dos profissionais para garantir sistemas mais justos e éticos.

Gostou do comentário? Deixe sua avaliação aqui embaixo!

CERTO

Quando uma IA aprende algo com base em dados históricos favorecendo determinado grupo, por exemplo, em uma seleção de currículos de uma empresa com histórico de favorecer homens nas contratações, a IA automaticamente dará sequência a esse aprendizado, ou seja, decisões discriminatórias automatizadas, como afirma o comando da questão. Essa ocorrência é chamada de viés algorítmico.

Prova de professor universitário do curso de ciências sociais da UFRJ?

Viés algoritmico = Ocorre quando erros sistemáticos nos  produzem resultados injustos ou discriminatórios. Ele frequentemente reflete ou reforça desigualdades socioeconômicas, raciais e de gênero já existentes.

fonte: ibm

Alternativa: Certo.

Justificativa:

O viés algorítmico é um problema amplamente reconhecido na área de ciência de dados e inteligência artificial. Ele pode ocorrer quando os dados de treinamento refletem desigualdades ou preconceitos existentes na sociedade (como racismo, sexismo, entre outros). Como os algoritmos de IA aprendem com esses dados, eles podem reproduzir ou até amplificar essas distorções, resultando em decisões automatizadas discriminatórias.

Exemplos incluem:

• Sistemas de recrutamento que favorecem um gênero em detrimento de outro;
• Algoritmos de crédito que penalizam pessoas com base em dados socioeconômicos;
• Sistemas de reconhecimento facial com maior taxa de erro para determinados grupos étnicos.

Portanto, a assertiva está correta.

Siga-me @rexconcurseiro 

O item descreve corretamente o viés algorítmico. Sistemas de IA aprendem padrões a partir dos dados de treinamento. Se esses dados contêm desigualdades ou preconceitos históricos da sociedade, o modelo os incorpora e pode automatizar decisões discriminatórias, perpetuando ou ampliando injustiças.