O texto seguinte servirá de base para responder à questão.

Por que a inteligência artificial não conseguia imaginar uma mulher como eu — até agora

Quando a ex-nadadora paralímpica australiana Jess Smith enviou uma foto sua a um gerador de imagens por inteligência artificial (IA), não esperava enfrentar um experimento social. Ela queria apenas aprimorar o retrato, informando que lhe faltava parte do braço esquerdo. Mesmo assim, a ferramenta gerava imagens com dois braços ou com prótese metálica.

Ao questionar o motivo, a IA respondeu que não havia dados suficientes para representar sua condição. "Percebi que a IA reflete as desigualdades e discriminações do mundo real", afirmou. Até outubro, Smith não havia conseguido o resultado desejado. Depois que a BBC questionou o sistema, ela tentou novamente e obteve uma imagem fiel. "É incrível que ele tenha sido finalmente atualizado", disse.

Para Smith, a conquista representa mais que tecnologia: "A representação significa ser parte do mundo que está sendo construído. Quando a IA evolui com inclusão, toda a humanidade avança." A OpenAI, criadora do ChatGPT, confirmou melhorias no modelo e reconheceu os desafios em garantir representações justas, prometendo ampliar a diversidade dos dados de treinamento.

Nem todos, porém, têm a mesma experiência. Naomi Bowman, que tem visão em apenas um olho, relatou que a IA alterou seu rosto e igualou os olhos, mesmo após ela pedir o contrário. "Isso mostra o preconceito embutido na IA", lamentou. Ela defende que os modelos sejam treinados com dados mais amplos e representativos.

Para especialistas, esses vieses reproduzem lacunas culturais e sociais. Abran Maldonado, CEO da empresa Create Labs, afirma que a diversidade deve começar nas equipes que treinam as IAs: "Tudo depende de quem está na sala quando os dados são construídos." Ele lembra que um estudo do governo americano mostrou que algoritmos de reconhecimento facial erram mais com rostos asiáticos e afrodescendentes do que com caucasianos.

Jess Smith afirma que as maiores barreiras que enfrenta são sociais, não físicas. "Quando um banheiro público exige as duas mãos, o problema não é minha limitação, mas o fato de o designer não pensar em mim." Ela teme que o mesmo ocorra com a IA, se os sistemas continuarem a ignorar a diversidade humana.

https://www.bbc.com/portuguese/articles/c33pe2410l0o.adaptado.