Os problemas do reconhecimento facial

Em 2019, um cidadão do estado de Nova Jersey chamado Nijeer Parks foi preso pela polícia acusado de roubar uma loja e tentar atropelar policiais na fuga. Ele passou dez dias na prisão e teve de gastar US$ 5.000 para se defender das acusações. Parks era inocente. A razão da sua prisão foi uma identificação equivocada feita por uma câmera usando a tecnologia de reconhecimento facial.

Seu caso não é um fenômeno isolado. Outras pessoas já foram presas por erros da tecnologia de reconhecimento facial. Esse tipo de sistema é ainda embrionário e apresenta falhas graves. Quando implementado em larga escala, seu efeito é multiplicar injustiças.

Várias pesquisas vêm demonstrando que esses sistemas sofrem de uma incapacidade significativa de reconhecer os tons negros e também de várias populações asiáticas. Um estudo do Instituto de Tecnologia e Standards, nos Estados Unidos, mostrou que as taxas de erro são significativas. O número de erros com relação a pessoas de pele preta pode chegar a cem vezes mais do que falsos positivos de pessoas de pele branca.

Em outra pesquisa que ficou famosa, Joy Buolamwini, do Instituto de Tecnologia de Massachusetts, encontrou resultados igualmente preocupantes. Detectou que as falhas nos sistemas de reconhecimento facial analisados apresentavam um alto viés racial e também de gênero. Como os sistemas haviam sido programados com base em imagens de homens brancos, apresentavam altas taxas de erro com relação a outras demografias.

Os problemas do reconhecimento facial não param por aí. Mesmo que sua acurácia tenda a aumentar ao longo do tempo, há inúmeros outros problemas. É muito difícil simular em laboratório condições reais de aplicação de um sistema como esse em ambientes não controlados, como uma cidade. Nas cidades há variações como iluminação e até condições climáticas que interferem nos resultados.

Além disso, uma vez implementado, não há para onde fugir. O sistema passa a monitorar indistintamente todas as pessoas que circulam pelas ruas, inclusive crianças. O processamento de dados de crianças levanta diversos problemas e esbarra em questões regulatórias específicas derivadas da Lei Geral de Proteção de Dados em vigor no Brasil.

Outro problema da tecnologia é que novas aplicações começam a surgir além do reconhecimento da face. Uma empresa irlandesa desenvolveu um sistema capaz de “enxergar” as palavras ditas por uma pessoa, através de leitura labial automatizada feita por câmeras. Outras empresas conseguem medir sentimentos como raiva e alegria e até mesmo analisar o estado de saúde da pessoa por sua aparência física e comportamento.

Em outras palavras, uma vez que um sistema como esse é implementado ao nível de uma cidade, não há marcha a ré, e sim um adeus à privacidade no espaço público. Sem contar o fato de que os bancos de dados de rostos podem vazar. Já houve incidentes de ciberataques a bancos de dados de rostos. Uma vez que dados assim vazam, não tem como serem “desvazados”.

Para um país como o Brasil, em que os dados pessoais de praticamente todos seus habitantes vazaram e estão disponíveis online, gerando uma gigantesca indústria de golpes, seria um pesadelo pensar em bases faciais identificadas vazando também.

Ronaldo Lemos

Folha de São Paulo, 05/12/2022 

Os problemas do reconhecimento facial

Em 2019, um cidadão do estado de Nova Jersey chamado Nijeer Parks foi preso pela polícia acusado de roubar uma loja e tentar atropelar policiais na fuga. Ele passou dez dias na prisão e teve de gastar US$ 5.000 para se defender das acusações. Parks era inocente. A razão da sua prisão foi uma identificação equivocada feita por uma câmera usando a tecnologia de reconhecimento facial.

Seu caso não é um fenômeno isolado. Outras pessoas já foram presas por erros da tecnologia de reconhecimento facial. Esse tipo de sistema é ainda embrionário e apresenta falhas graves. Quando implementado em larga escala, seu efeito é multiplicar injustiças.

Várias pesquisas vêm demonstrando que esses sistemas sofrem de uma incapacidade significativa de reconhecer os tons negros e também de várias populações asiáticas. Um estudo do Instituto de Tecnologia e Standards, nos Estados Unidos, mostrou que as taxas de erro são significativas. O número de erros com relação a pessoas de pele preta pode chegar a cem vezes mais do que falsos positivos de pessoas de pele branca.

Em outra pesquisa que ficou famosa, Joy Buolamwini, do Instituto de Tecnologia de Massachusetts, encontrou resultados igualmente preocupantes. Detectou que as falhas nos sistemas de reconhecimento facial analisados apresentavam um alto viés racial e também de gênero. Como os sistemas haviam sido programados com base em imagens de homens brancos, apresentavam altas taxas de erro com relação a outras demografias.

Os problemas do reconhecimento facial não param por aí. Mesmo que sua acurácia tenda a aumentar ao longo do tempo, há inúmeros outros problemas. É muito difícil simular em laboratório condições reais de aplicação de um sistema como esse em ambientes não controlados, como uma cidade. Nas cidades há variações como iluminação e até condições climáticas que interferem nos resultados.

Além disso, uma vez implementado, não há para onde fugir. O sistema passa a monitorar indistintamente todas as pessoas que circulam pelas ruas, inclusive crianças. O processamento de dados de crianças levanta diversos problemas e esbarra em questões regulatórias específicas derivadas da Lei Geral de Proteção de Dados em vigor no Brasil.

Outro problema da tecnologia é que novas aplicações começam a surgir além do reconhecimento da face. Uma empresa irlandesa desenvolveu um sistema capaz de “enxergar” as palavras ditas por uma pessoa, através de leitura labial automatizada feita por câmeras. Outras empresas conseguem medir sentimentos como raiva e alegria e até mesmo analisar o estado de saúde da pessoa por sua aparência física e comportamento.

Em outras palavras, uma vez que um sistema como esse é implementado ao nível de uma cidade, não há marcha a ré, e sim um adeus à privacidade no espaço público. Sem contar o fato de que os bancos de dados de rostos podem vazar. Já houve incidentes de ciberataques a bancos de dados de rostos. Uma vez que dados assim vazam, não tem como serem “desvazados”.

Para um país como o Brasil, em que os dados pessoais de praticamente todos seus habitantes vazaram e estão disponíveis online, gerando uma gigantesca indústria de golpes, seria um pesadelo pensar em bases faciais identificadas vazando também.

Ronaldo Lemos

Folha de São Paulo, 05/12/2022 

Os problemas do reconhecimento facial

Em 2019, um cidadão do estado de Nova Jersey chamado Nijeer Parks foi preso pela polícia acusado de roubar uma loja e tentar atropelar policiais na fuga. Ele passou dez dias na prisão e teve de gastar US$ 5.000 para se defender das acusações. Parks era inocente. A razão da sua prisão foi uma identificação equivocada feita por uma câmera usando a tecnologia de reconhecimento facial.

Seu caso não é um fenômeno isolado. Outras pessoas já foram presas por erros da tecnologia de reconhecimento facial. Esse tipo de sistema é ainda embrionário e apresenta falhas graves. Quando implementado em larga escala, seu efeito é multiplicar injustiças.

Várias pesquisas vêm demonstrando que esses sistemas sofrem de uma incapacidade significativa de reconhecer os tons negros e também de várias populações asiáticas. Um estudo do Instituto de Tecnologia e Standards, nos Estados Unidos, mostrou que as taxas de erro são significativas. O número de erros com relação a pessoas de pele preta pode chegar a cem vezes mais do que falsos positivos de pessoas de pele branca.

Em outra pesquisa que ficou famosa, Joy Buolamwini, do Instituto de Tecnologia de Massachusetts, encontrou resultados igualmente preocupantes. Detectou que as falhas nos sistemas de reconhecimento facial analisados apresentavam um alto viés racial e também de gênero. Como os sistemas haviam sido programados com base em imagens de homens brancos, apresentavam altas taxas de erro com relação a outras demografias.

Os problemas do reconhecimento facial não param por aí. Mesmo que sua acurácia tenda a aumentar ao longo do tempo, há inúmeros outros problemas. É muito difícil simular em laboratório condições reais de aplicação de um sistema como esse em ambientes não controlados, como uma cidade. Nas cidades há variações como iluminação e até condições climáticas que interferem nos resultados.

Além disso, uma vez implementado, não há para onde fugir. O sistema passa a monitorar indistintamente todas as pessoas que circulam pelas ruas, inclusive crianças. O processamento de dados de crianças levanta diversos problemas e esbarra em questões regulatórias específicas derivadas da Lei Geral de Proteção de Dados em vigor no Brasil.

Outro problema da tecnologia é que novas aplicações começam a surgir além do reconhecimento da face. Uma empresa irlandesa desenvolveu um sistema capaz de “enxergar” as palavras ditas por uma pessoa, através de leitura labial automatizada feita por câmeras. Outras empresas conseguem medir sentimentos como raiva e alegria e até mesmo analisar o estado de saúde da pessoa por sua aparência física e comportamento.

Em outras palavras, uma vez que um sistema como esse é implementado ao nível de uma cidade, não há marcha a ré, e sim um adeus à privacidade no espaço público. Sem contar o fato de que os bancos de dados de rostos podem vazar. Já houve incidentes de ciberataques a bancos de dados de rostos. Uma vez que dados assim vazam, não tem como serem “desvazados”.

Para um país como o Brasil, em que os dados pessoais de praticamente todos seus habitantes vazaram e estão disponíveis online, gerando uma gigantesca indústria de golpes, seria um pesadelo pensar em bases faciais identificadas vazando também.

Ronaldo Lemos

Folha de São Paulo, 05/12/2022