Situação hipotética: Uma instituição governamental
almeja implementar um sistema de identificação biométrica
facial em larga escala para otimizar o acesso a serviços
públicos, alegando aprimoramento da segurança e eficiência.
Assertiva: A utilização de tecnologias emergentes como a IA,
nesse cenário, implica em profundas discussões éticas e de
privacidade, dada a capacidade preditiva e de vigilância que o
reconhecimento facial por IA confere. Embora possa aprimorar
a governança digital, tal implementação demanda um
arcabouço legal robusto e mecanismos transparentes de
controle que assegurem a proteção de dados e a
não-discriminação, sob pena de violar direitos fundamentais e
minar a confiança do cidadão, especialmente pela
suscetibilidade de algoritmos a vieses de treinamento que
podem resultar em iniquidade no acesso aos serviços e na
fiscalização.