Impactos estruturais da inteligência artificial na democracia e nos direitos humanos

Por Lucas Vilalta, pesquisador da Cátedra Oscar Sala do Instituto de Estudos Avançados da USP

Post category: Artigos https://jornal.usp.br/? p=808419

24/09/2024 - Publicado há 2 anos

Após publicar artigo neste mesmo canal sobre a possibilidade de termos transparência de algoritmos para os sistemas de Inteligência Artificial (IA), o diretor executivo do Instituto Vladimir Herzog, Rogério Sottili, convidou-me para dialogar com as preocupações e trabalhos que a equipe tem desenvolvido sobre o impacto das big techs e da IA para a democracia e os direitos humanos. Como a conversa foi muito boa, decidi compartilhar um pouco do que debatemos naquele dia, então, com um público mais amplo.

Minha fala inicial ali abordou três pontos centrais:

1. o que são os sistemas de IA de um ponto de vista técnico e social;

2. seus impactos para a democracia; e

3. ameaças aos direitos humanos e caminhos para enfrentá-las.

Em relação ao ponto 1, remeto o leitor ou a leitora ao que apresentei no artigo anterior. De modo geral, tratava-se de mostrar, como o fez Kate Crawford em seu livro Atlas da IA, que “a IA não é artificial nem inteligente. Na verdade, ela existe de forma corpórea, como algo material, feito de recursos naturais, combustíveis, mão de obra, infraestrutura, logística, histórias e classificações. Os sistemas de IA não são autônomos, racionais, tampouco capazes de discernir algo sem um treinamento extenso e computacionalmente intensivo, com enormes conjuntos de dados ou regras e recompensas pré-definidas. De fato, tal como a conhecemos, a IA depende totalmente de um conjunto muito mais vasto de estruturas políticas e sociais”. 

É preciso afastar as mistificações que têm dominado a cobertura midiática e boa parte do debate público sobre a IA. Se ela nasceu com o propósito de imitar a inteligência humana, hoje, a IA certamente se caracteriza muito mais como sistemas sociotécnicos de captura e processamento da inteligência social para que as big techs possam fornecer assistência algorítmica como algo indispensável ______ vida humana. A IA 2.0 é a promessa de um serviço de assistência em que os usuários vão poder ser manipuladores de algoritmos (a partir de prompts), automatizando processos de trabalho e linguagem em suas rotinas ou negócios. A IA não é uma máquina separada da sociedade, é a própria sociedade sendo processada de modo maquínico pelas plataformas. É mais urgente nos preocuparmos não com uma superinteligência ou com indivíduos autônomos (robôs) que irão nos dominar, mas com os impactos ambientais, econômicos, sociais e humanos que já estão em curso. [...]

    VILALTA, Lucas. Jornal da USP. Impactos estruturais da inteligência artificial na democracia e nos direitos humanos. Adaptado. Disponível em: https://jornal.usp.br/artigos/Impactos-estruturais-dainteligência-artificial-na-democracia-e-nos-direitoshumanos/. Acesso em:30 set. 2024.