A utilização da inteligência artificial nos contratos de

consumo: há muito o que discutir!

    Assim, a inteligência artificial é um termo amplo que abrange tecnologias desenvolvidas para que as máquinas (ou algoritmos) possam, partindo de dados obtidos, construir raciocínios mais assertivos e rápidos, levando a predições que subsidiam a tomada de decisão. Em algumas situações, observa- -se que o nível de sofisticação da tecnologia permite inclusive que a máquina “analise” uma situação e conduza a uma “solução”, mais célere e assertiva, a partir do cruzamento de dados.

 A evolução tecnológica disponibiliza dispositivos dotados de sistematização de informações que se assemelham a atividades humanas como “pensar”, “interpretar”, “raciocinar”. Com as informações recebidas, os sistemas que integram a IA podem, fazendo um caminho semelhante ao utilizado pelo cérebro humano, através de uma rede neural formada por “neurônios artificiais”, escrever um texto científico, redigir um contrato, influenciar pessoas para realizarem compras de um determinado produto ou contratarem um serviço.

    Em paralelo, discute-se sobre a proteção de dados pessoais e como é necessária a regulamentação quanto ao uso da IA. A tecnologia vem sendo utilizada, por exemplo, para avaliar, a partir de dados coletados em diversas bases, a vida financeira de um indivíduo. A partir dessa avaliação, decide-se se determinado indivíduo deve receber um empréstimo de instituição financeira ou não, inclusive com taxas de juros personalizadas. Ou seja, a avaliação de risco de inadimplência deixa de ser de um ser humano, no caso, o gerente da instituição, e passa a ser de um sistema.

    As transformações trazidas pela IA exigem que seja realizada uma análise apurada por parte do direito contratual, do direito consumerista e da responsabilidade civil. As suas consequências ainda estão sendo observadas e não podem ser previstas com precisão, apesar de haver normas jurídicas que podem ser utilizadas na proteção do consumidor vulnerável.

    A modernização traz consigo o risco da ocorrência de danos pouco conhecidos ou totalmente desconhecidos. De acordo com Miragem (2019, p. 15), “é comum às atividades associadas à tecnologia da informação e sua multifacetada e crescente utilização para uma série de finalidades, a identificação de novos riscos”.

    O direito civil constitucional possui uma substancial base principiológica, utilizando-se dos valores e princípios constitucionais, como os da liberdade, igualdade, boa-fé, informação, precaução, reparação integral dos danos, entre outros, para orientar as relações no âmbito privado. A importância da constitucionalização do direito civil dá-se pela implementação da denominada sociedade de risco.

    O contrato eletrônico de consumo é um tipo de contrato elaborado e executado por um sistema de software. A inteligência artificial faz uso de técnicas de reconhecimento de padrões e correlações significativas para alavancar o comércio. Afirma Lee (2019, p. 251) que “quando a força criativa e destruidora da IA está sendo sentida ao mesmo tempo no mundo todo, precisamos olhar uns para os outros em busca de apoio e inspiração”. Ou seja, todos precisam aprender como lidar com essa nova realidade e as suas consequências, o que inclui a existência de danos.

    No direito consumerista há princípios que garantem a proteção do consumidor e, eventualmente, de terceiros que não estejam diretamente envolvidos na relação contratual contra os riscos que porventura possam existir. As relações negociais podem e devem se valer dos princípios e regras contidos no Código Civil quando assim for necessário.

    Portanto, os princípios comuns a ambos os regimes, em razão da vocação normativa que cada um ostenta, sofrem a calibração das exigências valorativas, cujo resultado é a variação de intensidade de sua aplicação e nas regras que criam à hipótese fática.

    O consumidor, parte vulnerável da relação, não tem a exata compreensão dos riscos advindos desta era digital, que transformou a forma como os contratos são realizados. Esta modificação acarreta a necessidade de uma interpretação das normas jurídicas já existentes, como o Código de Defesa do Consumidor, adequando a realidade transacional tecnológica. 

    Da amplitude e da efetividade das garantias asseguradas pelo CDC aos vulneráveis, a possibilidade de que a sociedade da informação se desenvolva para com os entes inteligentes artificialmente é uma tarefa a ser pautada e evidenciada pelos juristas. Nesse momento, deve-se recorrer ao exame das principais atribuições que envolvem os ganhos e riscos para a utilização dessas tecnologias. Deve-se refletir, conscientemente, sobre os interesses e verificar em quais casos poderá o CDC atuar para a defesa dos direitos lesados.

    Várias relações contratuais são realizadas entre o homem e a máquina. Mas será que o consumidor possui conhecimento de que está negociando com uma inteligência artificial programada para dar lucro, baseada em dados antes extraídos? Não se pode partir do pressuposto de que todo e qualquer consumidor sabe que há a utilização de uma tecnologia programada a favor do fornecedor. Um dos deveres previstos no CDC é o da informação clara e precisa.

    As instituições bancárias, por exemplo, estão substituindo as agências físicas por aplicativos e por “chatsbots”, ou seja, por um programa que leva as pessoas a terem a sensação de que estão interagindo com outra pessoa e não com uma ferramenta tecnológica. Os chatbots tentam simular a conversação como se esta estivesse acontecendo como outro ser humano e não com uma máquina.

    A depender, por exemplo, do grau de escolaridade ou do grau de compreensão do consumidor, poderá haver inexatidão nas informações fornecidas por este à máquina; e, até mesmo, a incompreensão dos termos utilizados pela inteligência artificial, o que pode acarretar imprecisões na tomada de decisão. Divino (2021) considera ser a dificuldade na compreensão semântica de termos uma das causas de possíveis danos decorrentes de um pedido incorreto ou de um aconselhamento desfavorável ao consumidor.

    A inteligência artificial utiliza-se das informações e do cruzamento destas para influenciar e induzir o consumidor. Assim, é dever do fornecedor, que utiliza a inteligência artificial e a obtenção e cruzamento de dados, arcar com os riscos da sua atividade, sendo este um risco inerente. Desta forma, a responsabilidade pelos danos conhecidos ou que ainda virão a ser observados é objetiva.

    Princípios como o da boa-fé, o da precaução e da prevenção devem ser entendidos como pilares da responsabilização objetiva do fornecedor pelo uso da inteligência artificial nas relações de consumo. Nem sempre o Direito, como ciência e como agente regulador das relações, conseguirá prever ou evitar os danos causados pela modernização e transformação da sociedade.

    A modernização da sociedade por meio da tecnologia traz embutido o risco. De acordo com Rosenvald (2017, p. 22), “o risco é uma característica definidora de nossa era. Tudo se processa ‘reflexivamente’ em uma civilização que ameaça a si própria”. As ações do homem, no campo da inteligência artificial, trazem consequências imprevisíveis. As escolhas realizadas podem gerar danos não almejados. E quem responderá por estes? No caso da relação consumerista, o fornecedor, logicamente.

    A IA é empregada para gerar ganhos de produtividade, o que necessariamente leva a ganhos financeiros para os fornecedores. No entanto, os benefícios financeiros, como por meio do aumento na contratação de um determinado serviço, pela utilização de algoritmos ou outros sistemas, deve observar as regras contratuais como a do dever de informação, a da boa-fé objetiva e da segurança. 

    Há limites jurídicos que devem ser observados quando da contratação por meio da inteligência artificial, sendo estes os mesmos aplicados para os contratos que não as utilizam, devendo haver um cuidado maior na observação das regras de direito contratual e consumerista quando se está diante da tecnologia. O fornecedor, pessoa natural ou jurídica, responde em face do consumidor pelo dano que lhe for causado.

    O que se pretende entender é se o uso desses algoritmos ou dispositivos são efetivamente benéficos para o consumidor. Ou, se são projetados para que o fornecedor sempre obtenha vantagem, causando danos. São muitas as indagações para as quais ainda não se tem a resposta de forma consolidada. E o Poder Judiciário brasileiro precisa se preparar para as demandas e questionamentos que virão, bem como para o reconhecimento de outros danos que podem surgir além dos já reconhecidos.

    O Poder Judiciário deve ficar atento para não indeferir demandas que venham a trazer indagações sobre uma decisão tomada pelo consumidor quando da aplicação de sistemas automatizados, baseando-se na autonomia da vontade, favorecendo, assim, o fornecedor causador do dano. A vulnerabilidade do consumidor fica mais evidente quando se está diante de contratações por meio de inteligência artificial.

    A legislação brasileira já possui regras de proteção ao consumidor que podem ser aplicadas em casos de danos causados pela utilização da inteligência artificial. Ao direito cabe a regulamentação e o equilíbrio das relações sociais através da adequação às mudanças advindas da modernização, em especial quando se tem a contratação por meio da utilização de inteligência artificial. Se o Poder Judiciário se abster de aplicar os princípios e regras jurídicas já existentes que protegem o consumidor, estará contribuindo para o aumento dos danos, inclusive, através da violação de direitos da personalidade do consumidor, além dos danos materiais efetivos. A segurança jurídica precisa ser garantida!

(Disponível em: https://www.migalhas.com.br/coluna/migalhas-contratuais/391128/a-utilizacao-da-inteligencia-artificial-nos-contratos-de-consumo. Acesso em: 10/08/2023.)

Texto II

A importância da informação estatística para as políticas

sociais no Brasil: breve reflexão sobre a experiência do

passado para considerar no presente

O Brasil seria diferente do que é hoje se não fossem as informações produzidas pelo IBGE e por outras instituições do Sistema Estatístico Nacional. Com todas as iniquidades sociais que ainda persistem no país, o quadro seria seguramente pior caso não houvesse informações estatísticas levantadas há mais de 80 anos ou quase 150 anos, se forem considerados os esforços de realização do primeiro Censo Demográfico em 1872, no final do Império, quase 20 anos depois do planejado, pelas resistências da elite latifundiária e escravocrata da época. Não há como não reconhecer que parte das conquistas republicanas de universalização da educação básica, do acesso à água, redução da pobreza, promoção do desenvolvimento regional, ampliação da cobertura do emprego formal e da previdência pelo vasto território brasileiro deve-se à disponibilidade de informação estatística de boa qualidade e cobertura levantada pelo IBGE e outras instituições como o Instituto Nacional de Estudos e Pesquisas Educacionais, os departamentos de estatísticas e pesquisas dos Ministérios e órgãos subnacionais de planejamento e estatística.

É claro que a efetividade das políticas sociais depende de uma série extensa de fatores, mas a informação estatística cumpre papel instrumental relevante em todas as fases de implementação de um programa público, da formulação à avaliação do mesmo (HOWLET et al., 2013). Políticas sociais são muito intensivas em informação no processo de seu desenho e implementação. Elas se estruturam como sistemas complexos, articulando programas de natureza universal com ações redistributivas em várias áreas setoriais, operados por agentes em diferentes níveis federativos de governo, em contextos desiguais em termos de capacidade de gestão e de perfil socioeconômico de públicos-alvo. Como discutido em Jannuzi (2016), para que essas políticas e programas sociais consigam cumprir seus objetivos específicos e contribuir para maior efetividade social da ação pública, é necessário produzir informação e estudos de diferentes naturezas – levantamentos diagnósticos detalhados, sistemas de indicadores de monitoramento de ações, pesquisas de avaliação de processos e de resultados de programas, investigação de potenciais impactos e externalidades negativas –, valendo-se de uma combinação plural de metodologias (quali, quanti e participativas), com abordagem de diferentes sujeitos envolvidos (beneficiários, usuários, técnicos na ponta e gestores).

Entre tais levantamentos figuram, em especial, os Censos Demográficos, a cinquentenária Pesquisa Nacional por Amostra de Domicílios (PNAD, e agora PNAD-Contínua) e as edições, há 20 anos, da Pesquisa de Informações Básicas Municipais (Munic). Essas pesquisas parecem se constituir nos levantamentos estatísticos mais impactantes para a formulação e avaliação de políticas sociais no Brasil. Há certamente outras pesquisas importantes a serem mencionadas, como as Estatísticas do Registro Civil, as Pesquisas de Orçamento Familiar, a Pesquisa Mensal de Emprego, a Economia Informal Urbana e, mais recentemente, a Pesquisa Nacional de Saúde, cujas contribuições precisam ser resgatadas em outros textos e estudos.

Os Censos têm permitido o desvelamento dos bolsões de pobreza e outras iniquidades no território nacional, nos municípios e seus bairros. As PNAD (e PNAD-C) possibilitam acompanhar os efeitos – e defeitos – de políticas e programas nas mais variadas áreas setoriais, tais como trabalho, educação, saúde, previdência e assistência social, entre as principais. As Munic e, desde 2012, as Pesquisas de Informações Básicas Estatuais (Estadic) têm viabilizado o dimensionamento da capacidade subnacional de gestão de políticas, de equipamentos públicos e de atendimento de serviços sociais. As três pesquisas se destacam pelo conjunto integrado de informações que proporcionam, pela abrangência temática, regularidade e cobertura territorial. Essas características garantiram a produção de dados cruciais para identificação de demandas sociais, elaboração de diagnósticos, formulação de políticas e programas e avaliação da efetividade dos mesmos ao longo das últimas décadas.

É o que se procura resgatar de forma breve e ensaística nesse texto, como subsídio para o debate acerca do mérito e dificuldades de financiamento do Censo 2020, dos suplementos temáticos das PNAD-C, Munic e outras pesquisas do Sistema Estatístico. Trata-se de um debate que precisa ser realizado com perspectiva histórica e pluralidade de visões acerca do uso da informação estatística para o Estado e sociedade no país. Não são pouco gravosas as consequências da eventual descontinuidade de séries históricas de longa data ou a decisão de adiar a captação de dados acerca de novas questões da agenda social no país.

Fonte: JANUZZI, P. M. A importância da informação estatística para as políticas sociais no Brasil: breve reflexão sobre a experiência do passado para considerar no presente. “Revista Brasileira de Estudos de População”, V. 35, N. 1, 2018, p. 1-10. (adaptado)

Disponível em: https://www.scielo.br/j/rbepop/a/77qbqWdQWx3b5gg7wLVmtsF/?lang=pt#

Acesso em 26 jul. 2023.

Com base no Texto a seguir, publicado no Jornal da USP, em 07/03/2023, responda à questão.

Na educação, o ChatGPT não estimula o pensamento crítico

Rogério de Almeida diz que a ferramenta é capaz de organizar os dados de forma coerente, mas é incapaz de um pensamento

crítico

[...]

 O professor brinca e pergunta para o chatbot como ele vê a questão da principal preocupação dos acadêmicos com o chat. O próprio ChatGPT pontua cinco questões: a primeira seria a existência de um viés, mediado pelos algoritmos, que pode reproduzir preconceitos; a segunda, ética, do ponto de vista de como o chat seria utilizado; a terceira, sobre a privacidade, já que ele funciona com o uso de diversos dados; a quarta, seria a do controle, pois ele é imprevisível e se deve prezar pelo bem-estar das pessoas; quinto, a transparência de como essa ferramenta funciona.

Porém, o especialista não segue a linha de raciocínio dessa inteligência artificial: “Eu vou por outro caminho. O que eu acho que ele nos coloca é uma questão muito interessante daquilo que nós consideramos humano. Porque, de certa forma, a inteligência artificial aprende conosco, ela é treinada com os textos que nós produzimos. Isso nos coloca em xeque em relação à criatividade e ao pensamento crítico”.

[...]

“Quando a gente pede uma redação, um trabalho escrito, o que o professor espera do aluno: que ele reflita, pense e crie ou meramente se adapte a um certo modelo?”, questiona Almeida. Na área pedagógica, a construção e o investimento no pensamento crítico, que, diferentemente das máquinas, são característicos do ser humano, devem ser priorizados.

O professor ainda acrescenta que o banco de dados dos chatbots é baseado nos conteúdos on-line, ou seja, é constantemente alimentado por criações humanas. Assim, a criticidade também é importante para evitar a disseminação de informações errôneas, que podem influenciar, além de tudo, na educação: “Aquilo que a gente criar de novo vai reabilitá-la, de modo que ela vai devolver isso para nós. A tendência é que esses robôs que estimulam a linguagem humana fiquem cada vez mais aperfeiçoados. Mas, se nós, humanos, produzimos notícias falsas intencionalmente, a gente não tem como saber o que o chat vai fazer. Ele não tem uma vontade própria e ele aprende com essas informações”, diz o professor.

(Adaptado).

Texto II

Como país mais rico do mundo está afrouxando leis contra trabalho infantil  

Em 2022, quase 4 mil crianças foram encontradas nos EUA trabalhando de modo irregular

        No país mais rico do mundo, o trabalho infantil vem se tornando uma realidade mais frequente — e nem sempre contrariando a lei. 

        Os Estados Unidos enfrentam uma onda de trabalho infantil ilegal — em 2022, quase 4 mil crianças foram encontradas por fiscais federais trabalhando de modo irregular. Este é o maior pico registrado na série histórica do Departamento de Trabalho dos EUA, disponível a partir de 2013, quando a fiscalização encontrou 1,4 mil menores nessa situação.

        Mas não é só isso. Um levantamento divulgado no fim de maio pelo Economic PolicyInstitute mostrou que, nos últimos dois anos, ao menos 14 dos 50 Estados americanos têm discutido — e oito deles já aprovaram — leis locais que reduzem barreiras para o trabalho infantil.  

        Os projetos de lei autorizam, por exemplo, o emprego de crianças de 14 anos em turnos noturnos de 6 horas e em trabalhos pesados, como os de lavanderias industriais. Adolescentes de 16 anos passam a poder ser admitidos em atividades consideradas de riscos ou fisicamente exigentes, como demolições ou frigoríficos —, ou ainda servir álcool em bares (embora seja ilegal beber antes dos 21 no país). Parte das propostas de lei também preveem remunerações que equivalem à metade do salário mínimo estabelecido legalmente para adultos. 

SANCHES, Mariana. Como país mais rico do mundo está afrouxando leis contra trabalho infantil. BBC Brasil. Washington, 26 jun. 2023 Disponível em: https://www.bbc.com/portuguese/articles/ce5n267xme3o. Acesso em: 26 jun. 2023.