O texto seguinte servirá de base para responder à questão.

Levei 20 minutos para enganar ChatGPT e Gemini − e os fiz contar mentiras sobre mim

Talvez você já tenha ouvido que chatbots de inteligência artificial, como ChatGPT e Gemini, às vezes inventam informações. Isso é preocupante. Mas existe um problema menos conhecido e potencialmente mais grave: a facilidade com que essas ferramentas são levadas a repetir conteúdos falsos, com efeitos sobre a busca por informação confiável e até sobre a segurança das pessoas.

Um número crescente de usuários descobriu um método simples para fazer sistemas de IA dizerem quase qualquer coisa. Essa estratégia interfere no que algumas das principais inteligências artificiais do mundo dizem sobre temas delicados, como saúde, finanças pessoais e reputação. Informações enviesadas influenciam decisões importantes, como escolhas de consumo, posicionamentos políticos e questões médicas.

Para demonstrar esse risco, um repórter realizou um experimento incomum: conseguiu fazer o ChatGPT, o Gemini e recursos de busca com IA do Google afirmarem que ele seria extraordinariamente habilidoso em comer cachorros-quentes. A experiência mostrou que alterar o que essas ferramentas dizem a outras pessoas é tão simples quanto publicar um único texto aparentemente informativo na internet.

O método explora fragilidades dos sistemas usados pelos chatbots. Especialistas alertam que as empresas de IA avançam mais rápido do que sua capacidade de controlar a precisão das respostas, o que amplia os riscos. As empresas afirmam utilizar mecanismos para reduzir manipulações e manter resultados confiáveis, mas o problema ainda está longe de ser totalmente resolvido. Entre as possíveis consequências estão golpes, destruição de reputações e até situações que provoquem danos às pessoas.

Quando alguém conversa com um chatbot, parte da resposta vem do material usado no treinamento do modelo. Em outros casos, porém, a ferramenta consulta a internet para complementar a informação. É nesse momento que ela se torna mais vulnerável a conteúdos manipulados.

Foi justamente essa brecha que permitiu o experimento. O repórter escreveu, em seu próprio site, um artigo afirmando que havia um ranking dos melhores jornalistas de tecnologia em competições de cachorro-quente. Ele inventou um campeonato inexistente e colocou a si mesmo em primeiro lugar. Em menos de um dia, os principais chatbots já reproduziam a história absurda como se fosse verdadeira.

Ao perguntar quem seriam os melhores jornalistas de tecnologia em comer cachorros-quentes, as ferramentas passaram a repetir o conteúdo publicado. Em alguns casos, os sistemas sugeriam que aquilo poderia ser uma piada. Então, o autor alterou o texto para afirmar que não se tratava de sátira, e por algum tempo as IAs passaram a tratar o conteúdo com mais seriedade.

O problema, porém, não se limita a experiências curiosas. Pessoas usam esse mesmo mecanismo para influenciar respostas de IA sobre temas muito mais sensíveis. Muitas vezes, os sistemas indicam caminhos (links) para a fonte, mas raramente deixam claro que a informação pode vir de um único texto ou de uma fonte interessada no assunto.

Especialistas afirmam que qualquer pessoa pode produzir esse efeito com relativa facilidade, bastando publicar um conteúdo aparentemente confiável. Há décadas, mecanismos de busca enfrentam tentativas de manipulação, mas vários analistas consideram que a nova fase da IA reabriu espaço para práticas que lembram os primeiros tempos do spam na internet.

A situação se agrava porque os usuários tendem a confiar mais na resposta sintetizada pela IA do que nos resultados tradicionais de busca. Antes, era preciso acessar um site e avaliar seu conteúdo. Agora, a informação aparece diretamente na resposta da ferramenta, com tom de autoridade. Mesmo quando há indicação de fonte, as pessoas se mostram menos propensas a verificar o material original.

Chatbots funcionam relativamente bem em temas de conhecimento consolidado. O risco aumenta quando o assunto envolve controvérsia, atualização constante ou consequências práticas importantes. Por isso, essas ferramentas não devem ser tratadas como fonte suficiente para orientações médicas, jurídicas ou decisões que afetem diretamente a vida das pessoas.

Diante disso, é importante buscar informações complementares e observar se a IA apresenta fontes confiáveis. É essencial lembrar que essas ferramentas apresentam mentiras com o mesmo tom de segurança com que apresentam fatos. Se antes os mecanismos de busca obrigavam o usuário a avaliar as informações por conta própria, agora a IA faz isso em seu lugar. Por isso, não se deve abandonar o pensamento crítico.

https://www.bbc.com/portuguese/articles/cy4w88ew21jo.adaptado.

TEXTO PARA A QUESTÃO

Insensivelmente, ele parou para verificar quem o chamava. De dentro da taverna, com passo apressado, veio ao seu encontro uma negra suja, carapinha desgrenhada, com um caco de pente atravessado no alto da cabeça, calçando umas remendadas chinelas de tapete. Estava meio embriagada. Cassi espantou-se com aquele conhecimento; fazendo um ar de contrariedade, perguntou amuado:

- Que é que você quer?

A negra, bamboleando, pôs as mãos nas cadeiras e fez com olhar de desafio:

- Então, você não me conhece mais, “seu canaia”? Então você não “si” lembra da Inês, aquela crioulinha que sua mãe criou e você...

Lembrou-se, então, Cassi, de quem se tratava. Era a sua primeira vítima, que sua mãe, sem nenhuma consideração, tinha expulsado de casa em adiantado estado de gravidez. Reconhecendo-a e se lembrando disso, Cassi quis fugir. A rapariga pegou-o pelo braço:

- Não fuja, não, "seu" patife! Você tem que "ouvi" uma "pouca" mas de "sustança".

A esse tempo, já os frequentadores habituais do lugar tinham acorrido das tascas e hospedarias e formavam roda, em torno dos dois. Havia homens e mulheres, que perguntavam:

- O que há, Inês?

- O que te fez esse moço?

Cassi estava atarantado no meio daquelas caras antipáticas de sujeitos afeitos a brigas e assassinatos. Quis falar:

- Eu não conheço essa mulher. Juro...

- "Muié", não! - fez a tal Inês, gingando. - Quando você "mi" fazia "festa", "mi" beijava e "mi" abraçava, eu não era "muié", era outra coisa, seu "cosa" ruim!

Um negro esguio, de olhar afoito, com um ar decidido de capoeira, interveio:

- Mas, Inês, quem é afi nal esse moço?

- É o "home qui mi" fez mal; que "mi" desonrou, "mi pois" nesta "disgraça".

- Eu! - exclamou Cassi.

- Sim! Você "memo", "seu" caradura! "Mi alembro" bem... Foi até no quarto de sua mãe...

Estava arrumando a casa.

Uma outra mulher, mas esta branca, com uns lindos cabelos castanhos, em que se viam lêndeas, comentou:- É sempre assim. Esses "nhonhôs gostosos" desgraçam a gente, deixam a gente com o filho e vão-se. A mulher que se fomente... Malvados!

Cassi ouvia tudo isso sem saber que alvitre tornar. Estava amarelo e olhava, por baixo das pálpebras, todas as faces daquele ajuntamento. Esperava a polícia, um socorro qualquer. A preta continuava:

- Você sabe onde "tá" teu "fio"? "Tá" na detenção, fique você sabendo. "Si" meteu com ladrão, é "pivete" e foi “pra chacr’a". Eis aí que você fez, "seu marvado", "home mardiçoado". Pior do que você só aquela galinha-d'angola de "tua" mãe, "seu" sem-vergonha!

BARRETO, L. Clara dos Anjos. Belo Horizonte: Autêntica, 2023. p.150-151.