Na era da IA e manipulação de imagens, ver já não é acreditar

Deepfakes e edições hiper-realistas feitas por IA desafiam a segurança, a política e o jornalismo, criando novas ameaças à confiança pública e aos direitos individuais.

    Nos últimos anos, a Inteligência Artificial deixou de ser uma tecnologia restrita a especialistas para se tornar acessível a qualquer pessoa com um celular e conexão à internet. Entre os campos mais impactados por essa democratização, está a manipulação de imagens, agora capaz de produzir conteúdos hiper-realistas que desafiam até os olhos mais atentos.

    O fenômeno, que envolve desde simples retoques até deepfakes extremamente convincentes, acende alertas em áreas como segurança digital, política, jornalismo, padrões de beleza e direitos autorais.

    Para Gustavo Zaniboni, fundador da Ananque, o principal fator que agrava os riscos hoje não é necessariamente a mudança na natureza das ameaças, mas sim na facilidade com que elas podem ser executadas.

    “Os riscos de manipulação de imagens, no geral, não mudaram muito. O que mudou foi a probabilidade de acontecerem. Uma vez que as ferramentas para ataques envolvendo imagens ‘fakes’ estão disponíveis agora para pessoas sem conhecimento avançado em tecnologia”, alerta.

    Ferramentas de baixo custo, ou mesmo gratuitas, permitem que qualquer usuário crie ou altere imagens com alto grau de realismo. Isso sem que seja necessário ter experiência em softwares avançados. Esse acesso democratizado, segundo Gustavo, amplia o alcance de golpes de extorsão, fraudes em sistemas de autenticação e manipulação da opinião pública.

    Ele alerta que não se trata apenas de criar imagens do zero, mas também de realizar pequenas alterações com potencial de gerar impacto significativo. “Colocar uma garrafa de bebida alcoólica na mão de uma pessoa que diz não beber é muito simples. E isso pode ser usado para manipular a opinião pública, por exemplo”, comenta.

    O avanço das IA’s também coloca em xeque a capacidade de diferenciação entre o real e o sintético. Gustavo destaca que, para humanos, o risco de engano cresce em situações de estresse ou baixa atenção, como no caso de idosos recebendo imagens falsas de familiares em perigo. Já para sistemas automáticos, o perigo está na ausência de camadas adicionais de verificação.

    “Sistemas de reconhecimento facial que podem ser manipulados com injeção de imagens já não deveriam existir, assim como outras tecnologias de segurança. Qualquer sistema de segurança deve operar em camadas, e se algum deles não faz isso, o sistema em si é ruim. Então, sistemas ‘ruins’ de segurança podem ser manipulados. Mas esses tipos de ataques são conhecidos faz 40 anos”, explica.

    Michael San Martim, fundador da DataSpoc, reforça que a detecção de deepfakes é um desafio técnico contínuo. “Um deepfake é uma mídia sintética criada por Inteligência Artificial para imitar com alto realismo a aparência ou a voz de uma pessoa real – como se fosse uma fantasia digital extremamente convincente”, comenta. “Detectar deepfakes é como jogar esconde-esconde com um adversário que muda constantemente de disfarce.”

    Ele explica que sua empresa desenvolve o GenbyAI, uma tecnologia que funciona como “detetive digital”, examinando milhares de elementos invisíveis a olho nu, como iluminação, ruído, padrões estruturais e reflexos, para identificar inconsistências.

Disponível em: https://consumidormoderno.com.br/ ia-manipulacao-imagens-acreditar/. Acesso em: 05 de novembro de 2025.

Na era da IA e manipulação de imagens, ver já não é acreditar

Deepfakes e edições hiper-realistas feitas por IA desafiam a segurança, a política e o jornalismo, criando novas ameaças à confiança pública e aos direitos individuais.

    Nos últimos anos, a Inteligência Artificial deixou de ser uma tecnologia restrita a especialistas para se tornar acessível a qualquer pessoa com um celular e conexão à internet. Entre os campos mais impactados por essa democratização, está a manipulação de imagens, agora capaz de produzir conteúdos hiper-realistas que desafiam até os olhos mais atentos.

    O fenômeno, que envolve desde simples retoques até deepfakes extremamente convincentes, acende alertas em áreas como segurança digital, política, jornalismo, padrões de beleza e direitos autorais.

    Para Gustavo Zaniboni, fundador da Ananque, o principal fator que agrava os riscos hoje não é necessariamente a mudança na natureza das ameaças, mas sim na facilidade com que elas podem ser executadas.

    “Os riscos de manipulação de imagens, no geral, não mudaram muito. O que mudou foi a probabilidade de acontecerem. Uma vez que as ferramentas para ataques envolvendo imagens ‘fakes’ estão disponíveis agora para pessoas sem conhecimento avançado em tecnologia”, alerta.

    Ferramentas de baixo custo, ou mesmo gratuitas, permitem que qualquer usuário crie ou altere imagens com alto grau de realismo. Isso sem que seja necessário ter experiência em softwares avançados. Esse acesso democratizado, segundo Gustavo, amplia o alcance de golpes de extorsão, fraudes em sistemas de autenticação e manipulação da opinião pública.

    Ele alerta que não se trata apenas de criar imagens do zero, mas também de realizar pequenas alterações com potencial de gerar impacto significativo. “Colocar uma garrafa de bebida alcoólica na mão de uma pessoa que diz não beber é muito simples. E isso pode ser usado para manipular a opinião pública, por exemplo”, comenta.

    O avanço das IA’s também coloca em xeque a capacidade de diferenciação entre o real e o sintético. Gustavo destaca que, para humanos, o risco de engano cresce em situações de estresse ou baixa atenção, como no caso de idosos recebendo imagens falsas de familiares em perigo. Já para sistemas automáticos, o perigo está na ausência de camadas adicionais de verificação.

    “Sistemas de reconhecimento facial que podem ser manipulados com injeção de imagens já não deveriam existir, assim como outras tecnologias de segurança. Qualquer sistema de segurança deve operar em camadas, e se algum deles não faz isso, o sistema em si é ruim. Então, sistemas ‘ruins’ de segurança podem ser manipulados. Mas esses tipos de ataques são conhecidos faz 40 anos”, explica.

    Michael San Martim, fundador da DataSpoc, reforça que a detecção de deepfakes é um desafio técnico contínuo. “Um deepfake é uma mídia sintética criada por Inteligência Artificial para imitar com alto realismo a aparência ou a voz de uma pessoa real – como se fosse uma fantasia digital extremamente convincente”, comenta. “Detectar deepfakes é como jogar esconde-esconde com um adversário que muda constantemente de disfarce.”

    Ele explica que sua empresa desenvolve o GenbyAI, uma tecnologia que funciona como “detetive digital”, examinando milhares de elementos invisíveis a olho nu, como iluminação, ruído, padrões estruturais e reflexos, para identificar inconsistências.

Disponível em: https://consumidormoderno.com.br/ ia-manipulacao-imagens-acreditar/. Acesso em: 05 de novembro de 2025.