🔎 A IA virou cabo eleitoral

A cada temporada de frio, Zeca Pagodinho diverte a internet com seus looks de inverno. A tradição começou em junho de 2020, na pandemia, quando ele exibiu a elegância do frio em um roupão azul, gorro, meias e chinelos de dedo no Instagram. O perfil do músico desde então é um repositório de conteúdos virais. Além de registros de shows, ele já apareceu vestido de Super Mário, dando rolê de quadriciclo em Xerém com Ney Matogrosso na garupa, fantasiado de mestre Jedi.

Mas, se tem uma coisa que Zeca nunca fez, foi aparecer pedindo voto para Flávio Bolsonaro (PL), por mais que vídeos tentem te convencer disso.

A poucos meses das eleições, a imagem de figuras públicas tem sido usada em deepfakes e vídeos hiper-realistas gerados por inteligência artificial (IA) para criar falsas declarações de apoio, pedidos de voto fictícios, pesquisas eleitorais nunca realizadas e fatos políticos que nunca aconteceram.

Segundo relatório recém-publicado pelo Observatório Lupa, A IA do nosso Feed, uma média de dois conteúdos semanais de desinformação política gerados com IA viralizou nas redes sociais brasileiras entre fevereiro e junho deste ano. É muita coisa. Foi o caso de Zeca Pagodinho, para citar um exemplo mais recente; e de Zezé di Camargo, cuja imagem circulou ano passado em falsa declaração de apoio à reeleição do presidente Luiz Inácio Lula da Silva (PT).

Embora sejam falsos, esses conteúdos são altamente realistas e, por isso, têm alto potencial de desinformar. Mais grave: em um cenário eleitoral, esse tipo de conteúdo também pode afetar a percepção dos eleitores e influenciar o debate público.

As fakes criadas com IA vão além do uso de pessoas famosas pedindo voto. Em junho, a Lupa desmentiu um vídeo que simulava uma reportagem do Jornal Nacional. Na gravação, o jornalista César Tralli apresentava o resultado de uma pesquisa falsa que colocava Flávio Bolsonaro à frente das intenções de voto. Tudo havia sido feito com IA.

Em um caso mais recente, desmentimos uma falsa operação da Polícia Federal (PF) que teria prendido um grupo acusado de manipular informações sobre pesquisas eleitorais para favorecer Flávio Bolsonaro. A imagem da suposta prisão era falsa e também havia sido gerada por IA.

Esses exemplos não são para te assustar ou desmotivar a rir dos conteúdos de humor criados com inteligência artificial. Eles mostram que, apesar de as ferramentas gratuitas de detecção de IA muitas vezes falharem, existem outros caminhos para identificar um deepfake.

• Pesquise a imagem de forma reversa

A busca reversa está disponível em plataformas como o Google Images, TinEye e Yandex, para citar algumas. Já falamos dessa técnica em outras edições da Lente, e ela é simples de usar. Basta enviar uma imagem (pode ser print de um vídeo também) ou inserir o link de uma página que contenha a foto no buscador.
A ferramenta procura correspondências visuais na internet. Com isso, é possível descobrir quando e onde a mesma cena foi publicada pela primeira vez, se foi tirada do contexto original ou se é falsa.

• Procure marcas d’água ou selos de identificação

Apesar de realistas, muitos deepfakes apresentam indícios evidentes de serem sintéticos, ou seja, que foram produzidos ou modificados artificialmente. No caso do vídeo do Jornal Nacional, por exemplo, a versão que viralizou no TikTok continha uma marca d’água indicando o uso de IA.

A Meta (dona do Instagram, Facebook e WhatsApp), o YouTube e o TikTok, por exemplo, adotam mecanismos para identificar ou rotular conteúdos gerados ou alterados com IA. A informação pode aparecer como um selo na própria publicação, na imagem ou na legenda, dependendo da plataforma e do tipo de conteúdo.

• Procure as redes oficiais das pessoas retratadas

No caso de famosos, vale sempre olhar os perfis oficiais quando desconfiar sobre uma imagem ou vídeo. Zeca Pagodinho, por exemplo, nunca publicou em seus perfis oficiais no Instagram ou Facebook qualquer declaração de apoio a candidato.

Outra dica importante e que vale repetir como mantra: na dúvida, não compartilhe.

• Dica bônus: a Lupa também está de olho

E, para ajudar a identificar a desinformação política criada com IA durante as eleições, a Lupa lançou o VigIA, um programa de monitoramento diário de conteúdos sintéticos que circulam no país.

A ideia é simples: recebeu um conteúdo eleitoral suspeito?

Envie para o WhatsApp da Lupa

Além de produzir verificações, reportagens, relatórios e materiais educativos para desmentir conteúdos falsos e contribuir para reduzir os riscos que a desinformação representa para a integridade das eleições, o projeto também vai investigar como a inteligência artificial está sendo usada no contexto eleitoral.

Entre as perguntas estão: como a IA está sendo utilizada por campanhas, políticos e militantes? Partidos e candidatos estão cumprindo a legislação eleitoral? Quais conteúdos são desinformativos e quais podem representar riscos à integridade das eleições? O monitoramento pretende ajudar a responder a essas questões.

O projeto é desenvolvido pelo Observatório Lupa, em parceria com o Recod.AI (Unicamp), a FAAP e a Meedan.

Saiba mais sobre o VigIA

📬 Leia também: Por trás da piada, uma mentira
Trend engana ao sugerir, com tom de humor, que internação psiquiátrica anula dívidas.

• Se as redes são um dos principais palcos da eleição, as campanhas já começaram a pagar para se destacar por lá. Com menos de uma semana de campanha, candidatos declararam mais de R$ 1 milhão em gastos com publicidade na Meta. Desde o dia 16, 162 candidaturas já registraram despesas com anúncios na empresa, dona do Facebook, Instagram e WhatsApp. Apesar de milionário, o valor representa menos de 1% do total declarado por candidatos à Meta em 2022, ano em que foi a maior fornecedora de serviços a candidaturas, com R$129 milhões de despesas declaradas. Os dados da plataforma DivulgaCandContas são atualizados diariamente e a Lupa está de olho! [Ethel Rudnitzki, repórter]

• A Lupa está de olho também no que os candidatos falam nos debates. E neste domingo (23), vai checar, ao vivo, a partir das 20h, as declarações dos candidatos à Presidência no debate da Band. Para saber o que é verdade, distorção ou desinformação durante a transmissão, acompanhe o nosso trabalho pelo site, Instagram e X. [Brenda Farfoglia, analista de produto]

• E também vale ficar de olho nos chatbots, porque eles podem cair em desinformação. Um estudo feito pela Ekō, organização internacional de responsabilização corporativa, encontrou respostas com informações falsas e imprecisas sobre as eleições de outubro, segundo reportagem do Estadão. A organização testou Meta AI, Grok, Gemini e ChatGPT e encontrou erros factuais, incluindo uma resposta do ChatGPT que dizia que o ex-presidente Jair Bolsonaro (PL) não teria sido condenado por tentativa de golpe de Estado. Também houve recomendações de voto. [Luiz Henrique Gomes, editor-assistente]

• Já pensou em aprofundar seus conhecimentos sobre inteligência artificial? A Academia Lupa pode ajudar. No curso IA Descomplicada, você aprende como essas tecnologias funcionam, identifica riscos de desinformação e descobre formas de usar a IA no dia a dia. Os dois primeiros módulos já estão disponíveis para compra. Clique no banner abaixo para se inscrever e comece a aprender agora mesmo. [BF]