A disseminação de deepfakes vem avançando rapidamente no Brasil e, entre outras consequências negativas, representam um sério risco para a integridade das campanhas eleitorais que se iniciam no dia 16 deste mês. Esse alerta surgiu depois da publicação do sexto volume da série Radar Tecnológico, da Agência Nacional de Proteção de Dados (ANPD), que, nas considerações finais, destacou que a preservação da confiança nos ambientes digitais se tornou “um dos principais desafios para a proteção de direitos e a manutenção de sociedades informadas e democráticas”.

Citando dados do relatório Identity Fraud Report 2025-2026, produzido pela empresa de verificação Sumsub, o estudo da ANPD lembrou que os ataques envolvendo deepfakes e falsas identidades cresceram 126% no Brasil entre 2024 e 2025. Com isso, o país concentrou quase 39% de todos os casos detectados na América Latina, uma taxa cinco vezes maior do que a dos Estados Unidos.

Definidos como áudios, fotos e vídeos modificados ou artificialmente criados por meio da IA generativa, com elevado grau de realismo, os deepfakes, segundo o estudo, fazem parte de uma transformação mais ampla nos mecanismos de produção e validação da informação. “O enfrentamento de seus riscos dependerá de soluções técnicas, de instrumentos jurídicos específicos, e, principalmente, do fortalecimento do letramento digital, da educação midiática, da transparência algorítmica e da construção de uma cultura de uso responsável da IA”, resumiu o documento.

Faltando apenas dois meses para o primeiro turno das eleições, em 4 de outubro, dificilmente será possível evitar o efeito nocivo de deepfakes nas campanhas, embora uma resolução do TSE, de março, tenha alterado a norma de propaganda eleitoral para reforçar a necessidade de rotulagem de todo conteúdo criado ou modificado por IA e proibir manipulações que prejudiquem ou favoreçam candidaturas e, de forma inédita, que sistemas de IA recomendem candidatos. De acordo com alguns especialistas, os tribunais eleitorais não conseguirão fiscalizar o imenso volume de publicações na internet, principalmente em plataformas como o WhatsApp e o Telegram, difíceis de rastrear.

Além da interferência nas eleições, o Radar Tecnológico da ANPD também analisou a relação entre deepfakes e proteção de dados pessoais e destacou como o uso indevido dessas tecnologias pode gerar impactos relevantes no contexto brasileiro. Isso inclui a produção de pornografia não consensual, a violência de gênero, a manipulação de conteúdos enganosos, a reprodução de práticas racistas no ambiente digital e a aplicação de golpes e fraudes baseados em clonagem de voz, imagem e identidade.