Por redação AIoT Brasil

Os avanços tecnológicos trazem também métodos sofisticados de engano e falsidade, como a tecnologia deepfake, uma ferramenta que facilita a fraude eleitoral.

Essa ação não é obra de indivíduos agindo isoladamente, mas sim de um esforço coordenado por um grande número de fraudadores e cibercriminosos. Suas ações tecem uma complexa rede de desinformação e manipulação, dificultando a proteção da integridade eleitoral.

A Check Point Software analisou o funcionamento da tecnologia deepfake e as extensas camadas deste submundo digital, e alerta sobre o aumento da disponibilidade desses serviços na Darknet e no Telegram. A tecnologia deepfake permite criar conteúdo audiovisual “hiper-realista” falso e manipulado para confundir a opinião pública ou desacreditar políticos.

Em plataformas como o GitHub existem mais de 3 mil repositórios relacionados à tecnologia deepfake, o que indica seu amplo desenvolvimento e o potencial para sua distribuição. O Telegram hospeda mais de 400 canais e grupos que oferecem serviços deepfake, desde bots automatizados que orientam os usuários durante o processo, até alguns customizados.

Os preços são bem acessíveis, já que você pode criar um vídeo de US$ 2 a US＄ 100, dependendo da complexidade. A facilidade de acesso e utilização desses serviços evidencia uma ameaça crescente não só à transparência das eleições, mas também à confiança fundamental sobre a qual as instituições democráticas devem ser construídas.

Uma das técnicas mais utilizadas com a tecnologia deepfake é a clonagem de voz, que permite replicá-la com grande precisão. Esta é uma técnica mais fácil de produzir e compartilhar que deepfakes de vídeo e é realmente eficaz na disseminação de desinformação.

Em janeiro deste ano foi distribuída uma chamada automática na qual se ouvia a voz falsa de Joe Biden, atual presidente dos Estados Unidos e novamente candidato às eleições, incitando os moradores de New Hampshire a não votarem. Os Estados Unidos proibiram as chamadas automáticas geradas por IA, refletindo as preocupações crescentes sobre a manipulação digital e o seu impacto nas eleições.

Para combater a tecnologia deepfake e conseguir preservar a confiança da população nos processos democráticos, é essencial que sejam promovidas medidas legislativas, soluções tecnológicas e a sensibilização pública.

Os cidadãos devem estar atentos aos conteúdos com os quais interagem e confiar exclusivamente em informações provenientes de fontes fidedignas e oficiais, bem como procurar não compartilhar notícias desatualizadas ou pouco confiáveis.

“O desenvolvimento da inteligência artificial e de tecnologias como o deepfake nos tornou mais céticos que nunca, e é lógico quando até a democracia, pilar fundamental sobre a qual se estrutura a nossa sociedade, faz parte desta realidade”, afirma Fernando de Falchi, gerente de Engenharia de Segurança da Check Point Software Brasil.

Impacto da IA nas eleições no Brasil
A IA deve interferir muito nas eleições municipais de 2024 no Brasil, mesmo com o Tribunal Superior Eleitoral (TSE) tendo aprovado no último dia 27 de fevereiro a regra que proíbe uso de IA para criar e propagar deepfakes e conteúdos falsos.

Fernando de Falchi explica que essa interferência nas eleições pelo cibercrime e por atacantes movimentará também a oferta e procura dos serviços que estão disponíveis na Deep Web, que conseguem oferecer, entre outros recursos, vídeos falsos que utilizam imagens de pessoas e em diferentes locais. “Há ainda mensagens de voz disponíveis que são, praticamente, uma clonagem da voz.

Um dos usos em deepfake, por exemplo, seria imitar uma pessoa alvo de um áudio falso reagindo a uma pergunta sobre algum tema polêmico. Falchi acredita que uma forma que será muito utilizada por aqui é a maneira de distribuição de vídeos, áudios, de mensagens falsas e deepfakes encaminhados essencialmente por e-mail, por mensagens, por WhatsApp, SMS, de modo a atingir o maior número de pessoas.

“Além disto, tanto voz como vídeo poderão ser disseminados por trás das técnicas de phishing e engenharia social para poder atingir o maior número de pessoas. Nas redes sociais também será preciso prestar atenção com posts que aparecem em seu perfil”, alerta ele.

Outro problema apontado é que as pessoas já postam o que recebem sem antes fazer uma avaliação do que está vendo, lendo ou ouvindo. É sabido que, depois de algo ser publicado, é praticamente impossível apagar esses vídeos e outras mensagens na Internet. “Esse prejuízo à imagem de uma pessoa pode ser muito danoso e bem complexo para a pessoa alvo se desvencilhar”, diz Falchi.

Ele ainda chama a atenção para a possibilidade de cibercriminosos se aproveitarem de deepfakes e do evento do momento, as eleições municipais, para realizar ataques de ransomware. “Tudo isso é similar ao cenário dos golpes, que se utilizam de phishing e engenharia social ao enviarem esses vídeos e áudios. Os cibercriminosos se utilizarão do momento de um grande evento como as eleições para distribuir deepfakes, desinformação e conteúdo falso para roubar credenciais, identidade e outros dados, bem como obter lucro financeiro e realizar ataques de ransomware com esse conteúdo.”