Quando se fala no impacto da inteligência artificial em eleições, a primeira ideia que vem à cabeça é a proliferação de deepfakes, na forma de imagens, vídeos e áudios manipulados para enganar os cidadãos. Trata-se realmente de uma questão preocupante, que desafia as leis e os regulamentos, na medida em que é complicado controlar a divulgação dessas mensagens mentirosas e em geral ofensivas e penalizar quem as cria.

Porém, além de ser a fonte de deepfakes, a IA está incorporada em vários processos críticos nas eleições, como cadastros eleitorais, dispositivos biométricos, bancos de dados de identidade, softwares de gestão de resultados e infraestrutura em nuvem. Às vezes, os sistemas de IA que sustentam a infraestrutura eleitoral são opacos e estão sujeitos a falhas e, ainda pior, a interferências políticas.

Essa questão foi abordada pela organização sem fins lucrativos Rest of World, dedicada à tecnologia, que destacou: “Há uma preocupação mais profunda além de qualquer falha algorítmica isolada: a transferência gradual da autoridade eleitoral das instituições públicas para sistemas que elas não controlam totalmente. Em grande parte da África, Ásia e América Latina, as tecnologias eleitorais são projetadas, fornecidas e hospedadas por fornecedores privados que operam fora do alcance da supervisão eleitoral nacional”.

A Rest of World lembrou que em julho todos os 193 países membros da ONU se reuniram em Genebra no Primeiro Diálogo Global sobre Governança de IA, que discutiu a maneira como o mundo deveria tratar a IA. “Porém, deram pouca atenção a um dos desafios de governança mais importantes da IA: seu impacto nas eleições. Essa omissão corre o risco de comprometer o progresso em todos os outros aspectos do debate a respeito da IA: segurança, confiabilidade, capacitação, implicações sociais e direitos humanos”, afirmou a reportagem.

Na visão da Rest of World, enquanto as eleições não forem reconhecidas como essenciais para a governança da IA, os esforços globais para torná-la segura e confiável se basearão em uma ilusão perigosa: a de que a democracia pode ser protegida sem que se protejam as instituições que a tornam possível.