AiotAiot


Deepfake no RS comprova os riscos do uso político da IA

Adulteração de áudio com a voz do prefeito de Crissiumal aconteceu na semana em que o TSE aprovou regras duras contra a prática

04/03/2024

Deepfake no RS comprova os riscos do uso político da IA
Tamanho fonte

Por Ricardo Marques da Silva

No dia 27 de fevereiro, o Tribunal Superior Eleitoral (TSE) aprovou em caráter excepcional um conjunto de regras que podem levar até mesmo à cassação de candidatos por uso irregular de inteligência artificial nas eleições municipais de outubro deste ano, com destaque para a “proibição absoluta” de deepfakes. Na mesma semana, um caso que envolveu Marco Aurélio Nedel, prefeito de Crissiumal, no Rio Grande do Sul, comprovou que essas penas têm fundamento.

A fraude, comprovada pela Polícia Civil, envolveu um áudio deepfake em que o prefeito classificava como “pessoal analfabeto” os funcionários da Secretaria de Obras do município, o que caiu como uma bomba na cidade. Logo que tomou conhecimento do fato, Nedel registrou um boletim de ocorrência e, rapidamente, a investigação policial confirmou a manipulação.

Porém, o prejuízo causado à reputação do prefeito já havia acontecido. “Eu não tinha ideia do estrago que isso aí poderia causar. Mas, nos dias seguintes, o áudio foi se espalhando na cidade pelo WhatsApp e fui me dando conta da gravidade do caso”, disse Nedel ao portal G1, da Globo. “A gente espera que a Justiça brasileira dê uma resposta rápida para que outros não se sintam encorajados a ir por esse caminho, de criar fatos que não correspondem à realidade, e com isso tentar tirar proveito político e prejudicar candidatos”, acrescentou.

A resposta dada pelo TSE tem exatamente esse objetivo. De acordo com o presidente do Tribunal, ministro Alexandre de Moraes, a resolução permitirá que a Justiça tenha “instrumentos eficazes para combater o desvirtuamento nas propagandas eleitorais, nos discursos de ódio, fascistas e antidemocráticos e na utilização de IA para colocar na fala de uma pessoa algo que ela não disse”. Moraes afirmou ainda que essa é “uma das normas mais modernas do mundo com relação ao combate à desinformação, às fake news e ao uso ilícito da inteligência artificial”.

Entre as regras aprovadas pelo TSE, destacam-se:
. a proibição de deepfake;
. a obrigação de aviso sobre o uso de IA na propaganda eleitoral;
. a restrição do emprego de robôs para intermediar contatos com o eleitor (a campanha não pode simular diálogo com candidato nem com qualquer outra pessoa);
. a responsabilização das big techs que não retirarem do ar, imediatamente, conteúdo com desinformação, discurso de ódio, ideologia nazista e fascista, além de mensagens antidemocráticas, racistas e homofóbicas.

De fato, o que o TSE fez foi antecipar-se ao Legislativo, que até agora não pautou a votação do Projeto de Lei nº 2.023, apresentado em maio de 2023 pelo presidente do Senado, Rodrigo Pacheco, para a regulamentação da IA. Conclui-se que, se em mais de nove meses o Congresso não conseguiu chegar a uma decisão, o Judiciário resolveu o caso por conta própria, considerando que as eleições se aproximam e não há mais tempo para indefinições.

TAGS

#deepfake#discursos de ódio#fake news#inteligência artificial nas eleições#propaganda eleitoral#regulamentação da IA

COMPARTILHE

Notícias Relacionadas