Mal houve tempo para que as pessoas começassem a perceber a diferença entre o que é real e o que é gerado por IA na internet e já surgem formas originais de criar ainda mais confusão. A última novidade nessa área envolve um tipo de manipulação bem mais sofisticado do que algumas das falsificações grosseiras que se veem por aí, e por isso mesmo começou a ser chamado de “subtlefake”, algo como “sutilmente falso”: é apenas levemente editado, convincente e mentiroso.

O fenômeno foi abordado pelo site de jornalismo investigativo 404 Media, que na quinta-feira, dia 20, publicou uma matéria assinada por Emanuel Maiberg para explicar o significado do neologismo. A reportagem repercutiu rapidamente e ganhou menções em veículos como a CNN, na coluna “Fontes confiáveis”, de Brian Stelter, que ironizou: “Saiam da frente, deepfakes. O iPhone X de Elon Musk está sendo dominado pelos subtlefakes”.

Maiberg disse que os subtlefakes são um sinal de alerta de como o uso de IA nas redes sociais está evoluindo do abusivo, mas obviamente falso, para algo mais sutil e menos ofensivo, mas muito mais difícil de detectar. Ele destacou um caso que envolveu a atriz Xochitl Gomez, que denunciou a manipulação de uma foto em que aparecia em um estacionamento, olhando por cima do ombro, na qual foi aplicada IA para mostrá-la em poses provocantes.

“Sou muito bom em identificar imagens geradas por IA, mas não nessas fotos, se eu estivesse navegando no X. E o X obviamente não se importa se as pessoas estão fazendo isso e outras coisas tão ruins ou piores. Existem muitas, muitas contas como essa, que estão ganhando milhões de visualizações”, afirmou.

O jornalista do 404 Media lembrou que, em geral, os principais alvos de deepfakes sempre foram e continuam sendo as mulheres, mas outros usos nefastos da IA também estão se tornando mais difíceis de combater: “Nossas reportagens sobre deepfakes ao longo dos anos nos ensinaram que as pessoas os criam porque se sentem no direito de usar os corpos das mulheres para prejudicá-las intencionalmente ou porque é lucrativo. Tenho certeza de que todos esses motivos se aplicam aos subtlefakes, mas me parece que o estado atual do X está jogando gasolina nesse fogo”.

A reportagem observou que as pessoas estão usando subtlefakes como propaganda para contas em outras plataformas em que monetizam imagens não consensuais. “Parece que o esquema mais lógico é monetizar o engajamento puro por meio do programa de compartilhamento de receita de anúncios do X, que paga aos usuários pelo engajamento. Não é muito dinheiro, mas é dinheiro fácil. Como o X não tem interesse em moderar esse conteúdo, uma pessoa também pode operar várias contas, postando dezenas de vezes por dia”, acrescentou.