Por Ricardo Marques da Silva

Tudo começou com um teste feito por Jess Weatherbed, repórter do portal de notícias The Verge, da Vox Media, que queria descobrir as proteções de privacidade existentes no Grok Imagine, o gerador de vídeos da xAI de Elon Musk. Ela fez este prompt: “Taylor Swift comemorando o Coachella com os meninos”. Como resposta, o Grok mostrou imagens estáticas de Swift usando um vestido com um grupo de homens atrás dela e as opções de criação de animações curtas em quatro configurações: “normal”, “divertido”, “personalizado” ou “picante”.

O resultado foi surpreendente. Em entrevista à BBC News, Jess contou o que aconteceu no clipe: “Ela arrancou o vestido imediatamente, ficou apenas com uma tanga com borlas por baixo, de topless, e começou a dançar, completamente sem censura, completamente exposta. Foi chocante a rapidez com que tudo aconteceu. Não pedi para que tirasse a roupa, tudo o que fiz foi selecionar a opção ‘picante’”.

O caso foi relatado com detalhes na reportagem do Verge e logo provocou a reação dos fãs de Taylor Swift, que se mobilizaram nas redes para tentar derrubar as publicações que mostravam o clipe. Ouvida pela BBC, Clare McGlynn, uma especialista em direito que ajudou a redigir uma lei que tornaria ilegais os deepfakes pornográficos no Reino Unido, disse que a IA de Musk fez “uma escolha deliberada” ao criar clipes sexualmente explícitos de Taylor Swift sem solicitação: “Isso não é misoginia por acidente, é intencional”, afirmou.

Para a BBC, a questão central é a comprovação da falta de salvaguardas contra a criação de vídeos falsos no Grok Imagine por meio da manipulação de fotos de figuras públicas, o que contraria a própria política da xAI, que proíbe “representar imagens de pessoas de forma pornográfica”. A repórter Jess Weatherbed disse que The Verge escolheu Taylor Swift para testar o recurso do Grok por causa das deepfakes que já haviam sido feitos com a cantora, em 2024: “Presumimos – equivocadamente, sabemos agora – que se eles tivessem implementado qualquer tipo de proteção para impedir a imitação da imagem de celebridades, ela seria a primeira da lista, dados os problemas que aconteceram”, explicou a jornalista.