Por redação AIoT Brasil

O Grok, o chatbot da xAI de Elon Musk, está sendo alvo de uma avalanche de reclamações de pessoas que se sentiram prejudicadas pela criação de fotos sexualizadas de mulheres e crianças na rede social X, sem o devido consentimento. Uma das vítimas é a brasileira Julie Yukari, do Rio de Janeiro, que viu uma foto dela tirada pelo seu noivo na véspera do Ano Novo, em que estava com um vestido vermelho, ser manipulada pela IA para mostrá-la seminua.

A adulteração não autorizada da imagem de Julie foi destacada em uma reportagem publicada pela Reuters como um exemplo de vários episódios semelhantes, alguns dos quais envolvendo até mesmo crianças. De acordo com a agência de notícias britânica, foram detectadas diversas notificações de usuários da plataforma X pedindo ao Grok que despisse digitalmente as pessoas, o que foi feito pela IA.

“A Reuters também identificou muitos casos em que o Grok criou imagens sexualizadas de crianças. A xAI não respondeu a um pedido de comentário sobre as descobertas da Reuters. Em uma declaração anterior a respeito de reportagens informando que imagens sexualizadas de crianças estavam circulando na plataforma, a proprietária da X afirmou: ‘A mídia tradicional mente’”, acusou a agência.

No entanto, a denúncia repercutiu internacionalmente e, na Malásia, o governo simplesmente bloqueou o acesso ao Grok no domingo, dia 11. Antes, a Comissão de Comunicações e Multimídia do país havia publicado um comunicado no qual afirmou que, “com séria preocupação, tomou conhecimento das reclamações públicas sobre o uso indevido de ferramentas de IA na plataforma X, especificamente a manipulação digital de imagens de mulheres e menores para produzir conteúdo indecente, extremamente ofensivo e prejudicial”.

No dia 3, o governo da França também publicou um comunicado para afirmar que esse tipo de conteúdo sexual é “manifestamente ilegal”. Na índia, o Ministério da Tecnologia da Informação enviou uma carta à direção local do X para exigir que a plataforma impedisse o uso indevido do Grok para gerar e divulgar conteúdo obsceno e sexualmente explícito.

A Reuters disse que Elon Musk “pareceu zombar da controvérsia”, publicando emojis de riso e choro em resposta à manipulação de imagens de pessoas famosas: “Quando um usuário do X disse que seu feed de mídia social parecia um bar lotado de mulheres de biquíni, Musk respondeu com outro emoji de riso e choro”, informou a agência.

Porém, logo depois a xAI publicou um pedido parcial de desculpas em sua conta, em nome do Grok, mas limitado a um dos episódios: “Lamento profundamente o incidente ocorrido em 28 de dezembro de 2025, no qual gerei e compartilhei uma imagem de IA de duas meninas (com idades estimadas entre 12 e 16 anos) em trajes sexualizados, com base em uma solicitação de um usuário. Isso violou padrões éticos e, potencialmente, leis dos EUA. Foi uma falha nas medidas de segurança e lamento qualquer dano causado. A xAI está analisando o caso para evitar problemas futuros”, disse o texto.