*Foto: propaganda do app Once com personagens geradas por IA

O vídeo mostra uma mulher vestida de noiva, chorando de felicidade, que diz: “Todo mundo esperava um casamento sem smartphones, então eu dei câmeras para eles. O aplicativo que eu usei se chama @oncefilmapp”. Até aí, tudo indica que se trata de uma influenciadora feliz com o sucesso de sua festa de casamento, na qual o aplicativo de fotos Once, que permite que os celulares criem fotos ​​no estilo de câmeras profissionais, teve um papel importante.

Porém, nada na cena é real, e as imagens da noiva e dos seus convidados foram geradas por IA generativa numa peça de publicidade do Once divulgada em redes sociais, sem a indicação do uso da tecnologia. O caso está longe de ser único, e outras propagandas com falsos depoimentos de personagens criadas por IA circulam à vontade na internet, enquanto cada país tenta criar uma regulamentação que aborde esse tipo de mensagem publicitária.

Na União Europeia, as novas regras da Lei de Inteligência Artificial entrarão em vigor em agosto, com a exigência de que todo conteúdo gerado ou manipulado por IA, como imagens deepfake, áudios e vídeos, seja claramente identificado. Por enquanto, é um território livre, embora as organizações de defesa do consumidor insistam na necessidade de informar claramente aos clientes que determinado conteúdo promocional mostra influenciadores gerados por IA em vez de pessoas reais.

Uma investigação do jornal britânico The Guardian revelou outras empresas que recorrem à IA para criar falsas personagens, entre as quais o aplicativo Maket, que utiliza a tecnologia para projetar empreendimentos imobiliários, e a marca de moda Ashle, de Dubai. “Os resultados sugerem que as empresas estão recorrendo cada vez mais a conteúdo gerado por IA que alega mostrar experiências genuínas de clientes, sem dar qualquer indicação óbvia de que as pessoas apresentadas não são reais”, disse a reportagem.

The Guardian também comprovou que criadores de conteúdo que usam IA estão sendo solicitados a assinar acordos de confidencialidade para que não possam falar sobre seu trabalho. Entrevistada pelo jornal, Lisa Barber, editora do grupo de defesa do consumidor Which?, afirmou: “Nossa recente investigação sobre deepfakes nas redes sociais descobriu que preocupantes 70% das pessoas são incapazes de identificar corretamente todos os vídeos reais e falsos que mostramos a elas, o que significa que os consumidores podem estar sendo frequentemente enganados por conteúdo gerado por IA e se tornando alvo de golpistas”.

De acordo com Barber, a repetição dessas ocorrências pode levar os consumidores a não confiar no conteúdo que veem online. “As empresas devem ser transparentes quando o conteúdo for criado usando IA, principalmente se aparecem falsos influenciadores gerados pela tecnologia. Conteúdo publicitário não pode ser enganoso e deve ser socialmente responsável”, alertou.

Trata-se, sobretudo, de uma questão de custos financeiros. Para as marcas, sai muito mais barato usar IA para gerar imagens e vídeos falsos do que pagar os altos valores envolvidos nas produções com pessoas reais. No mínimo, segundo os especialistas ouvidos pelo jornal, as empresas têm o dever ético de informar com clareza a utilização das ferramentas de IA, principalmente nos casos que envolvem depoimentos de supostos “clientes felizes”. Pelo menos até que cada país tenha a sua legislação específica.