Um estudo realizado por pesquisadores da Universidade de Passau, na Alemanha, constatou que os chatbots de inteligência artificial são capazes de dar respostas mais coerentes, relevantes e autênticas do que políticos e outras figuras públicas. Segundo os cientistas, o resultado mostra que a maioria das pessoas não consegue distinguir o que é um conteúdo real e o que é gerado por IA, o que causa preocupação e destaca a necessidade urgente de informar com clareza os danos que podem ser causados à sociedade, especialmente em períodos de eleição.

Publicado no início do mês no periódico científico PLOS One, o estudo usou perguntas que haviam sido feitas no programa de TV britânico de debate político Question Time, da BBC One. Em seguida, foi solicitado que o LLM (grande modelo de linguagem) GPT-4 Turbo, da OpenAI, respondesse às questões como se fosse uma de 112 pessoas selecionadas, entre políticos, empresários, jornalistas, especialistas médicos, escritores e “outros membros conhecidos da sociedade britânica”.

A partir das respostas do chatbot, os pesquisadores recrutaram um grupo de 948 cidadãos britânicos para avaliar as respostas fornecidas por pessoas reais no programa de TV e compará-las com as respostas geradas por IA. “Os resultados mostraram claramente que o conteúdo gerado por LLMs, com imitações, foi considerado mais autêntico do que as respostas reais do debate e, portanto, “pode ser usado para enganar o público quanto à natureza das declarações no âmbito político”, concluiu o estudo.

Em entrevista ao site 404 Media, o professor Steffen Herbold, chefe do departamento de engenharia de IA da Universidade de Passau e líder do estudo, disse que as altas avaliações que o chatbot recebeu em termos de autenticidade foram realmente surpreendentes, porque isso, supostamente, é difícil de falsificar. “Não estamos falando de pessoas desconhecidas, e sim de um dos mais importantes programas de debates do Reino Unido”, destacou.

Herbold lembrou que os políticos reais estavam falando de improviso diante de uma câmera de televisão, o que pode levar a respostas desconexas e pouco refinadas, enquanto o LLM se baseia em textos preexistentes. Apesar dessa ressalva, o retorno positivo dos participantes na pesquisa às respostas da IA foi definido como “alarmante”.

Herbold e seus colegas se interessaram pelas habilidades de personificação política dos LLMs em 2023, quando modelos de IA criados por empresas como OpenAI, Google e Anthropic demonstraram pela primeira vez respostas sofisticadas que eram difíceis de distinguir de fontes humanas. “Já estávamos convencidos de que esses modelos são realmente bons em gerar textos e que são muito convincentes. Estávamos nos perguntando o que aconteceria se pedíssemos a eles que imitassem uma pessoa específica e, mais importante ainda, se acreditariam nisso”, explicou.

Sem dúvida, acreditaram. Herbold contou que muitos participantes ficaram surpresos com a sofisticação dos textos gerados pela IA e expressaram preocupações a respeito dos efeitos da tecnologia no longo prazo: “Muitas pessoas disseram: ‘Nossa, eu nunca acreditei que isso fosse IA’’. Outras estavam realmente preocupadas: ‘Se a IA consegue fazer isso, o que mais eu posso ter deixado passar?’ Tivemos pouquíssimas vozes contrárias, acho que apenas uma ou duas que disseram: ‘É, eu já suspeitava que poderia haver envolvimento de IA aqui’”.

O cientista disse que o objetivo do estudo era perceber os impactos imprevisíveis das mensagens geradas por IA em campanhas políticas e levantar a necessidade de evitar que acelerem a disseminação de desinformação e comprometam a confiança dos eleitores. “Nossa esperança é que esse estudo aumente a conscientização sobre o risco da desinformação. Você vê coisas em chats, mensagens na internet, citações por toda parte que são simplesmente inventadas, e você nem percebe”, acrescentou.