*Imagem: reprodução Unesco

Por Ricardo Marques da Silva

A menos que sejam tomadas medidas decisivas para integrar princípios éticos à IA, a tecnologia poderá distorcer os registros históricos do Holocausto e alimentar o ódio e o antissemitismo. Esse alerta foi feito pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco) em um minucioso relatório publicado neste mês.

De acordo com o órgão da ONU, a IA generativa, em especial, não só pode permitir que as pessoas espalhem desinformação e narrativas baseadas no ódio, mas também é capaz de, inadvertidamente, criar conteúdo falso ou enganoso sobre o Holocausto – como ficou conhecido o extermínio de cerca de 6 milhões de judeus pelos nazistas, durante a Segunda Guerra Mundial.

A Unesco afirmou que a IA pode, simplesmente, “reescrever a história”, graças ao seu potencial de manipular fotos, áudios e vídeos. Publicado em parceria com o Congresso Judaico Mundial, o relatório explica que, à medida que se habituam a utilizar a IA generativa para completar tarefas e encontrar informações online, os estudantes se expõem cada vez mais ao risco de utilizarem informações distorcidas sobre o Holocausto. “Com quatro em cada cinco jovens entre os 10 e os 24 anos a utilizar a IA várias vezes ao dia em atividades de educação, entretenimento e outros fins, é necessário tomar rapidamente medidas para orientar eticamente essas novas tecnologias”, disse a organização.

Em relação às falhas da IA generativa, a Unesco afirmou que mesmo os modelos mais avançados são propensos a inventar ou “alucinar” eventos, personalidades e até fenômenos históricos, quando não têm acesso a dados suficientes, e citou exemplos objetivos: “O ChatGPT e o Bard, do Google, produziram conteúdo detalhando eventos relacionados ao Holocausto que nunca aconteceram. O ChatGPT fabricou inteiramente o conceito de campanhas de ‘Holocausto por afogamento’, nas quais os nazistas afogaram judeus em rios e lagos, e o Bard gerou citações falsas de testemunhas para apoiar narrativas distorcidas dos massacres do Holocausto”.

Para ajudar a reduzir esses problemas, o relatório recomendou aos governos que acelerem a implantação da “Recomendação da Unesco sobre a Ética da IA”, um documento de 43 páginas que é a única norma global nessa área, adotada por unanimidade pelos seus Estados-membros em 2021 e em fase de integração à legislação de mais de 50 países. Além disso, a Unesco apelou às empresas tecnológicas que adotem essas normas e assumam suas responsabilidades para garantir que princípios como a justiça, a transparência e os direitos humanos sejam aplicados ainda na fase de concepção das ferramentas de IA.

Audrey Azoulay, diretor-geral da Unesco, afirmou: “Se permitirmos que os fatos horríveis do Holocausto sejam diluídos, distorcidos ou falsificados pelo uso irresponsável da IA, arriscamos a propagação explosiva do antissemitismo e a diminuição gradual da nossa compreensão das causas e consequências dessas atrocidades”.