Game com IA prepara eleitores para combater fake news nas eleições
IAgora? simula um ambiente de campanha eleitoral e treina jogadores para identificar notícias falsas e estratégias de manipulação online
21/08/202426/06/2024
Por Ricardo Marques da Silva
A menos que sejam tomadas medidas decisivas para integrar princípios éticos à IA, a tecnologia poderá distorcer os registros históricos do Holocausto e alimentar o ódio e o antissemitismo. Esse alerta foi feito pela Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco) em um minucioso relatório publicado neste mês.
De acordo com o órgão da ONU, a IA generativa, em especial, não só pode permitir que as pessoas espalhem desinformação e narrativas baseadas no ódio, mas também é capaz de, inadvertidamente, criar conteúdo falso ou enganoso sobre o Holocausto – como ficou conhecido o extermínio de cerca de 6 milhões de judeus pelos nazistas, durante a Segunda Guerra Mundial.
A Unesco afirmou que a IA pode, simplesmente, “reescrever a história”, graças ao seu potencial de manipular fotos, áudios e vídeos. Publicado em parceria com o Congresso Judaico Mundial, o relatório explica que, à medida que se habituam a utilizar a IA generativa para completar tarefas e encontrar informações online, os estudantes se expõem cada vez mais ao risco de utilizarem informações distorcidas sobre o Holocausto. “Com quatro em cada cinco jovens entre os 10 e os 24 anos a utilizar a IA várias vezes ao dia em atividades de educação, entretenimento e outros fins, é necessário tomar rapidamente medidas para orientar eticamente essas novas tecnologias”, disse a organização.
Em relação às falhas da IA generativa, a Unesco afirmou que mesmo os modelos mais avançados são propensos a inventar ou “alucinar” eventos, personalidades e até fenômenos históricos, quando não têm acesso a dados suficientes, e citou exemplos objetivos: “O ChatGPT e o Bard, do Google, produziram conteúdo detalhando eventos relacionados ao Holocausto que nunca aconteceram. O ChatGPT fabricou inteiramente o conceito de campanhas de ‘Holocausto por afogamento’, nas quais os nazistas afogaram judeus em rios e lagos, e o Bard gerou citações falsas de testemunhas para apoiar narrativas distorcidas dos massacres do Holocausto”.
Para ajudar a reduzir esses problemas, o relatório recomendou aos governos que acelerem a implantação da “Recomendação da Unesco sobre a Ética da IA”, um documento de 43 páginas que é a única norma global nessa área, adotada por unanimidade pelos seus Estados-membros em 2021 e em fase de integração à legislação de mais de 50 países. Além disso, a Unesco apelou às empresas tecnológicas que adotem essas normas e assumam suas responsabilidades para garantir que princípios como a justiça, a transparência e os direitos humanos sejam aplicados ainda na fase de concepção das ferramentas de IA.
Audrey Azoulay, diretor-geral da Unesco, afirmou: “Se permitirmos que os fatos horríveis do Holocausto sejam diluídos, distorcidos ou falsificados pelo uso irresponsável da IA, arriscamos a propagação explosiva do antissemitismo e a diminuição gradual da nossa compreensão das causas e consequências dessas atrocidades”.
#antissemitismo#conteúdo falso#desinformação#Ética da IA#Holocausto#IA generativa#uso irresponsável da IA
IAgora? simula um ambiente de campanha eleitoral e treina jogadores para identificar notícias falsas e estratégias de manipulação online
21/08/2024Maior evento da democracia do planeta, pleito na Índia sofre os efeitos das informações falsas que confundem a campanha e os eleitores
20/05/2024Manipulação de dezenas de imagens foi denunciada pela BBC como uma artimanha de atração de votos para o candidato republicano
08/03/2024