Por Ricardo Marques da Silva

“Uma bobagem perigosa”: foi assim que o influente jornal britânico The Guardian definiu a iniciativa da Amazon de vender livros sobre transtorno de déficit de atenção e hiperatividade (TDAH) que, aparentemente, foram escritos por IA, sem base científica. De acordo com especialistas, os canais de varejo online se tornaram um “cenário do Velho Oeste”, devido à falta de regulamentação em torno do trabalho produzido por IA, com risco de disseminação de informações incorretas e danosas, especialmente quando o tema envolve a saúde dos consumidores.

Em uma reportagem publicada no domingo, 4 de maio, The Guardian lembrou que o catálogo da Amazon está repleto de obras produzidas por chatbots, que são fáceis de escrever e publicar, o que inclui guias de viagem de má qualidade e obras sobre coleta de cogumelos que incentivam degustações arriscadas. Quando se trata da área de saúde, tudo se torna ainda mais complicado.

Entre os livros que abordam TDAH oferecidos no site da Amazon, o jornal cita os títulos, em tradução livre, “Navegando com o TDAH em homens: prosperando com um diagnóstico tardio”, “Homens com TDAH na idade adulta: técnicas altamente eficazes para dominar o foco” e “Dieta e fitness para homens com TDAH na idade adulta”.

The Guardian pediu que amostras de oito livros desse tipo fossem examinadas pela Originality.ai, uma empresa que detecta conteúdo produzido por IA, e o resultado foi impressionante: com 100% de confiança, todos haviam sido escritos por um chatbot. Entrevistado pelo jornal, Michael Cook, pesquisador de ciência da computação no King’s College London, disse que foi frustrante e deprimente ver livros escritos por IA surgindo cada vez mais nos mercados digitais, principalmente sobre tópicos de saúde e medicina, o que poderia resultar em diagnósticos errados ou piorar as condições do paciente.

“Sistemas de IA generativa como o ChatGPT podem ter sido treinados com base em muitos livros e artigos médicos, mas também foram treinados com base em pseudociência, teorias da conspiração e ficção. Também não se pode confiar que eles analisarão criticamente ou reproduzirão de forma confiável o conhecimento que leram anteriormente. Os sistemas de IA generativa não deveriam lidar com tópicos sensíveis ou perigosos sem a supervisão de um especialista”, afirmou Cook.

Para o pesquisador, pior ainda é o incentivo dado pelo modelo de negócios da Amazon a esse tipo de prática, apenas para ganhar dinheiro toda vez que as pessoas compram um livro, sem levar em conta se a obra é ou não confiável. Shannon Vallor, da Universidade de Edimburgo, concordou com essa ideia e disse que a Amazon tem a responsabilidade ética de não permitir, intencionalmente, danos aos seus clientes e à sociedade.

Como resposta, um porta-voz da Amazon disse apenas que a empresa possui diretrizes que regem quais livros podem ser anunciados para venda e métodos proativos e reativos que ajudam a detectar conteúdo que viole essas regras: “Investimos tempo e recursos significativos para garantir que nossas diretrizes sejam seguidas e remover livros que não as respeitem”, completou.