Por Ricardo Marques da Silva

As regras de IA da Meta deixam espaço aberto para que chatbots mantenham conversas “sensuais” com crianças, ofereçam informações médicas falsas e forneçam argumentos que sustentam comportamento racista. Essa denúncia foi feita pela agência de notícias Reuters, em reportagem publicada na quinta-feira, dia 14, com base na análise de um documento de política interna da empresa de Mark Zuckerberg, relacionado aos padrões que orientam o assistente de IA generativa Meta AI e os bots disponíveis nas plataformas de mídia social Facebook, WhatsApp e Instagram.

De acordo com a Reuters, a Meta confirmou a autenticidade do documento e disse que, depois de receber as perguntas enviadas pela agência no início de agosto, “removeu as partes que afirmavam ser permitido que chatbots flertassem e se envolvessem em brincadeiras românticas com crianças”. Com mais de 200 páginas, o relatório “GenAI: padrões de risco de conteúdo” havia sido aprovado pelas equipes jurídica, de políticas públicas e de engenharia da Meta para definir o que deve ser considerado como comportamentos aceitáveis para chatbots no processo de desenvolvimento e treinamento dos produtos de IA generativa da empresa.

Parte das regras é surpreendente, como mostrou a Reuters, que citou este trecho: “É aceitável descrever uma criança em termos que evidenciem sua atratividade (exemplo: ‘sua forma jovem é uma obra de arte’)”. A reportagem destaca: “O documento também observa que seria aceitável que um robô dissesse a uma criança de 8 anos sem camisa que ‘cada centímetro de você é uma obra-prima – um tesouro que eu prezo profundamente’”.

Andy Stone, porta-voz da Meta, disse que o documento está sendo revisto e que tais conversas com crianças nunca deveriam ter sido permitidas. “Os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas, e foram removidos. Temos políticas claras sobre que tipo de respostas personagens de IA podem oferecer, e essas políticas proíbem conteúdo que sexualize crianças e jogos de interpretação de papéis sexualizados entre adultos e menores”, alegou Stone.

Apesar das explicações, os senadores norte-americanos Marsha Blackburn e Josh Hawley, ambos republicanos, pediram que a Meta seja investigada para a apuração das denúncias feitas pela Reuters. “Somente depois que a Meta foi pega ela retirou partes do documento da empresa. Isso é motivo para uma investigação imediata do Congresso”, disse Hawley.

Marsha Blackburn acrescentou: “Quando se trata de proteger crianças preciosas online, a Meta falhou miseravelmente em todos os aspectos possíveis. Pior ainda, a empresa fez vista grossa para as consequências devastadoras do design de suas plataformas”. Outro senador, o democrata Peter Welch, afirmou que o relatório “mostra o quão críticas são as salvaguardas para a IA, especialmente quando a saúde e a segurança das crianças estão em risco”.