Por redação AIoT Brasil

Em todo o mundo o Facebook emprega aproximadamente 15 mil moderadores, que têm a responsabilidade de identificar postagens e banir as que contêm spam ou incitação ao ódio ou à violência. Normalmente, essas mensagens inadequadas, sinalizadas por usuários ou por filtros de aprendizado de máquina, são automaticamente excluídas, mas grande parte vai para uma fila, para análise dos moderadores, a quem cabe a tarefa de verificá-las caso a caso.

Agora, para tornar mais tranquila a vida dos moderadores, o Facebook anunciou que vai intensificar a utilização de inteligência artificial para reorganizar a fila de postagens, a fim de detectar as que requerem uma decisão mais rápida. A intenção é classificar as mensagens com base em três critérios: sua viralidade, sua gravidade e a probabilidade de estarem quebrando as regras da rede. A partir dessa classificação, o autor da postagem pode até mesmo ter a conta bloqueada.

De acordo com uma reportagem do portal norte-americano The Verge, os novos sistemas de filtragem incorporam um modelo denominado WPIE, sigla de “incorporação de integridade de postagem completa”, que usa uma “abordagem holística” para avaliar o conteúdo. Os algoritmos analisam vários elementos em conjunto em qualquer postagem, para descobrir o que os textos e as imagens podem de fato representar, com base em diferentes critérios. Quanto mais prejudicial e mais viral for a postagem, mais rápida deve ser sua avaliação.

Segundo o Facebook, a prioridade será usar IA para identificar as postagens mais importantes, como as que envolvem terrorismo, exploração infantil, automutilação e algumas outras questões. Postagens como spam, que podem irritar, mas não causam traumas, serão classificadas como menos importantes na primeira filtragem.

“Todas as violações de conteúdo ainda receberão alguma revisão humana substancial, mas usaremos esse sistema para priorizar melhor esse processo”, explicou Ryan Barnes, gerente de produto da equipe de integridade da comunidade do Facebook, durante uma coletiva de imprensa nos Estados Unidos.

Chris Palow, engenheiro de software do Facebook, disse que o trabalho dos moderadores continuará sendo essencial, mas agora eles terão um apoio mais significativo da tecnologia: “A inteligência artificial nunca será perfeita. O que propõe o novo sistema é o casamento entre a IA e os revisores humanos, para reduzir os erros totais”.

Compartilhe