Já deixou de ser novidade o uso de recursos de IA para identificar e monitorar adversários políticos ou grupos específicos de pessoas, como faz o ICE nos Estados Unidos na cruzada do governo Trump contra imigrantes. Porém, segundo o jornal The New York Times, a China quer ir além e, para isso, estimula o desenvolvimento de uma ferramenta capaz não apenas de sinalizar esses indivíduos, mas também de prever quais poderiam, no futuro, se tornarem dissidentes.

No centro da polêmica está a Geedge Networks, empresa chinesa que vende uma versão comercial de um software de vigilância e censura usado para controlar atividades online e o tráfego na internet. De acordo com o NY Times, a Geedge teria exportado seu software de segurança de rede para países como Etiópia, Cazaquistão, Mianmar e Paquistão, para a vigilância em massa em redes móveis.

O novo e mais ambicioso plano envolvendo a empresa, segundo o jornal, teria sido descoberto por pesquisadores da Universidade Vanderbilt, de Nashville, Tennessee. A Geedge, em parceria com seu braço de pesquisa Mesa Lab, financiado pelo governo chinês, estaria desenvolvendo uma tecnologia capaz de gerar perfis de cidadãos e, em seguida, usar IA para identificar quem poderia se tornar um potencial risco político.

O obstáculo mais importante nesse desenvolvimento é o rigoroso controle de exportação dos chips que alimentam a inteligência artificial projetados nos Estados Unidos, especialmente os da Nvidia, uma restrição que pode ter retardado a próxima geração de tecnologia de vigilância da China. O NY Times disse que a Geedge tem acesso a unidades de processamento gráfico suficientes para seus produtos atuais, mas, para implementar a versão mais avançada de sua tecnologia preditiva, precisaria de chips que a China não consegue adquirir.

Para especialistas norte-americanos, o uso da IA ​​para prever dissidências muito antes de uma pessoa se manifestar contra o governo é um “cenário de pesadelo” inspirado em ficção científica distópica, como o “Big Brother” de George Orwell. Brett Goldstein, diretor do Laboratório de Problemas Complexos do Instituto de Segurança Nacional da Universidade Vanderbilt, disse ao jornal: “É isso o que acontece quando a vigilância em massa encontra a IA”.