*Foto: Reprodução Agência de Direitos Fundamentais da União Europeia

Por redação AIoT Brasil

A inteligência artificial afeta a vida de bilhões de pessoas em todo o mundo e envolve desde o rastreamento da pandemia de Covid-19 até a decisão de quem deve receber benefícios sociais. Tem potencial para proporcionar incontáveis benefícios, especialmente no setor de saúde. Porém, a tecnologia não é infalível e pode levar a erros capazes de prejudicar muita gente, criar situações injustas e violar os direitos humanos. Por isso requer regras mais claras para identificar as armadilhas e evitar problemas como abuso de autoridade.

Essa é a conclusão de um relatório elaborado pela Agência de Direitos Fundamentais (FRA, na sigla em inglês) da União Europeia, que se concentrou em quatro áreas: benefícios sociais, policiamento preventivo, serviços de saúde e publicidade direcionada. O documento alerta para a necessidade de mais transparência na aplicação de recursos de inteligência artificial, como forma de proteger os direitos individuais.

“A inteligência artificial é feita por pessoas, e as pessoas podem cometer erros. É por isso que todos precisam estar cientes de quando e como a IA é usada, como funciona e como lidar com decisões automatizadas”, disse Michael O’Flaherty, diretor da FRA, em comunicado da agência. “A União Europeia precisa esclarecer como as regras existentes se aplicam à IA. E as organizações precisam avaliar como suas tecnologias podem interferir nos direitos das pessoas, tanto no desenvolvimento quanto no uso de IA. Precisamos moldar uma forma de aplicação de IA que não apenas respeite os direitos humanos fundamentais, mas que também os proteja e os promova”, acrescentou O’Flaherty.

O relatório apresentou exemplos concretos de como as empresas e administrações públicas dos 27 Estados-membros da União Europeia estão usando ou tentando usar IA e apelou aos formuladores de políticas para que forneçam mais orientações sobre como as regras existentes se aplicam à tecnologia e assegurem que as leis futuras protejam os direitos fundamentais. Em resumo, a FRA apresentou seis recomendações à União Europeia:

. Certificar-se de que a IA respeita todos os direitos fundamentais – A IA pode afetar muitos direitos, não apenas a privacidade ou a proteção de dados. Também pode discriminar ou comprometer a justiça. Qualquer futura legislação de IA deve considerar isso e criar salvaguardas eficazes.

. Garantir que as pessoas possam contestar as decisões tomadas por meio de inteligência artificial – As pessoas precisam saber quando e como a IA é usada e como e onde reclamar. As organizações que usam esse tipo de tecnologia precisam ser capazes de explicar como seus sistemas tomam decisões.

. Avaliar a IA antes e durante seu uso, para reduzir os impactos negativos – Organizações privadas e públicas devem realizar avaliações de como ela pode prejudicar os direitos fundamentais.

. Fornecer mais orientações sobre as regras de proteção de dados – A União Europeia deve esclarecer melhor como as regras de proteção de dados se aplicam a essa tecnologia. Mais clareza também é necessária em relação às implicações da tomada de decisão automatizada e o direito à revisão humana.

. Avaliar se ela discrimina – A consciência do potencial da IA para discriminar é relativamente baixo. Isso exige mais financiamento de pesquisas para investigar os efeitos potencialmente discriminatórios, para que a Europa possa se proteger.

. Criar um sistema eficaz de supervisão – A União Europeia deve investir em um sistema mais integrado para responsabilizar as empresas e as administrações públicas que utilizam IA. As autoridades precisam garantir que os órgãos de supervisão tenham recursos e habilidade para realizar esse trabalho.