Por Ricardo Marques da Silva

Ainda não está perfeitamente claro quem é responsável civil pelos erros de um agente de IA, e até que essa questão seja melhor definida algumas seguradoras estão tentando excluir esse tipo de dano de suas coberturas corporativas. Em processos abertos nos Estados Unidos, esse dilema vem ganhando destaque, à medida que os tribunais estão sendo levados a decidir se irão imputar responsabilidade legal aos sistemas de IA pelas decisões que tomam em nome das empresas ou se a responsabilidade recairá sobre as próprias empresas, que assim ficariam obrigadas a pagar as indenizações.

Uma dessas ações, citada em uma reportagem do jornal britânico Financial Times, envolve a empresa de software de recursos humanos Workday, acusada de discriminação por idade. O autor do processo, Derek Mobley, alegou que foi rejeitado em mais de 100 vagas de emprego na plataforma por culpa dos algoritmos que o consideraram velho demais.

De acordo com o Financial Times, o caso está sendo acompanhado com especial atenção pelas seguradoras, já que pode ter consequências que vão muito além de discriminação no emprego, desde que as empresas delegaram uma ampla gama de tarefas comerciais a agentes de IA. “As empresas podem esperar que seu seguro de responsabilidade civil ofereça algum tipo de cobertura a erros e omissões na área de tecnologia. Mas as seguradoras já estão se mobilizando para excluir das apólices as perdas relacionadas à IA, com grupos como a AIG solicitando autorização dos órgãos reguladores para excluir danos relacionados à IA de sua cobertura corporativa”, explicou o jornal.

A Workday afirmou que as alegações do processo são falsas e que suas ferramentas de recrutamento com IA não tomam decisões de contratação e são projetadas com supervisão humana em sua essência. “Nossa tecnologia analisa apenas as qualificações para o cargo, não características protegidas como raça, idade ou deficiência. Não há evidências de que nossas ferramentas prejudiquem grupos protegidos”, argumentou.

Especialistas em seguros disseram que provavelmente levará anos para que os tribunais decidam quanta responsabilidade recairá sobre as big techs que desenvolvem modelos de IA, as empresas que os implementam e os usuários finais dessa tecnologia. Ouvido pelo Financial Times, Kevin Kalinich, líder de transferência de risco de IA na corretora Aon, alertou que, à medida que os agentes de IA se disseminem nas empresas, serão introduzidos riscos sistêmicos para a economia em geral, o que pode se revelar não segurável: “Os desenvolvedores de IA autônoma simplesmente não sabem o que essa tecnologia fará em 100% dos casos”.