Por André Novo*

Com o volume de dados gerados constantemente por empresas, a implementação de práticas de ética e de projetos de inteligência artificial de forma responsável tem se tornado uma consideração que entra cada vez mais no radar de tomadores de decisão. Neste artigo, falo sobre os desafios e caminhos para organizações que buscam trilhar essa evolução e evitar danos, vieses e outros impactos negativos aos diversos stakeholders.

Quando o assunto é o uso de IA e tecnologias correlatas como machine learning, empresas dos mais diversos setores estão diante de uma série de oportunidades que podem gerar impactos positivos nos negócios. Porém, se desenvolvidas e implementadas sem os devidos controles e supervisão humana, a inteligência artificial pode, sim, causar prejuízos.

De forma geral, ter responsabilidade significa saber dos desdobramentos das nossas ações e fazer o que precisa ser feito para que esses desdobramentos não coloquem alguém em perigo ou causem consequências que não tinham sido previstas. Traduzindo isso para o mundo da tecnologia, a abordagem de IA ética e responsável visa, além de prevenir eventuais impactos negativos para a reputação de uma empresa, garantir a equidade e a justiça em cada passo da jornada de inovação, mantendo as pessoas no centro.

Apesar de uma abordagem responsável ser a coisa certa a se fazer quando se trata do uso de IA em uma empresa, não quer dizer que este é um processo simples. Existem entraves que podem dificultar o avanço nessa agenda, e um deles é a falta de maturidade analítica das empresas, ou seja, a incapacidade de analisar e compreender corretamente os dados que estão sendo coletados e analisados pelas companhias. Sem essa habilidade fundamental, fica difícil estabelecer diretrizes e normas éticas e responsáveis para o uso desses dados.

Um dos principais riscos para as empresas na hora de inovar por meio de IA é a questão dos vieses, ou seja, a ocorrência de resultados tendenciosos que distorcem a realidade, sendo potencialmente prejudiciais. Mas a boa notícia é que já há organizações inovadoras e comprometidas que podem auxiliar as empresas nesse processo. Hoje, há maneiras de visualizar, avaliar e detectar vieses potenciais ao longo do ciclo de vida do modelo. É possível identificar vieses potenciais em um estágio muito anterior e, portanto, reduzir o risco operacional, financeiro e emocional envolvido.

Por isso a escolha de um parceiro é tão importante, e neste contexto é imprescindível que o foco esteja na responsabilidade e governança. Afinal, a IA ética é aquela que é executada de ponta a ponta, garantindo auditabilidade em todos os estágios.

O equilíbrio entre inovação em IA e a manutenção de um padrão ético elevado é um grande desafio para as empresas, e esta deve continuar a ser uma questão que os tomadores de decisão deverão se deparar com frequência. Mas o cuidado no uso dos dados, sejam eles próprios ou de terceiros, deve ser sempre a prioridade, garantindo a privacidade e a transparência em todo o processo.

Embora ainda não exista uma regulamentação específica sobre ética em IA no Brasil, este é um debate em andamento. Com isso em mente, as empresas devem começar a discutir o tema internamente, de olho na evolução das futuras regras que irão reger o uso de inteligência artificial no país.

Em um contexto em que a IA ocupará um papel central para os resultados de negócios, interesse no assunto e proatividade serão essenciais para evitar problemas futuros, como a perda de confiança dos clientes e a necessidade de adaptações rápidas e custosas quando a regulamentação finalmente for estabelecida. Para organizações focadas em preservar seu relacionamento com o cliente e evitar riscos para a reputação corporativa, a conversa sobre IA responsável precisa ir para um próximo nível – ou começar a acontecer o quanto antes.

*André Novo é country manager do SAS Brasil