AiotAiot


Empresas estão preocupadas com a segurança da IA generativa

Estudo patrocinado pelo SAS mostra que 93% das empresas dos EUA ainda não têm uma estrutura de governança para a tecnologia

23/04/2024

Empresas estão preocupadas com a segurança da IA generativa
Tamanho fonte

Por redação AIoT Brasil

Os líderes das empresas norte-americanas estão entusiasmados com o potencial da inteligência artificial generativa para aumentar a produtividade dos negócios e das pessoas, mas demonstram sérias preocupações com a privacidade e a segurança de dados. Além disso, percebem lacunas de compreensão, falta de planejamento estratégico e escassez de talentos como obstáculos à percepção e à mensuração do valor total da tecnologia.

Esse cenário foi delineado com base no estudo “Generative AI Challenges and Potential Unveiled: How to Achieve a Competitive Advantage”, conduzido no início deste ano pela Coleman Parkes Research e patrocinado pela plataforma de IA SAS. A pesquisa ouviu 300 executivos norte-americanos responsáveis pela estratégia de IA generativa e análises de dados para verificar as principais áreas de investimento e os obstáculos enfrentados pelas organizações, e 80% dos líderes relataram dúvidas quanto à segurança dos dados.

De acordo com o estudo, apenas 10% das organizações contam com um sistema confiável de compliance para avaliar o viés e o risco de privacidade em grandes modelos de linguagem (LLMs). Além disso, 93% das empresas dos Estados Unidos ainda não têm uma estrutura de governança abrangente para a IA generativa, e a maioria enfrenta o risco de não conformidade com as regulamentações.

Ao analisar a pesquisa, Marinela Profi, consultora estratégica de IA do SAS, destacou que as empresas têm percebido que os grandes modelos de linguagem por si só não resolvem os desafios dos negócios: “A IA generativa precisa ser vista como uma forma ideal de colaborar para a hiperautomação e a otimização dos processos e sistemas existentes, e não como o novo brinquedo para que empresas realizem suas aspirações comerciais. O tempo gasto no desenvolvimento de uma estratégia progressiva e o investimento na tecnologia que oferece integração, governança e explicabilidade dos LLMs são etapas cruciais para todas as organizações antes de se arriscarem e acabarem bloqueadas”, explicou.

Os líderes disseram que enfrentam obstáculos em outras áreas importantes de implementação, entre as quais a integração da IA generativa aos sistemas e processos existentes, a falta de profissionais qualificados para lidar com a tecnologia e os altos custos diretos e indiretos envolvidos. Marinela Profi acrescentou: “Tudo se resumirá à identificação de casos de uso no mundo real que ofereçam o maior valor e resolvam demandas humanas de forma sustentável e escalonável”.

O SAS disse que o relatório relacionado às entrevistas com os executivos dos Estados Unidos faz parte de um estudo global que deverá ouvir 1.600 líderes em todo o mundo, com divulgação prevista para julho deste ano.

TAGS

#IA generativa#inteligência artificial generativa#privacidade#SAS#segurança#segurança de dados

COMPARTILHE

Notícias Relacionadas