Por redação AIoT Brasil

Em uma iniciativa apoiada por gigantes da tecnologia, foi lançado nesta semana o projeto de código aberto Coalition for Secure AI (CoSAI), que oferecerá a desenvolvedores e a outros profissionais a orientação e as ferramentas necessárias para a criação de sistemas de IA Secure-by Design. A coalizão ficará hospedada no órgão de padrões globais Oasis Open e pretende promover um ecossistema colaborativo para compartilhar metodologias de código aberto e estruturas padronizadas.

Entre os fundadores do CoSAI estão empresas como Google, IBM, Intel, Microsoft, Nvidia, PayPal, Amazon, Anthropic, Cisco, Chainguard, Cohere, GenLab, OpenAI e Wiz, além de especialistas, acadêmicos e líderes do setor. De acordo com os responsáveis pela iniciativa, o objetivo básico é aumentar a confiança e a segurança no uso e na implantação de IA.

Seu escopo é amplo: construir, integrar, implantar e operar sistemas de IA com segurança, com foco na mitigação de riscos como roubo de modelos, invasão de dados, abuso em escala e ataques de inferência. O projeto também planeja desenvolver medidas de segurança abrangentes a respeito dos riscos clássicos e exclusivos dos sistemas de IA.

A CoSAI e sua comunidade de código aberto serão lideradas por um conselho de administração de projetos encarregado de promover e gerenciar a agenda técnica geral e por um comitê de direção técnica com especialistas em IA do meio acadêmico e do setor, que supervisionarão os fluxos de trabalho.

Os organizadores da coalizão destacaram que, atualmente, proteger aplicativos e serviços de IA se baseia apenas em um esforço fragmentado: “Os desenvolvedores lidam com uma colcha de retalhos de diretrizes e padrões que geralmente são inconsistentes e isolados. Avaliar e mitigar riscos específicos e prevalentes de IA sem melhores práticas claras e abordagens padronizadas é um desafio significativo até mesmo para as organizações mais experientes”, explicaram.

David LaBianca, do Google, um dos copresidentes do CoSAI Governing Board, disse que o estabelecimento da coalizão se sustentou na necessidade de democratizar o conhecimento e os avanços essenciais para a integração e implantação seguras da IA: “Com a ajuda do Oasis Open, estamos ansiosos para continuar esse trabalho de colaboração entre empresas líderes, especialistas e academia”, afirmou.

Inicialmente, serão formados três grupos de trabalho, dedicados à segurança da cadeia de suprimentos de software para sistemas de IA, à preparação de mais segurança e proteção em um cenário de segurança cibernética em constante mudança e à governança de IA. Ao longo do tempo, outros grupos de trabalho deverão ser adicionados.