Durante os últimos anos, grande parte da discussão sobre inteligência artificial esteve concentrada naquilo que os modelos são capazes de gerar: textos, imagens, códigos, análises e respostas cada vez mais sofisticadas. Agora, estamos entrando em uma nova etapa. A IA não apenas responde. Ela começa a raciocinar, planejar, tomar decisões e agir.

Essa mudança representa muito mais do que uma evolução tecnológica. Quando um sistema de IA deixa de produzir uma recomendação e passa a executar uma ação, segurança e confiança ganham uma dimensão completamente diferente.

Esse debate se torna ainda mais relevante conforme avançamos em direção à IA física. Agentes inteligentes começam a fazer parte de ambientes conectados, como fábricas, data centers, sistemas de logística, cidades inteligentes e infraestruturas críticas. São contextos nos quais decisões digitais podem produzir consequências concretas no mundo físico.

Imagine um agente responsável por identificar uma anomalia em uma linha de produção e ajustar automaticamente um equipamento. Ou outro capaz de redistribuir cargas computacionais dentro de um data center para aumentar sua eficiência. Em aplicações desse tipo, não basta perguntar se o modelo é preciso. Precisamos saber quem autorizou aquela ação, quais recursos o agente pode acessar, quais limites foram estabelecidos e como cada decisão poderá ser rastreada posteriormente. Quanto mais autonomia damos à inteligência artificial, mais sofisticada precisa ser a arquitetura de confiança ao seu redor.

E essa preocupação já começa a aparecer na prática. Uma pesquisa publicada pela Cloud Security Alliance em 2026 mostra que quase metade das organizações pesquisadas já registrou algum incidente de segurança relacionado a agentes de IA. O levantamento também aponta uma distância entre a velocidade de adoção dessas tecnologias e a capacidade das empresas de manter inventários atualizados dos agentes, aplicar mecanismos consistentes de autorização em tempo real e garantir rastreabilidade sobre suas ações.

Historicamente, boa parte da cibersegurança foi construída em torno da proteção de usuários, dispositivos, redes, aplicações e dados. A IA agêntica adiciona uma nova camada a essa equação: sistemas capazes de operar de maneira autônoma, interagir com diferentes ferramentas e executar fluxos complexos com menor necessidade de intervenção humana. Isso amplia significativamente a superfície que precisa ser protegida.

Um agente de IA não é apenas um modelo. Ele faz parte de um sistema composto por dados, ferramentas, permissões, mecanismos de controle e outros componentes. Por isso, proteger somente os modelos ou restringir o acesso aos dados já não será suficiente.

Será necessário garantir a identidade dos agentes e serviços com os quais eles interagem, definir permissões claras, isolar ambientes quando necessário, registrar suas atividades, avaliar continuamente seu comportamento e estabelecer mecanismos capazes de interromper ações fora dos limites previstos.

Não por acaso, novos referenciais de segurança começam a olhar especificamente para essa realidade. A OWASP, uma das principais comunidades internacionais dedicadas à segurança de aplicações, já publicou uma lista dos dez principais riscos associados a aplicações agênticas. Entre eles estão ameaças relacionadas ao uso indevido de ferramentas, abuso de identidade e privilégios e manipulação do comportamento dos agentes. É um sinal importante de como a discussão sobre segurança está deixando de olhar apenas para o modelo e passando a considerar todo o ambiente no qual ele opera.

A pergunta, portanto, deixa de ser somente “podemos confiar neste modelo?” e passa a ser: podemos confiar em todo o ecossistema que permite a esse agente perceber, decidir e agir?

É nesse contexto que iniciativas colaborativas ganham importância. Recentemente, a NVIDIA, ao lado de empresas de diferentes segmentos, anunciou a Open Secure AI Alliance, iniciativa voltada ao desenvolvimento e compartilhamento de tecnologias, técnicas e ferramentas abertas para aumentar a segurança de softwares e agentes na era da IA.

A proposta parte de um princípio importante: nenhum participante desse ecossistema conseguirá enfrentar sozinho todos os desafios de segurança que surgem com sistemas cada vez mais autônomos. À medida que agentes passam a interagir com modelos, aplicações, plataformas, sensores e máquinas de diferentes fornecedores, padrões compartilhados de segurança e interoperabilidade tornam-se fundamentais.

A transparência também desempenha um papel relevante. Sistemas que possam ser inspecionados, testados e aprimorados por uma comunidade ampla de pesquisadores e especialistas permitem que vulnerabilidades sejam identificadas e corrigidas de maneira colaborativa. Isso não significa que sistemas abertos sejam automaticamente seguros, assim como sistemas fechados não são automaticamente inseguros. O ponto central é outro: segurança não pode depender de confiança cega. Ela precisa ser verificável.

E essa necessidade tende a crescer. A IA do futuro dificilmente será composta por um único agente trabalhando isoladamente. Teremos ecossistemas nos quais diferentes agentes, modelos, aplicações, sensores, máquinas e plataformas precisarão colaborar.

Uma fábrica inteligente, por exemplo, pode reunir sistemas responsáveis por produção, inspeção visual, manutenção preditiva e logística. Um data center poderá ter agentes monitorando infraestrutura, energia, refrigeração e cargas computacionais simultaneamente. Em uma cidade inteligente, diferentes sistemas poderão participar da gestão de mobilidade, energia e serviços públicos.

Quanto maior esse ecossistema, mais importante será saber quem está solicitando determinada ação, quais permissões possui e até onde pode ir. Identidade, governança, rastreabilidade e interoperabilidade deixam, portanto, de ser questões periféricas e passam a fazer parte da própria arquitetura da IA.

A confiança será o que permitirá escalar

No mundo físico, essa discussão ganha ainda mais peso. Um erro em uma resposta de um chatbot pode gerar uma informação incorreta. Uma decisão equivocada de um sistema que controla uma máquina, um robô ou parte de uma infraestrutura crítica pode produzir consequências muito mais significativas.

Por isso, segurança não pode ser uma camada adicionada depois que os sistemas já estão em produção. Ela precisa nascer junto com a aplicação. Testes, validação, rastreabilidade, mecanismos de controle e limites de atuação devem fazer parte do desenvolvimento desde o início.

Isso exige também uma mudança de mentalidade dentro das organizações. Segurança não poderá ser responsabilidade exclusiva das equipes de cibersegurança. Desenvolvedores, engenheiros, fabricantes, provedores de infraestrutura e gestores precisarão pensar conjuntamente sobre como esses sistemas serão construídos, implementados e supervisionados.

Durante muito tempo, medimos a evolução da inteligência artificial principalmente por capacidade: modelos mais avançados, respostas melhores, raciocínio mais sofisticado e sistemas cada vez mais autônomos. Na era dos agentes, talvez seja necessário acrescentar uma nova medida a essa equação: o quanto podemos confiar nesses sistemas para agir.

Empresas não colocarão agentes no centro de suas operações simplesmente porque eles são capazes de executar determinada tarefa. Elas farão isso quando puderem ter confiança de que esses agentes operam dentro de limites definidos, que suas ações podem ser compreendidas e auditadas e que existem mecanismos para responder rapidamente quando algo foge do esperado.

Nesse cenário, segurança não será um obstáculo à inovação. Será justamente o que permitirá que ela ganhe escala.

A próxima geração da inteligência artificial será marcada por sistemas cada vez mais autônomos e presentes no mundo físico. A capacidade de construir esses sistemas avança rapidamente. O desafio agora é garantir que os mecanismos de segurança, governança e confiança avancem na mesma velocidade.