Por redação AIoT Brasil

À medida que crescem rapidamente os riscos envolvidos na aplicação de ferramentas de inteligência artificial, haverá também uma considerável expansão no uso de tecnologias de agentes guardiões, projetados para oferecer interações mais confiáveis e seguras. Essa previsão foi feita pela consultoria internacional Gartner, que destacou a crescente necessidade de barreiras de proteção eficazes contra as várias categorias de ameaças que afetam as pessoas e as organizações, entre as quais a manipulação de entradas e o envenenamento de dados.

Segundo a Gartner, até 2030 os agentes guardiões deverão representar pelo menos de 10% a 15% do mercado de IA agêntica, um sistema que pode atingir um objetivo específico com supervisão limitada e consiste de modelos de aprendizado de máquina que imitam a tomada de decisão humana para resolver problemas em tempo real. Diferentemente dos modelos de IA tradicionais, que operam com restrições predefinidas e requerem intervenção humana, a IA agêntica possui autonomia, comportamento orientado a objetivos e adaptabilidade. Em resumo, “agêntica” define a capacidade de agir de forma independente e proposital.

Nesse contexto, os guardiões atuam como assistentes de IA que apoiam os usuários em tarefas como revisão, monitoramento e análise de conteúdo e como agentes evolutivos semi-autônomos ou totalmente autônomos, capazes de formular e executar planos de ação e redirecionar ou bloquear iniciativas para alinhá-las com os objetivos predefinidos.

Avivah Litan, vice-presidente analista do Gartner, disse que a agêntica levará a resultados indesejados se não for controlada com as proteções certas: “Os agentes guardiões aproveitam um amplo espectro de recursos de IA agêntica e avaliações determinísticas baseadas em IA para supervisionar e gerenciar toda a gama de capacidades do agente, equilibrando a tomada de decisões em tempo de execução com o gerenciamento de riscos”, explicou.

Em maio, o Gartner fez uma pesquisa com 147 líderes em TI e constatou que 24% deles já haviam implementado menos de uma dúzia de agentes de IA e outros 4% haviam integrado mais de uma dúzia. Metade dos entrevistados afirmou que estava pesquisando e experimentando a tecnologia, enquanto 17% disseram ainda não ter feito isso, mas que planejavam implementá-la até o fim de 2026, no máximo.

Segundo a consultoria, os riscos da IA agêntica envolvem, por exemplo, sequestro e abuso de credenciais que levam a controle não autorizado e roubo de dados, agentes que interagem com sites e fontes falsas ou criminosas que podem resultar em ações envenenadas e desvios, além de comportamentos não intencionais devido a falhas internas ou gatilhos externos que podem causar danos à reputação e interrupção operacional. “A rápida aceleração e o aumento da autonomia dos agentes de IA exigem uma mudança para além da supervisão humana tradicional”, alertou Avivah Litan.