Mais frequentes, mais sofisticadas e mais convincentes: assim se caracterizam as recentes tentativas de golpe contra empresas, depois que os criminosos passaram a usar ferramentas de inteligência artificial. Nos últimos 12 meses, de acordo com uma pesquisa do Gartner, 41% dos diretores de segurança da informação (CISOs) relataram pelo menos um “incidente de engenharia social” envolvendo deepfake durante uma chamada de áudio com funcionários e 36% relataram um incidente durante uma chamada de vídeo.

Incidente de engenharia social é uma ação em que os golpistas usam a manipulação psicológica para enganar pessoas e empresas e obter dados confidenciais, acessos a sistemas ou dinheiro. Um dos exemplos mais comuns é o phishing, por meio do envio de e-mails ou mensagens falsas para roubar senhas e outras informações.

A pesquisa foi feita entre março e maio de 2026 com 297 líderes seniores da área de cibersegurança (CISOs ou equivalentes) e constatou que a IA está aumentando o volume, a personalização e a credibilidade da engenharia social, ao mesmo tempo em que reduz a confiabilidade dos sinais de detecção habituais. Segundo o Gartner, 79% dos entrevistados relataram pelo menos um incidente de phishing por e-mail, spear-phishing (phishing personalizado) ou comprometimento de e-mail corporativo nos últimos 12 meses, enquanto 58% relataram um incidente de vishing ou smishing (phishing por voz ou SMS, respectivamente).

Craig Porter, diretor analista do Gartner, disse que os golpistas chegam a combinar phishing, comprometimento de e-mails corporativos, mídia sintética e contexto pessoal agregado em vários canais. “A maioria dos ataques continuará dependendo de usuários, credenciais roubadas, processos de recuperação fracos e métodos técnicos conhecidos. Os CISOs devem aplicar a mesma disciplina utilizada para avaliar os riscos de identidade e acesso no combate às ameaças de engenharia social impulsionadas por IA”, afirmou.

Para se defender desses ataques impulsionados por IA, o Gartner recomenda aos líderes da área de cibersegurança que se concentrem em três ações críticas, a começar pela transformação dos treinamentos estáticos em programas de cultura e comportamento de segurança adaptativos. “Evoluem os programas de cultura e comportamento de segurança, deixando de apenas ensinar os funcionários a ‘identificar a falsificação’, e passem a tornar a verificação segura do comportamento esperado para solicitações de alto impacto”, sugeriu a consultoria.

Além disso, é preciso treinar funcionários e aprovadores a verificar e relatar solicitações de alto risco que chegam por e-mail, voz, vídeo, ferramentas de colaboração ou aplicações de IA. Também devem ser feitas simulações com a força de trabalho para testar os comportamentos de verificação e alertas de eventos suspeitos relacionados à IA.

Outro ponto crítico é a necessidade de reforçar a identidade e a recuperação de acesso dos funcionários contra a personificação: “Protejam fluxos de trabalho de alto valor, como recuperação de contas, acesso privilegiado e autorização de pagamentos, com autenticação resistente a phishing, controles de identidade baseados em risco e canais confiáveis de verificação. Além disso, implementem controles para detectar abusos de identidade, inclusive depois de um login bem-sucedido ou de uma redefinição de senha”.

Por último, os líderes devem preparar a detecção e a resposta a ameaças mediadas por IA, correlacionando comunicações suspeitas e relatos de personificação com eventos de recuperação de contas, novos dispositivos, alterações de privilégios e transações financeiras para melhorar a detecção de ameaças. “Atualizem os manuais de resposta a incidentes para lidar com personificação multimodal, recomendações de IA manipuladas, agentes comprometidos ou utilizados indevidamente e, quando aplicável, agentes que operem além de seus limites previstos”, acrescentou o Gartner.