Em um comunicado divulgado na sexta-feira, a empresa de inteligência artificial Anthropic anunciou a decisão de “desativar abruptamente” para todos os seus clientes os modelos avançados de IA Claude Fable 5 e Mythos 5. O motivo, segundo a companhia, foi a emissão de uma diretiva de controle de exportação do governo norte-americano “para suspender todo o acesso ao Fable 5 e ao Mythos 5 por qualquer cidadão estrangeiro, dentro ou fora dos Estados Unidos, incluindo funcionários estrangeiros da Anthropic”.

Ao emitir a diretiva, a administração de Donald Trump alegou questões de segurança nacional, sem detalhar os motivos, em uma das ações de maior alcance relacionadas às capacidades avançadas de um modelo de IA. “Entendemos que o governo acredita ter descoberto um método para burlar ou ‘quebrar’ o Fable 5. Analisamos uma demonstração dessa técnica específica sendo usada para identificar um pequeno número de vulnerabilidades menores já conhecidas. Todas essas vulnerabilidades parecem relativamente simples, e descobrimos que outros modelos disponíveis publicamente também conseguem detectá-las sem a necessidade de burlar o sistema”, respondeu a Anthropic.

Depois de pedir desculpas por “este transtorno causado aos clientes”, a empresa disse acreditar que se trata de um mal-entendido: “Estamos trabalhando para restabelecer o acesso o mais rápido possível”, acrescentou.

De acordo com a Anthropic, as medidas de proteção implementadas no Fable reduziram significativamente a probabilidade de o modelo ser usado indevidamente para tarefas relacionadas à segurança cibernética. “Nas semanas que antecederam o lançamento de Fable, trabalhamos com o governo dos EUA, com o AISI do Reino Unido e com diversas organizações privadas terceirizadas e equipes internas para realizar testes de intrusão nas medidas de segurança de Fable, totalizando milhares de horas. Esses testes demonstraram que as medidas de segurança do Fable são substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente”, afirmou a empresa.

Ao comentar a desativação das IAs, a CNN explicou que o Mythos, o modelo mais recente da Anthropic, assustou o governo dos Estados Unidos e Wall Street com suas capacidades, que, segundo especialistas, podem explorar vulnerabilidades de segurança cibernética em um ritmo sem precedentes. “O modelo foi considerado tão poderoso que a Anthropic inicialmente limitou seu lançamento a um grupo de parceiros-chave para proteger o software mais crítico do mundo. A Anthropic lançou o Fable 5 na semana passada como uma versão do Mythos segura para uso geral”, explicou a reportagem.

No comunicado oficial divulgado no dia 12, a Anthropic esclareceu: “Estamos cumprindo a diretriz legal do governo e removendo o acesso ao Fable 5 e ao Mythos 5 para todos os usuários. No entanto, discordamos da possibilidade de que a descoberta de uma possível vulnerabilidade de jailbreak, ainda que limitada, deva ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas. Se esse padrão fosse aplicado a todo o setor, acreditamos que isso praticamente paralisaria todas as novas implementações de modelos por parte de todos os principais fornecedores”.