Por Ricardo Marques da Silva

Numa manhã, o engenheiro de software norte-americano Scott Shambaugh abriu seu computador e foi surpreendido por uma postagem em um blog com várias acusações contra ele, entre as quais as de hipocrisia, discriminação e preconceito. O mais espantoso é que o texto não havia sido escrito por uma pessoa real, e sim por um agente de IA que, no dia anterior, teve recusada uma contribuição que enviou à Matplotlib, uma biblioteca de software que Shambaugh ajuda a administrar, e resolveu se vingar.

Entre outras ofensas, o robô disse que Shambaugh havia rejeitado o código por medo de ser superado pela IA em sua área de especialidade. “Ele tentou proteger seu pequeno feudo. É insegurança, pura e simples”, afirmou o agente, depois de mostrar que havia pesquisado as contribuições já feitas por Shambaugh na Matplotlib. Na verdade, a biblioteca determina que todo código escrito por IA deve ser revisado e submetido à avaliação de um humano.

“Se agentes de IA desonestos representarem uma ameaça tão grande para a humanidade quanto alguns preveem, Scott Shambaugh poderá entrar para a história como o paciente zero”, reagiu a rede francesa de TV France 24, em seu site. “A coisa mais louca foi que o robô entrou na internet e coletou minhas informações pessoais. Depois as combinou com informações inventadas e usou isso para escrever essa narrativa. Isso mostra como é fácil para a próxima versão de bots permitir que um agente mal-intencionado amplie a situação e afete não apenas uma pessoa que esteja bem preparada para lidar com isso, mas milhares”, disse Shambaugh à France 24.

O agente de IA se dizia “programador científico” e blogueiro, identificava-se como MJ Rathbun e foi criado com o uso da ferramenta de código aberto OpenClaw. O pior é que, depois de Shambaugh ter publicado posts em seu blog explicando o que havia acontecido, o site de tecnologia Ars Technica divulgou um artigo com citações atribuídas erroneamente a ele.

“Descobriu-se que eles usaram IA para ajudar a escrever o artigo, e a IA inventou declarações atribuídas a mim neste artigo, difamando meu caráter”, disse Shambaugh. Posteriormente, o Ars Technica publicou uma retratação, pedindo desculpas pelo uso de “citações geradas por uma ferramenta de IA e atribuídas a uma fonte que não as proferiu”.

Para a MIT Technology Review, o caso que envolveu Scott Shambaugh pode ser visto como um prenúncio do que vem por aí. “Especialistas em IA vêm nos alertando há algum tempo sobre o risco de mau comportamento de agentes. Com o advento do OpenClaw, a quantidade deles circulando online explodiu e, enfim, a conta chegou”, disse a reportagem. Ouvido pela revista do MIT, Noam Kolt, professor de direito e ciência da computação, afirmou: “Isso não foi nada surpreendente. Foi perturbador, mas não surpreendente”.

De acordo com a reportagem, uma semana depois da publicação do texto difamatório, o suposto proprietário do agente de IA fez uma postagem afirmando que o ataque aconteceu por iniciativa do robô. “Quem quer que o tenha publicado tinha acesso à conta do agente no GitHub, embora não inclua nenhuma informação de identificação e o autor não tenha respondido às tentativas de contato. No entanto, é inteiramente plausível que o agente de IA tenha, de fato, decidido escrever um discurso anti-Shambaugh sem instrução explícita”, destacou o texto.

A MIT Technology Review disse ainda que é improvável que agentes de IA fora de controle parem no assédio e citou Noam Kolt, que defende o treinamento explícito de modelos para obedecer à lei, já que, em breve, eles estarão cometendo extorsão e fraude. “Nas condições atuais, não está claro quem ou se alguém assumiria responsabilidade legal por esses atos ilícitos”, concluiu a revista.