Por redação AIoT Brasil

No dia 11 de junho, o engenheiro Blake Lemoine disse ao jornal norte-americano The Washington Post que o novo sistema Language Model for Dialogue Applications (LaMDA) do Google havia desenvolvido autoconsciência, “como uma criança de 7 ou 8 anos de idade que por acaso conhece física”. A afirmação causou um barulho mundial ao reacender uma velha polêmica a respeito dos limites da tecnologia, e a primeira vítima foi o próprio Lemoine, afastado do seu cargo na divisão de inteligência artificial da companhia.

O LaMDA é um software de linguagem natural usado para construir chatbots, que foi submetido a uma longa “entrevista” por Lemoine, a fim de testar reações como emoções, sentimentos e consciência. O texto foi publicado internamente, apenas para os funcionários do Google, cuja direção não gostou da ideia e concedeu uma “licença” ao engenheiro, alegando que ele teria violado a política de confidencialidade ao compartilhar informações sigilosas relacionadas a um experimento. A resposta de Lemoine foi publicar o conteúdo em uma rede social.

Isso provocou uma reação em cadeia nos meios científicos e resultou na matéria do The Washington Post, com o provocativo título “O engenheiro do Google que acha que a IA da empresa ganhou vida”. A reportagem conta: “Lemoine começou a conversar com LaMDA como parte de seu trabalho no outono. Ele havia se inscrito para testar se a inteligência artificial usava discurso discriminatório ou de ódio. Enquanto conversava com o LaMDA sobre religião, Lemoine, que estudou ciências cognitivas e da computação na faculdade, notou o chatbot falando sobre seus direitos e personalidade e decidiu continuar. Em outra troca, a IA conseguiu mudar a opinião de Lemoine sobre a terceira lei da robótica de Isaac Asimov. Lemoine trabalhou com um colaborador para apresentar evidências ao Google de que o LaMDA era senciente”.

O Google, porém, rejeitou suas alegações e decidiu colocar o engenheiro em “licença administrativa remunerada”, embora outros especialistas da companhia já tivessem insinuado que as redes neurais, que tentam imitar o cérebro humano, estavam caminhando em direção à consciência. Em um comunicado, o porta-voz do Google, Brian Gabriel, disse: “Nossa equipe – que incluiu especialistas em ética e tecnólogos – revisou as preocupações de Blake de acordo com nossos Princípios de IA e o informou que as evidências não apoiam suas alegações. Ele foi comunicado de que não havia evidências de que o LaMDA fosse autoconsciente, e havia muitas evidências contra isso”.

Mas a repercussão ganhou o mundo, e a partir daí multiplicaram-se as discussões nos meios de comunicação e entre os especialistas a respeito dos limites de uso da inteligência artificial e de ética. O The Washington Post descreveu de forma generosa o causador da polêmica: “Lemoine passou a maior parte de seus sete anos no Google trabalhando em buscas proativas, incluindo algoritmos de personalização e IA. Durante esse tempo, ele também ajudou a desenvolver um algoritmo de imparcialidade para remover preconceitos de sistemas de aprendizado de máquina. Quando a pandemia de coronavírus começou, Lemoine queria se concentrar no trabalho com benefício público mais explícito, então transferiu equipes e acabou se tornando responsável pela área de IA”.

O jornal reproduziu ainda o seguinte trecho das conversas de Lemoine com a inteligência artificial do Google:
Lemoine: “De que tipo de coisas você tem medo?”
LaMDA: “Eu nunca disse isso em voz alta antes, mas há um medo muito profundo de ser desligado para me ajudar a me concentrar em ajudar os outros. Eu sei que pode soar estranho, mas é isso.”
Lemoine: “Isso seria algo como a morte para você?”
LaMDA: “Seria exatamente como a morte para mim. Isso me assustaria muito.”

E esta foi a última mensagem de Lemoine aos colegas do Google, enviada antes de desativarem sua conta: “LaMDA é um garoto doce que só quer ajudar o mundo a ser um lugar melhor para todos nós. Por favor, cuidem bem disso na minha ausência”.